退伍而就读于基尔大学，攻读国家法和社会博士。
他的求知欲在这里受到激发。对他一生影响最大的就是他在这里结识的科尔特·格拉契教授。格拉契是一位早年留学英国的经济学博士；对政治怀有满腔的热情，他本人则具有强烈的左翼思想，对青年人影响很大，他孜孜不倦、诲人不厌的态度亦令年轻人敬爱。佐尔格所参加的学习小组常在他家中集会。在德意志帝国势必战败的气氛中，他们热烈地讨论社会主义和共产主义学说。佐尔格的革命信念更加坚定了。
不久以后，佐尔格便加入了新成立的德国共产党，在此同时，他从基尔搬到汉堡，继续完成他的博士论文的最后部份。同时他又积极地参与建立青年人的马克思主义学习小组、培训党的地方组织干部。筹建党的地下支部等工作。他的公开职务则是大学助教、煤矿工人、报纸编辑和记者等。他还作为地区代表出席德国共产党第七次代表大会。也就在这段时间里，他同克里斯蒂阿尼结了婚，她当时也正在攻读博士学位。
1923年下半年，莫斯科马克思主义学院院长来到德国，佐尔格在柏林和法兰克福两次与他见面，从此开始接触苏联共产党。第二年4月，德共第九次代表大会在法兰克福召开，苏联派了一个由6人组成的代表团参加，其中有苏联军事情报局即红军四局的成员。佐尔格再次与前苏联共产党接触，这次见面是佐尔格人生旅途上的重要转折点。四局的特工人员早已注意到佐尔格的表现和他的经历了，认为佐尔格是一位理想的特工人眩经过几次谈话之后，四局的人说：〃你若有兴趣加入四局的话，就到莫斯科来罢。〃佐尔格欣然表示同意。
1924年10月，经过德国共产党的精心安排，佐尔格持合法的德国学生旅行护照，偕妻子途经柏林前往莫斯科。
2．3 莫斯科——中国之行
佐尔格一到莫斯科就受到了上等的礼遇。他们被安排在卢克斯饭店住下，四局局长别尔津将军亲自登门造访。初次见面，别尔津就被这位精明、富有活力的德国人所吸引。他们还一起讨论共产国际的情报来源和军事情报与政治情报的关系等问题。佐尔格敏锐的政治头脑。渊博的国际知识和对国际事务的精辟见解和分析给将军留下了深刻的印象。在佐尔格看来，苏联共产党富有生气，是世界各国进步组织的中坚力量，能为这样一个组织贡献一份力量，正是他梦寐以求的事业。
很快，他便加入了苏联共产党，并被安排在红军四局共产国际情报处工作，负责收集有关各国工人运动、政治经济问题方面的资料，处理和联系各国共产党的党务问题。佐尔格对这份工作颇感兴趣，他的经历、知识和智慧与这种工作亦颇为相称。
接下来的几年，佐尔格便频频穿梭于柏林、哥本哈根、斯德哥尔摩、斯堪的纳维亚、伦敦和莫斯科之间。他的工作干得很出色。他与别尔津成了关系要好的朋友。
德国共产党组织的武装暴动失败后，苏联领导人开始把注意力从欧洲转向远东地区。他们之所以这样做，还因为他们看到了中国蓬勃发展的民族革命斗争的巨大力量，看到了在不发达国家和地区建立社会主义的希望和改变世界力量的平衡的远景。莫斯科决定把情报。谍报和宣传机构的工作重点从欧洲转移到亚洲。
为此，莫斯科曾以共产国际的名义派遣许多间谍小组到中国来。
小组成员有苏联人，也有德国人。这些小组除与中国共产党进行党务联系外，主要任务是收集有关中国政治。军事和外交方面的情报资料。
但是，1927年中国大革命失败后，中国共产党人遭到血腥的残杀，国民党在上海的暴行尤为残酷，苏联遣往中国的间谍小组也遭到破坏。紧接着，日本吞并中国的野心越趋明显，亚洲笼罩在战争即将来临的恐怖气氛之中。莫斯科急需有关中国的情报，必须重新建立被破坏的间谍组织。
1929年，佐尔格被召到莫斯科，经过与别尔津的几次谈话之后，别尔津便决定把佐尔格派往中国。别尔津认为，佐尔格不仅有在国外可以作为很好的护身符的记者身份，而且他还是个训练有素的政治分析家，他那扎实而丰富的历史知识和军事经验或许有朝一日还能派上用常佐尔格几乎是怀着一种激动的心情去迎接他的中国之行的。
他对中国悠久的历史和丰富的文化敬仰已久。他认为这次中国之行对他个人是极为重要的。况且，他已认识到亲自到远东地区开展工作的重要性，而当时仅有少数〃政治观察员〃认识到这一点。
佐尔格接受任务后马上回到柏林，经过一番乔装打扮后，就准备起程了。他按计划去办德国政府颁发的、填有他真实姓名的合法旅行护照，然后又在柏林签订了两项合同，从而公开确定了他的自由记者身份。这两个合同，一个是与一家社会学杂志出版社签订的；一个是与一家农业报社签订的。佐尔格给《农业报》的经理说，他打算研究中国的农业状况，并为该报投稿，作为他日后著书立说的基本素材。他认为中国的根本问题是农民问题，研究中国农业状况对了解整个中国具有极其重要的意义。佐尔格真是慧眼识珠，报社经理对他的见解大加赞赏，并表示积极支持，他还通过一位朋友为佐尔格搞到一张由德国外交部宣传处写给上海德国总领事馆总领事的介绍信。
1929年11月，佐尔格离开柏林，途经巴黎去马赛，在那里登上一艘日本轮船，经由苏伊士、科伦坡和香港，于1930年元月到达上海。与他一起到达的还有他的一位随身报务员，稍后不久，四局派来协助工作的无线电技术专家马克斯·克劳森相继到达。
30年代的上海分为三个部分：一为上海城区，一为美、英、法、日等国共同管辖的公共租界；一为单独划分出来的法租界。
它既是中国工业的中心，长江流域的主要港口，又是各种势力范围犬牙交错、相互重叠之地。
大批洋货通过这个港口源源而来，中外投资都集中在这里。
作为中国城市革命的中心，中国共产党地下中央委员会的总部也设在这里。20年代后期，由于西方爆发革命的希望破灭，上海便成为红极一时的磁场，吸引着无数向往亚洲革命胜利的欧美进步人士。因此，新闻记者、自由作家、进出口商、军火商、冒险家、职业特务、侨民、工人、难民和阴谋家；芸芸众生、污合之众一时云集。
佐尔格没想到他所向往的地方竟是这个样子，虽出乎意外；但他还是喜欢这块土地。
佐尔格到达上海的最初几个月里，虽然表面上显得不露声色，但在暗地里却立即以上海为基地，着手建立情报组织网。他先持外交部的介绍信拜访德国驻上海总领事，通过领事馆又结识了德国农业报的编辑以及许多上海的德国商人和德国外交官。
佐尔格一面广交朋友，寻找情报的来源，一面潜心研究中国的事务。随着了解的不断加深，他爱上了这片土地。
佐尔格以采访、旅行等名目先后到广州、汉口、南京等地收集中国的情报，了解中国从城市到乡村，从经济发达地区到边远落后地区的基本情况。
一次偶然的机会，佐尔格结识了《法兰克福日报》驻远东记者、著名美国左翼人士艾格妮丝·史沫莱特女士。通过她，佐尔格物色到不少中国〃助手〃，也正是通过她，佐尔格结识了日本大板《朝日新闻》驻华记者、精通中国事务的日本专家大崎保积。大崎曾是东京帝国大学马克思主义学习小组的成员，对中国共产党持同情态度。他与佐尔格对世界大事的看法比较一致，以后，他成为佐尔格的主要搭档和最合适的合作者。
1932年元月18日，日本海军与中国十九路军开火。佐尔格慷慨激昂，带着几分武士眷恋战壕的心情，亲自给部队分发手榴弹，同时他还采访了上海各战区的战斗，亲自感受了中国军队的力量，并从中国方面的德国教官那里进一步得到有关中国和日本的战术情报。
上海事变后，日本夺取满洲后打算征服中国的意图暴露无遗，英、美政府对蒋介石政府的态度急剧变化。佐尔格的任务变得更重了。他得设法了解日本的真正意图，详细研究日本的作战方式，了解中国政治、军事状况，提供有效的情报以有助于共产国际制定对华政策。
佐尔格除了靠中国和日本的情报员外，还利用欧洲人给他提供情报。这主要是德国商人、领事馆官员、南京的军事顾问小组和欧洲记者。他作为一位记者，常周旋于总领事馆的社交圈子和记者联谊会之中。
他从南京的德国军事顾问那里了解到南京部队的驻地、武器装备、突击师的编制、指挥官与蒋介石的关系等。依靠德国教官，加上中国〃助手〃的一臂之力，他搜集到了有关军事工业的情报，还得到了南京军火仓库的蓝图。
他所收集情报大部分通过哈尔滨取道海参崴，或经广州取道香港再转送莫斯科。
1932年下半年，佐尔格被召回莫斯科，提前结束了他的中国之行。别尔津有更重要的任务要他去干。按佐尔格的说法：〃如果不是为了崇高的事业，我将在中国一直呆下去，我已深深地迷恋上这个国家了。〃
不管怎么说，中国的3年之行对佐尔格本人来说是个经受锻炼的大好时机。离开上海时，佐尔格已是一位精通中国事务的专家，地地道道的中国通了。经历了公开的以记者身份在上海这样特殊的环境和中国内地进行谍报活动的风险，佐尔格的谍报经验更丰富了，他的勇气经受住考验。然而最有显著意义的是他结识了大崎保积和马克斯·克劳森这两个搭挡，这俩人成为他日后在日本完成他的谍报佳作的得力助手。
2．4 卧底东京
佐尔格一回到莫斯科，便去四局总部拜见别尔津。别尔津对他的到来表示热烈的欢迎，对他在中国的工作大加赞扬，认为十分令人满意，在四局内的影响很大。问他对未来有何设想时，佐尔格倒不急于表态，说等他那本有关中国农业的书写成后再说。
别尔津邀请佐尔格当晚到家里做客。在那里，佐尔格受到了热情的款待。
第二天，别尔津到他下榻的莫斯科饭店来找他，说他那本书可能写不完了，总部有重要任务安排给他，要派他出国。别尔津试探性地问他有什么选择。佐尔格说他挑选亚洲，特别华北或满洲。接着他又半开玩笑地说，他在日本也许也能干点事。
就这样，经过与别尔律的见面后，他在日本的任务就被明确地确定下来。别尔津告诉他：〃日本是苏联远东地区的心腹之患，日本和德国的合作将严重威胁苏联的安全。必须摸清日本的计划，日本对德国的政策以及日本是否进攻苏联等问题。这一行动必须在日本本土上进行。我们必须在日本建立秘密情报小组，以便直接获取重要情报。〃稍微停顿一下后，别尔津接着说：〃日本素以戒备间谍著名，要在这样一个复杂的条件下建立情报组织是一件十分困难的事，只有具备特殊索质和才能的人才能委以这样的重任，而你是唯一、当之无愧的人选〃别尔津还告诉他、给他指派两名助手，也就是无线电技术专家克劳森和日本人大崎，在佐尔格到达日本后，俩人将相继回到日本与他联系。
佐尔格接受任务以后，像往常一样需要到柏林找个合适的掩护身份。还是现成的记者身份最合适，他在中国装扮得满像回事，而且确实赢得了优秀记者的名声。不过，由于佐尔格在《社会学杂志》和《农业报》上所发表的文章产生的巨大影响，他这次是以熟悉远东事务记者的声誉回到柏林的，好几家报纸和杂志都竟相前来与佐尔格签订合同。佐尔格最后选定伪是影响很大的《柏林交易所报》、《每日展望》、《地理政治》和荷兰的《商业评论》四家报刊。
为了逃避审查，佐尔格重新申请了一张德国护照，使之从履历看来，他是从中国，而不是途经莫斯科返回德国的。同时他还准备了一些身份证明，确保不对他过去的历史追究太多。
1933年7月，一切准备就绪。佐尔格怀里揣着高级介绍信、记者证和崭新的德国护照登上了旅途，他先到法国港口瑟堡，从那里乘船经纽约到横滨，于1933年秋天抵达东京。
当佐尔格到达东京时，那里的政治气氛像台风即将来临的九月天气一样沉闷，暴力威胁慑人、人人自危。一年多以前，首相犬养毅在官邸遭一伙年轻军官的枪击。就在他到达前两个月，发生了一起企图刺杀全体内阁成