图建立直接或间接媾和试探联系的活动有着必然联系。舒伦堡的努力使卡尔滕布龙纳、鲍曼和缪勒对他非常仇恨，他们正在等着这样一种把舒伦堡搞垮的借口。他们也几乎如愿以偿。
当时，德国方面截获到一份有关兰本博士和盟国代表在瑞士谈判的电报，人们提到了兰本博士在这种完全非正式的活动中得到舒伦堡的赞助，也提到了柯斯坦博士在推进这些谈判上所起的作用。卡尔滕布龙纳和缪勒立刻着手进行秘密调查，但是克斯登对希姆莱的影响挽救了舒伦堡，使舒伦堡没有遭到厄运。后来，舒伦堡也报答了克斯登博士，每当缪勒的盖世太保计划害他的时候，舒伦堡总是事先警告他，或者采取各种对策。
正是在这个时候，舒伦堡在瑞士的联系使他和前瑞士总统缪塞先生挂上钩。缪塞是一个完全忘我的人，非常聪敏，很有见识，他有一个努力目标——尽可能多地挽救成千上万被关在集中营里的人。到1944 年末，经过几星期的说服工作以后，舒伦堡总算大规模释放被关在犹太集中营里的人来换取拖拉机、汽车、药品以及其他非常缺乏的物资。缪塞提出了一个反建议：希姆莱应该只满意于接受拔到国际红十字会账上的外币。希姆莱不能够认识到：从德国的外交政策着眼，释放几千名犹太人的重要意义；他似乎只关心这样一种行动对党内领导集团和希特勒产生的效果。在谈话的这一部分结束时，提出了美国应该同意瑞士成为转交犹太人的地点，这些犹太人最后将送到那里，缪塞保证和瑞士的某些犹太人组织讨论这个问题。
在缪塞刚要回瑞士之前，舒伦堡说服希姆莱在缪塞的一项特殊要求上作出让步，以证明他的诚意。缪塞的这项要求是：许多知名的犹太人和法国人应该被释放。希姆莱勉强同意了，让舒伦堡负责具体执行。他还让舒伦堡和缪塞保持密切联系，并且安排他们以后的会晤。
舒伦堡立刻和缪勒接触，要他准许自己照管这些被囚禁者，但是遭到了拒绝，表面上的理由是：舒伦堡不是盖世太保的成员，因此他不能让舒伦堡插手盖世太保的任何内部事务。不过，他准许舒伦堡和各种盖世太保机关的负责官员联系，因此舒伦堡总算能够弄清楚许多被囚禁者关押的地点，想办法让他们在伙食和居住待遇上得到改善，并且使他们能够收受食品邮包；在
某些情况下，舒伦堡还能够让他们穿上平民服装，住到旅馆里，安排把他们遣送出境。所有这一切都需要通过无穷无尽的官场手续，经常要和盖世太保机关联系。
希姆莱和缪塞的第二次会见于1945 年1 月12 日在黑森的威尔巴德—施瓦茨沃德举行。通过舒伦堡的积极斡旋，达成了下列协议：
1。每隔十四天派一列火车把一千二百名犹太人带到瑞士。2。和缪塞先生有联系的犹太组织，在按照希姆莱建议解决犹太人的问题上将给予积极支持。同时，世界范围的反德宣传将开始有一种基本的改变。3。根据舒伦堡的建议，双方同意酬款将不直接交与国际红十字会（最初原是这样决定的），而应该交给作为受托人的缪塞。第一批送人在二月初进行，一切都很顺利。缪塞签收了五百万瑞士法郎，这笔钱是在1945 年2 月末交给他这个受托人的，而且按照协议，让这件事在报纸上公布了出来，同时封·斯梯格总统在怕尔尼发表了一篇文章，《纽约时报》上也刊登了另一篇。
在此以后，缪塞和舒伦堡一致认为，现在只有一条路可走。由于军事形势不断恶化，必须让希姆莱发出一道防止撤退所有可能被盟军攻占的集中营的命令，经过长时间的讨论以后，希姆莱终于同意（在这件事上，当时在斯德哥尔摩的柯斯坦博士对希姆莱起了相当影响，也给了舒伦堡很大帮助），于是，舒伦堡在1945 年4 月7 日便通知缪塞：希姆莱已经同意不撤退任何集中营，并且特别请求尽快把他的这项决定转告艾森豪威尔将军。尽管已经超过七十高龄，缪塞先生当晚就坐着自己的汽车匆忙离开，三天以后，他告诉舒伦堡华盛顿方面已经收到这项消息，反应很好。
1945 年2 月瑞典大使安特南·汤姆逊来信，说伯拉多特伯爵愿意到柏林来和希姆莱协商。里宾特洛甫让他的个人顾问盖汉拉特·瓦格纳到舒伦堡这里来，打听是不是由舒伦堡通过与瑞典方面的联系策划出这种提议的。舒伦堡非常坦白地告诉瓦格纳说，自己对伯拉多特伯爵的提议毫无所知，并且立刻把事情报告希姆莱和卡尔滕布龙纳。希姆莱非常感兴趣，但是对这件事是由通过大使馆和外交部提出来的事实很生气。这迫使他不得不正式接待伯爵的来访，那样一来，就等于把一切事情都告诉了希特勒。由于希姆莱当时正在指挥维斯杜拉兵团，他的总部设在布累斯劳，他让卡尔膝布龙纳找一个适当的时刻和希特勒谈谈这件事，试探一下希特勒的态度。希特勒的反应是：“在一场总体战当中，搞这一套玩艺什么用也没有。”
与此同时，伯拉多特伯爵已经到达柏林。舒伦堡给希姆莱打了电话，真心诚意地求他不要失掉接见伯爵的这个机会，强调和伯爵的会谈必然会产生的各种具有政治意义的成果。经过反复争辩了很长时间以后，希姆莱终于同意了一个仍然给他留了后路的建议：由卡尔滕布龙纳说服里宾特洛甫，同时由舒伦堡和瓦格纳谈这个问题。两个人都应该努力说动里宾特洛甫接见伯拉多特，但是并不报告希特勒，而且不能让里宾特洛甫知道希特勒已经表示过反对这次访问。如果里宾特洛甫同意，卡尔滕布龙纳和舒伦堡事后就能够立刻接见伯爵。这样一来，希姆莱就会有时间在正式参与其事以前看一看情况。可是，实际上发生的事是，伯拉多特伯爵从瑞典大使馆给舒伦堡打了电话。他首先被卡尔滕布龙纳和舒伦堡本人接见，以后便立刻去看里宾特洛甫。虽然在这第一次的会面中，舒伦堡说的话并不多，可是舒伦堡感到已经和伯爵建立了良好关系。在这次访问中，舒伦堡看到了实现自己原来的计划——为
德国结束战争——的可能。舒伦堡同瑞典的联系在这方面极端重要，因为瑞典对于停止北欧军事行动特别感光趣。这样，舒伦堡本来打算为丹麦和挪威作些事情的努力，就会和伯爵的目标符合。下一步就是想法让瑞典充当妥协性和解的调停人。在会谈结束时，伯爵再一次向卡尔滕布龙纳表示愿意和希姆莱谈话，因为他有些事情要当面和希姆莱单独地谈一次。
两天以后，伯拉多特伯爵和希姆莱在霍亭里钦会面。在坐车赴会途中，舒伦堡在即将举行的会谈问题上给了伯爵某些忠告，并且把希姆菜的若干性格特点向他作了介绍。伯爵原来的计划是，要把全部丹麦和挪威俘虏都送到瑞典，一直让他们在那里等待战争结束。舒伦堡知道这种计划绝不会被接受，建议他另外提出一种妥协性方案——这些俘虏应该集中关在德国西北部的一座集中营里。事实上，这个建议后来成了伯爵和希姆莱会谈时达成协议的基础。
在希姆莱和伯爵会谈刚结束以后，舒伦堡就有了一个和他谈话的机会。希姆莱对伯爵的印象很好，打算和他保持密切联系。他要舒伦堡负责执行他们的协定，他自己非常明白，这种协定将会在卡尔滕布龙纳和缪勒那里受到很大阻挠，或许里宾特洛甫也会加以刁难。舒伦堡要把会谈的要点以及达成的协议报告里宾特洛甫，以便他可以正式向伯爵提出。
在和伯拉多特伯爵会见以后，舒伦堡和希姆莱作了非常严肃的谈话，明白地告诉他德国的崩溃已经不可避免。舒伦堡请求他利用瑞典的良好作用，努力把德国这一艘破船在沉没以前开进平安的港口。舒伦堡建议他要求伯拉多特伯爵飞到艾森豪威尔将军那里，向艾森豪威尔提出他愿意投降。
舒伦堡也努力提醒他：作为一个军团司令，他应该守在柏林，而不在布累斯劳。他应该看清楚，正是希特勒的顾问们又一次成功地把他从希特勒身边赶开了。他应该立刻回到柏林，安排会谈的准备工作。如果必要的话，他应该使用武力。希姆莱只允许舒伦堡和伯爵保持表面上的联系，也许可以影响他主动地飞会见艾森豪威尔。
舒伦堡已经把这场斗争的情况告诉了伯拉多特伯爵。在谈话中，舒伦堡同意：只要希姆菜最后下走决心，就立刻通知他（舒伦堡已经计划亲自陪伴伯爵飞去见艾森豪威尔将军）；舒伦堡也作了这样的安排：一旦德国本身被敌军切断，舒伦堡就和希姆莱飞往南德，通过瑞典驻瑞士大使和怕拉多特联系。
舒伦堡不断提醒希姆莱当前的局势是如何绝望，警告他：如果他优柔寡断，历史总有一天要他为此负责。希姆莱回答说：党卫军组织是按照忠诚原则建立的，他不能够违反这条原则。如果他这样做的话，就会动摇他自己地位的基础。舒伦堡告诉希姆莱：和整个民族的存亡相比，党卫军只不过代表一小部分人，德国民族在经过长期苦难以后，希望能够从他们的困苦中解脱出来。他们把希望放在希姆莱身上，因为他不是一个从国社党政权中谋取私利的人。对于这一类谈话，他的答复往往只是：“所以，你打算把元首除掉是不是？”希姆莱就是这样一种容易变化的性格，以致有许多天，舒伦堡不得不冒着极大危险回答他说：“是的。”
到这时候，希姆莱和希特勒之间几乎已经完全破裂，希姆莱对这种情况很担心。希特勒甚至下命令，不让希姆莱的党卫军特别卫队在袖口上带军章，作为一种下他面子的标志。
希姆莱对舒伦堡说：除去勃朗德而外，舒伦堡是他唯一可以信任的人。
他该怎么办呢？他不能开枪打死希特勒；他不能毒死他；他也不能在帝国总理府把他逮捕，因为那样一来，全部军事机器就要突然停顿。舒伦堡对希姆莱说这一切都无关紧要，他现在只有两条路可走：一条是，他应该去见希特勒，坦白地把最近几年来发生的一切都告诉他，并且强迫他下台；另一条是，他用武力把希特勒除掉。希姆莱不以为然，认为如果他要是那样和希特勒谈话，希特勒一定会暴跳如雷，马上就开枪把他打死。舒伦堡说：“这正是你要防备的一手——现在还有足够多的高级党卫军领导人跟着你走，你还有足够的力量把他逮捕。如果没有其他办法可想，那末，就得让医生从中下手。”
谈话继续了一个半小时左右，但是希姆莱仍然不能作出决定。
4 月22 日早饭以后，冲锋队长伯尔格来了。他要和舒伦堡一起坐车回到霍亭里钦去，因为在受到敌军威胁的情况下，乌斯特罗将被放弃。
他们一起讨论了关于瓦南曼的问题，他是一个美国空军将领，以前是驻柏林武官，这时是德国的一个战俘。伯尔格和舒伦堡建议，把瓦南曼和另一个美国空军上校送出德国，通过瑞士飞往美国和罗斯福联系。他要想办法为美国战俘弄到比较好的供应，改善他们的待遇，同时把希姆莱打算和西方盟国媾和的愿望告诉罗斯福。舒伦堡早就有了这个打算，希望通过释放有影响的英国战俘，使他们能够有助于促成英德之间的谅解。然而，希特勒和希姆莱却一直严令禁止这样做。
舒伦堡和瓦南曼谈了很久，取得了完全一致的看法。由于希姆莱不愿意批准这件事，舒伦堡和瑞士的朋友以及美国驻伯尔尼外交武官莱格将军一起，设法安排瓦南曼偷越边界。舒伦堡做这件事完全由自己负责，安排了一辆汽车把瓦南曼和另一位空军上校送到康士坦斯附近的边境上。
由于舒伦堡再没有听到他们的消息，所以舒伦堡请伯尔格注意这个问题。到这时，希姆莱也同意了舒伦堡这个计划。
到中午，舒伦堡不得不匆忙离开乌斯特罗，因为据说在臭兰尼因堡附近以及大致在罗温堡和克兰曼方面已经有了苏联的装甲先锋部队。他们坐车从马斯罗向北边的麦克伦堡进发，以后再转向东方，以便到霍亭里钦。有一个半小时以上的时间，他们一路上都看到国防军的部队、大炮和装甲车在调动，经常受到低飞的轻轰炸机和战斗机的袭击。最后，他们终于到达霍亨里钦。
在吃过已经过时的中饭以后，希姆莱对舒伦堡说：“我几乎相信你是对的，舒伦堡——现在我一定要采取行动了。你有什么主意？”
舒伦堡向他解释说：事情已经弄到不可收拾的地步了。可以肯定，从瓦南曼那里不会有任何希望，不过，现在还有可能和伯拉多特伯爵开诚布公地谈清楚全部局势（舒伦堡已经瞒着希姆莱，远为详尽地把德国的真实情况告�