Между тем Франк и фон Бредов уже прибыли в помещение, где находился Геринг. В руках у них были револьверы. Прибывший к Герингу Колер не мог соединиться с ним. А затем рейхсмаршал был арестован. Арестованными оказались все люди из окружения Геринга. К началу переговоров Кребса с Чуйковым все они, включая Геринга, находились под арестом.
Гораздо раньше своих коллег по гитлеровскому руководству о возможности поражения задумался Гиммлер, в лояльности которого Гитлер не сомневался, называя его «Верный Хайни». Страх поражения от Советской Армии заставлял всесильного руководителя СС искать пути к заключению сепаратного мира с западными державами. Участник антигитлеровского заговора среди военных Хассель писал в сентябре 1941 г.: «Совершенно ясно, что окружение Гиммлера всерьёз обеспокоено и ищет выхода». Весной 1942 г. Чиано в своем дневнике записал, что Гиммлер «ощущает пульс страны и хочет компромиссного мира».
Видимо, зная о настроениях своего шефа, начальник разведки СД Шелленберг спросил его в августе 1942 г.: «Не обдумал ли он альтернативные способы завершения войны?». Шелленберг убеждал Гиммлера, что добиться выгодного для Германии возможно сейчас, пока её руководители могут действовать с позиции силы.
Гиммлер согласился с доводами Шелленберга и приказал ему немедленно приступить к подготовке тайных переговоров. Гиммлер и Шелленберг решили, что Германия могла бы отказаться от большей части оккупированных территорий, но сохранить власть в регионах, считавшихся ими исконно германскими.
Гиммлер, по свидетельству Шелленберга, «пытался потихоньку создать новое руководство рейха, естественно, с одобрения Гитлера. Гиммлер был убеждён, что все, кто займет руководящие посты в правительстве, промышленности, коммерции и торговле, науке и культуре рейха… должны быть членами СС».
Во второй половине 1942 г. Гиммлер настаивал на использовании адвоката Лангбена и его связей в поисках сепаратного мира. Хассель записал в дневнике, что в декабре «Лангбен имел беседу с английским официальным лицом в Цюрихе и американским чиновником Хоппером в Стокгольме с одобрения СД». В качестве посредника в переговорах между Гиммлером и американским дипломатом Хьюиттом выступал и массажист Керстен. В ходе своих попыток сепаратного мира Гиммлер установил контакт даже с одним из лидеров антигитлеровского заговора министром финансов Пруссии Попитцем.
Однако разоблачение группы заговорщиков среди сотрудников военной разведки (абвера) заставило Гиммлера, с одной стороны, избавиться от Лангбена и тот был арестован. С другой стороны, Гиммлер взял абвер под свой контроль, подчинив его подразделениям СД и гестапо.
В 1943 г. под началом Гиммлера находился аппарат СС, насчитывавший 40 тысяч человек, а аппарат Главного управления имперской безопасности (РСХА) — 60 тысяч.
Одновременно Гиммлер расширял границы своей власти, не отказываясь от обязанностей, которые фюрер возлагал на «верного Генриха». 20 августа 1943 г. Гиммлер был назначен рейхсминистром внутренних дел, заняв место Фрика. Считалось, что это назначение, сделанное по распоряжению Гитлера, несколько ослабит возраставшую власть Бормана.
В 1943 г. Гитлер снял ограничения на рост численности Ваффен СС, и в том году было сформировано восемь новых дивизий. К концу войны существовало 35 дивизий Ваффен СС, значительная часть которых была набрана за счёт населения оккупированных стран.
Гиммлер пытался взять под свой контроль разработку новых вооружений, которые могли бы нанести огромный урон антигитлеровской коалиции. Поэтому в 1943 г. он попытался отстранить Шпеера от контроля над испытательным полигоном, на котором разрабатывались первые немецкие ракеты «Фау-2».
В это время в нацистских верхах усиливалась борьба за влияние на Гитлера. В ходе беседы в начале ноября 1943 г. Гиммлер и Геббельс осудили «негибкую» политику Риббентропа и некомпетентность военачальников. Одновременно Гиммлер рассказал Геббельсу о заговоре, в котором участвуют Попитц и Гальдер. Гиммлер сообщил Геббельсу, что заговорщики стремятся войти в контакт с Англией. Очевидно, Гиммлер решил пожертвовать Попитцем ради усиления своего влияния на Гитлера. После этой встречи Геббельс записал в дневнике: «Гиммлер проследит, чтобы эти господа не причинили особого вреда своим трусливым пораженчеством. У меня сложилось впечатление, что внутренняя безопасность страны находится в надёжных руках Гиммлера».
Шпеер был свидетелем разговора Гиммлера с Гитлером осенью 1943 г. Гиммлер говорил Гитлеру: «Тогда вы согласны, мой фюрер, что я должен поговорить с Серым Преосвященством, притворяясь, что я иду с ними?». В ответ Гитлер кивнул головой. «Предпринимаются какие-то тёмные заговорщические действия. Возможно, что, если я сумею завоевать их доверие, то я сумею больше узнать от них. Но тогда, мой фюрер, если вы услышите что-то от третьей стороны, вы будете знать мотивы моих действий». Фюрер жестом выразил своё согласие, добавив: «Конечно, я полностью вам доверяю». Услыхав этот разговор, Шпеер решил узнать у адъютантов Гитлера, кого называют «Серым Преосвященством». Адъютант ответил: «Это — Попитц, министр финансов Пруссии».
Нам не всё известно о хитрой игре Гиммлера. Несмотря на то, что накануне 20 июля 1944 г. по всей Германии распространились слухи о готовящемся покушении на Гитлера, несмотря на то, что видные заговорщики, с которыми общался Гиммлер, точно знали об этом, Гиммлер не предупреждал Гитлера о возможности его убийства. То ли Гиммлер на самом деле не был поставлен в известность Попитцем и другими о готовившемся покушении, то ли рейхсфюрер СС решил не делиться секретом с Гитлером. Известно, что ни Гиммлер, ни Геринг не присутствовали на военном совещании в Растенберге, хотя обычно участвовали в подобных мероприятиях. В то же время оба находились неподалеку от Растенберга. Геринг работал в своём штабе в 100 км от Растенберга, а Гиммлер проходил курс лечения у Керстена на вилле Хагенвальд-Хохвальд в Биркенвальде.