El 1 de agosto de 1931 Heydrich comenzó su trabajo como jefe del nuevo servicio de inteligencia.25 Estableció su oficina en la Casa Parda, la sede central del Partido Nazi en Múnich. Para octubre ya había creado una red de espías e informadores con fines de recolectar inteligencia y obtener información que posteriormente pudiera ser utilizada como chantaje para conseguir objetivos políticos.31 La información sobre miles de personas fue registrada en fichas y almacenada en la Casa Parda.32 Con ocasión de la boda de Heydrich, en diciembre, Himmler lo promocionó al rango de SS-Sturmbannführer (mayor).33
En 1932 los enemigos de Heydrich comenzaron a difundir rumores sobre sus supuestos antecedentes judíos.34 Wilhelm Canaris dijo que había obtenido fotocopias que probaban que Heydrich tenía ancestros judíos, aunque dichas fotocopias nunca salieron a la luz. El Gauleiter nazi Rudolf Jordan también fue otro de los que afirmaba que Heydrich no era un ario puro.34 Dentro de la organización nazi las insinuaciones de este tipo podían ser muy dañinas, incluso para alguien como el jefe del servicio de contraespionaje del partido. Gregor Strasser trasladó estas alegaciones al experto racial del Partido Nazi, el Dr. Achim Gercke, que investigó la genealogía de Heydrich.34 Gercke informó que Heydrich era "de origen alemán y libre de cualquier rastro de sangre judía".35 Insistió en que estos rumores eran infundados.34 Pero incluso con este informe, Heydrich ordenó en privado al miembro del SD Ernst Hoffman que continuara investigando y disipara todos estos rumores.34
Gestapo y SD
Gestapo y SD
Cuartel general de la Gestapo en la Prinz-Albrecht-Straße de Berlín, 1933.
A mediados de 1932, Himmler designó a Heydrich jefe del renombrado Servicio de Seguridad —el Sicherheitsdienst (SD)—.25 El servicio de contrainteligencia de Heydrich creció hasta convertirse en una máquina efectiva de terror e intimidación.
En enero de 1933, Hitler se convirtió en Canciller de Alemania, y a través de una serie de decretos36 acabó convirtiéndose en Führer und Reichskanzler (líder y canciller del Reich).37 Los primeros campos de concentración —que originalmente habían sido creados para internar a los opositores políticos— fueron establecidos en 1933, poco después de que Hitler fuera nombrado Canciller. Hacia final de año ya se habían establecido más de 50 campos.38 Mientras Hitler consolidaba su poder absoluto en Alemania, Himmler y Heydrich deseaban controlar las fuerzas de la policía política de los 17 estados alemanes. Primero lo hicieron en Baviera: en 1933, Heydrich reunió a algunos de sus hombres de la SD y juntos irrumpieron en la sede de la policía en Múnich, haciéndose cargo de la policía mediante tácticas de intimidación. Himmler se convirtió en el jefe de la policía de Múnich y Heydrich se convirtió en el comandante del Departamento IV, la policía política.39 Tras Baviera, fueron haciéndose cargo de las policías de otros estados federales.
Hermann Göring había fundado la Gestapo en 1933 como una fuerza policial circunscrita estrictamente a Prusia. Cuando Göring transfirió a Himmler toda su autoridad sobre la Gestapo en abril de 1934, inmediatamente se convirtió en un instrumento de terror bajo el control de las SS.40 Himmler nombró a Heydrich líder de la Gestapo el 22 de abril de 1934.41 El 9 de junio de 1934, Rudolf Hess declaró oficialmente al SD como servicio de inteligencia nazi.42
Aplastamiento de las SA