Een van de grote tegenstanders van de effectieve en algemene toepassing van Paragraaf 175 was de SA-leider Ernst Röhm, die zelf een homoseksueel was en die het graag met jongetjes deed. Röhm was een lid van Hirschfeld's Bund für Menschenrecht (Liga voor Mensenrechten), en bezocht openlijk homoseksuele ontmoetingsplaatsen. De macht van de paramilitaire privémilitie de SA was enorm toegenomen, en tot aan de dood van Rijkskanselier Hindenburg in 1934, was hij een potentiëel rivaal naast Hitler voor de strijd om de macht.

Hitler ergerde zich aan de groeiende invloed van Ernst Röhm. De SA-top moest gezuiverd worden van homoseksualiteit, uitspattingen, drankzucht en praalzucht. Op 30 juni 1934 gaf Hitler aan de SS het bevel tot de ontmanteling van de SA. Tijdens de zogeheten "Nacht van de Lange Messen", werden Röhm en een kleine honderd van zijn belangrijkste medestanders vermoord.

Heinrich Himmler was in april 1934 benoemd als Inspecteur der Gestapo (Geheime Staats Polizei) en Reinhard Heydrich werd het hoofd van de Gestapa (de Pruisische geheime staatspolitie). Na de succesvolle zuivering van de SA kreeg Himmler spoedig de volledige controle over de veiligheidspolitie en in juni 1936 zal Himmler tot SS Reichsführer worden benoemd en de totale controle verwerven.

Vanaf oktober 1934 werd de Gestapo het belangrijkste instrument in de strijd tegen de binnenlandse vijanden van de natie. Vanuit de pas opgerichte Gestapa in Berlijn werden namenlijsten van praktiserende homoseksuelen opgesteld. Spoedig sloten de regionale Gestapokantoren zich daarbij aan, en de vervolging werd vanaf 1935 gecoördineerd door de "Reichszentrale zur Bekämpfung der Homosexualität und Abtreibung" (Rijkscentrale voor bestrijding van Homoseksualiteit en abortus.)

In 1934 waren in heel Duitsland bijna 1000 homoseksuele mannen veroordeeld op grond van de oude §175. Maar op 1 september 1935 werd Paragraaf 175 van het Duitse wetboek van Strafrecht zwaar aangescherpt en ingezet om harder te kunnen optreden tegen homoseksuele mannen. Het aantal veroordelingen steeg snel naar nieuwe hoogten en in 1938 was dat aantal reeds verachtvoudigd. Vanaf de machtsovername in 1933 werd de ontmanteling van de homoseksuele subcultuur van Berlijn aangevat. Bars en cafés werden gedwongen hun deuren te sluiten en homo-organisaties werden ontbonden.

In vergelijking met "Sonderaktionen" die her en der in het land plaatsvonden, was in Berlijn sprake van een bijzonder intensieve en langdurige vervolging. Van 1935 tot 1940 was hier uitsluitend de Gestapo met de opsporing belast, waarna de Kripo, de gewone politie, het werk waarmee de Gestapo begonnen was, tijdens de oorlogsjaren voortzette. Zelfs in het begin van maart 1945 was hier nog een speciale eenheid rechercheurs van het "Homosexuellendezernat" op pad om homoseksuelen op te sporen.

Heinrich Himmler's rede tot de SS-Commandanten op 18 februari 1937:
"Een natie met vele kinderen kan oppermachtig worden en de wereld regeren. Een zuiver ras met weinig kinderen staat al met één voet in het graf; de volgende vijftig of honderd jaar zal dit geen verschil uitmaken maar tweehonderd jaar later zal het ras verdwenen zijn. Het is van groot belang dat wij beseffen of we al dan niet toelaten dat deze infectie Duitsland verder mag besmetten of dat we haar bestrijden, want anders betekent dit het einde van Duitsland en van de Germaanse wereld. Jammer genoeg is dit niet zo een eenvoudige zaak zoals het was ten tijde van onze voorouders. Voor hen waren de zeldzame gevallen simpelweg abnormaliteiten; zij verdronken hen in de moerassen.

Zij die die lichamen later vonden in de modder realiseerden zich niet dat in 90% van de gevallen het ging om een homoseksueel die daar in het moeras werd versmacht en er gedumpt werd met al zijn bezittingen. Dit was geen straf maar de eenvoudige verwijdering van een particuliere abnormaliteit. Het is van vitaal belang dat we hen van ons ontdoen; zoals we het onkruid wieden trekken we hen uit, gooien ze in het vuur en verbranden we hen. Dit komt niet uit een geest van wraak maar uit noodzaak; deze creaturen moeten uitgeroeid worden."

Als een optie om de overbevolkte militaire gevangenissen te ontlasten, werden de mannen die op basis van Paragraaf §175 waren opgepakt, gedwongen om militaire dienst te nemen en meteen als kanonnenvoer naar de frontlijn gezonden. Militaire leiders gebruikten dergelijke troepen meestal voor zelfmoordacties. De oorlog gaven de nazi's de gelegenheid om achter het front de vervolging nog te verharden.