Les premiers camps de concentration sont installés à Dachau et Oranienburg, dans les premiers mois qui suivent l'arrivée d'Hitler au pouvoir. On y enferme d'abord les opposants politiques, puis peu à peu toutes les personnes arrêtées.

La persécution des juifs va passer à un stade supérieur avec la guerre et les premières victoires allemandes, notamment en Pologne. Les nazis mettent en place quelque 400 ghettos dans les territoires (notamment polonais) récemment conquis à l’Est: Varsovie, Lodz, Cracovie, Minsk… Un véritable retour à l'Europe du Moyen-Age. Le plus grand de ces ghettos est celui de Varsovie : 450.000 personnes y sont parquées sur une superficie de 2 hectares. La population y vit dans des conditions misérables. La faim, les pénuries chroniques, la rigueur hivernale et l'absence de services urbains sont la cause d'épidémies à répétition et d'un taux de mortalité très élevé.

D’un point de vue strictement matériel, l’une des étapes décisives avant l’ouverture des camps d’extermination est l’euthanasie des malades mentaux en 1940 et 1941. "La technique d’une extermination efficace et discrète (…) a été mise au point, au stade du laboratoire, par des médecins et des savants allemands, avant d’être appliquée en grand et au stade industriel par la SS de Himmler. Et les malades mentaux d’Allemagne ont fait office de banc d’essai pour les juifs d’Europe", écrit l’historien Léon Poliakov dans "Bréviaire de la haine", un ouvrage de référence. D'un point de vue idéologique, l’euthanasie des aliénés permet de se débarrasser de "bouches inutiles". Les malheureux sont placés dans une pièce camouflée en salle de douche et asphyxiée par de l’oxyde de carbone. Leurs cadavres sont incinérés dans des petits crématoires. Selon Poliakov, 70.273 malades furent ainsi assassinés.

Le programme est tenu secret. Mais l’affaire finit par s’ébruiter, les familles s’étonnant des prétextes invoqués pour justifier la mort de leurs parents : "faiblesse cardiaque", "pneumonie"... Des citoyens manifestent contre les transferts de malades. Des représentants des Eglises catholique et luthérienne protestent publiquement, notamment l’évêque catholique de Münster, Clemens August von Galen. Face à ces oppositions, Hitler fait machine arrière: en août 1941, il décide d’arrêter le programme. Pour cela, il avait fallu "qu’un refus unanime, par un véritable réflexe d’horreur, secouât le corps de son peuple", écrit Poliakov. Un réflexe qui ne s’est pas produit face au génocide des juifs…

A la même époque, l’invasion de l’URSS inaugure une violence de masse sans équivalent jusque là. "Les appels d’Hitler à une guerre d’annihilation contre l’URSS définissent des paramètres et donnent des objectifs radicalement nouveaux à la politique raciale du régime", écrit l’historien Christopher R.Browning dans "Politique nazie, travailleurs juifs, bourreaux allemands" (Les Belles Lettres). Les nazis entendent mettre en œuvre leur politique d’"espace vital" à l’Est et se débarrasser des populations locales, en premier lieu des juifs.

Des unités mobiles d'intervention "spécialisées", les Einsatzgruppen, vont mener dans le sillage de la Wehrmacht (l'armée allemande) des opérations d'extermination de masse contre des juifs, mais aussi des tsiganes, des fonctionnaires soviétiques. Plus d'un million d'hommes, de femmes et d'enfants israélites ont ainsi été massacrés, selon le site du United States Holocaust Memorial Museum.

La machine à tuer est donc bel et bien lancée. Les premiers camps de la mort sont installés sur le sol polonais à Chelmno, Belzec, Sobibor et Treblinka : il s’agit de faire croire au mensonge d’une "réinstallation à l’est" des futures victimes. Les installations sont construites assez loin des villages mais, à chaque fois, à proximité directe de lignes ferroviaires. Les gazages au moyen de camions commencent à Chelmno en décembre 1941 sur des prisonniers de guerre soviétiques.

Tous ces camps seront équipés de chambres à gaz en dur mais sans fours crématoires. Les victimes arrivent par train des ghettos que les nazis liquident avec une extrême brutalité, comme le montre, pour le ghetto de Varsovie, le poignant témoignage de Wladyslaw Szpilman,  "Le Pianiste", porté (superbement) à l’écran par Roman Polanski. En 1942, les deux tiers des juifs polonais ont été tués. Désormais, la machine hitlérienne est prête à passer à une "industrialisation" des massacres. Il ne lui manque plus que la décision politique.