Intussen was de Belgische regering naar Frankrijk gevlucht. Aanvankelijk naar Poitiers en na een reeks omzwervingen via o.m. Bordeaux, naar Engeland. Minister Marcel-Henri Jaspar, een overtuigde anti-nazi en die bovendien met een joodse vrouw was gehuwd, riep de andere ministers op om de strijd tegen Duitsland vanuit Londen verder te zetten. Al op 18 juni bereikte hij Engeland. De andere ministers bleven nog een tijd op de dool in het zuiden van Frankrijk. Na Jaspar was ook minister van koloniën Albert De Vleeschauwer in Londen toegekomen en die kon op 2 augustus minister Camille Gutt ervan overtuigen om hem te volgen.
Pas op 18 oktober 1940 maken ook ministers Paul-Henri Spaak en Hubert Pierlot de overtocht naar Engeland en vormen daar olv. Hubert Pierlot, de Belgische regering in ballingschap. Later vervoegen Julius Hoste, Henri Rolin, Gustave Joassart, Antoinne Delfosse, August De Schrijver en August Balthazar de regering van Pierlot. De ministers Arthur Vanderpoorten en Paul-Emile Janson komen om in de Duitse concentratiekampen en de rest van de ministers hebben het einde van de oorlog afgewacht in het zuiden van Frankrijk.
Na de capitulatie werden 225.000 Belgische soldaten opgesloten in Duitsland die eind 1940/begin 1941 terug worden vrijgelaten, behoudens dan de beroepsmilitairen. Ook waren direct na de capitulatie duizenden jonge Belgen naar Groot-Brittannië ontkomen. Vanaf de zomer van 1940 zal zich rond een aantal beroeps- en reservemilitairen die in België waren achtergebleven, ontsnapt waren of bijtijds hadden kunnen onderduiken, de eerste militaire verzetsorganisatie vormen: het Belgisch Legioen.
Vanaf 1 juni 1944 zal deze benaming veranderen in Het Geheim Leger/Armée Secrête. Op 30 december 1942 zal de regering Pierlot in ballingschap, Kolonel Jules Bastin, op dat ogenblik de bevelhebber van het Geheim Leger, officieel erkennen als de bevelhebber van het militaire verzet in België.
De Belgische regering in ballingschap besloot vanuit Londen een nieuw leger te vormen dat met de Britten zou blijven doorvechten. Dat verliep aanvankelijk niet erg vlot totdat kolonel Jean-Baptiste Piron zich er mee zal bemoeien en in 1942 het commando zal krijgen over de nieuwe Belgische eenheid.
Kolonel Jean-Baptiste Piron werd geboren op 10 april 1896 te Couvin (Henegouwen) en was een veteraan van de Eerste Wereldoorlog die zich meermaals had onderscheiden voor zijn moed en hij was een overtuigde patriot. Op 12 april 1941 ontvlucht hij het land via de ontsnappingsroute die hem naar Engeland bracht via Marseille, Nímes, Montpellier, Tarragone en Gibraltar. Op 6 januari 1942 geraakt hij eindelijk aan land in het Schotse Greenock. Enkele weken later wordt Piron opgenomen in de Stafcompagnie van de Landmacht.
Op 30 december 1942, laat Eerste Minister Pierlot in ballingschap Majoor Piron bij zich ontbieden en belast hem met de moeilijke taak om de landmacht te herstructureren. Op 21 januari 1943 krijgt hij het bevel over de 1ste Groepering en installeert zich met zijn eenheden te Clacton-on-Sea nabij Essex. Op 13 april 1943 wordt Piron tot de graad van Luitenant-kolonel SBH benoemd. Hij werkte verder aan de vorming van zijn eenheid die hun opleiding krijgen in Wales. De Belgische eenheid krijgt een tijdlang de taak om de Engelse kanaalzone te bewaken, maar moet de Landing in Normandië op 6 juni 1944 aan haar neus voorbij laten gaan. De Brigade Piron wacht een grootsere en meer symbolische taak: de bevrijding van Brussel, de hoofdstad van België!