W drugiej połowie IV w. n.e. nastąpiło ponowne zagrożenie państwa rzymskiego we wszystkich jego granicach. Trudna sytuacja zewnętrzna wymagała podziału władzy cesarskiej, nastąpiło to już wyraźnie za rządów Cesarza Dioklecjana. Szczególnie zagrożona w tym czasie była wschodnia część Imperium Rzymskiego, a zwłaszcza Półwysep Bałkański.
Bezpośrednie niebezpieczeństwo stanowiły plemiona Gotów, które podzieliły się na dwie grupy: zachodnią – Wizygotów i wschodnią – Ostrogotów. Przekroczenie dolnego Dunaju przez Wizygotów było ściśle związane z tzw. wielką wędrówką ludów, która objęła znaczną część Azji i cały obszar Europy.
W roku 375 n.e. zaczął się na terenach Europy wielki ruch różnych plemion, wywołany najazdem z głębi Azji koczowniczych plemion mongolskich zwanych Hunnami – pierwszy lud tureckojęzyczny, który najechał Europę. Hunnowie zwrócili się na zachód, ich pochód znaczyły pożary i rzezie. Na terenach nadwołżańskich pobili koczownicze plemiona Alanów, których częściowo wyniszczyli, a częściowo popychali na zachód.
W roku 376 n.e. Hunowie rozbili imperium gockie. Cześć z nich była zmuszona do przesiedlenia się na obszar Cesarstwa Rzymskiego, które uznało ich tym samym poddanymi i jako takich zobowiązano do służby wojskowej. Rosnące nadużycia administracyjne wobec Gotów doprowadziły do wybuchu ich powstania. W roku 378 n.e. pod Adrianopolem (Hadrianopolis w Tracji) doszło do wielkiej bitwy, w której armia rzymska została rozgromiona, a sam cesarz padł na polu walki. Bitwa pod Adrianopolem oznaczała pełne zwycięstwo taktyki plemion germańskich nad przestarzałym sposobem walki Rzymian.
Po tej klęsce siły militarne państwa rzymskiego nie zdołały się już w pełni odrodzić. Pomimo, że rzymianom udało się skłonić Gotów do powrotu na służbę wojskową, jednak już w charakterze sprzymierzeńców opłacanych przez państwo rzymskie, jednocześnie niezależnych od niego. Ponadto Cesarz Teodozjusz powstrzymał w pewnym stopniu nacisk Gotów na wschodnią część państwa, ale za cenę zezwolenia im na osiedlenie się na terenach illyryjskich.
Na przełomie IV i V w. n.e. Hunowie przenieśli się na step węgierski, wywołało to drugą falę migracyjną, tym razem ludów środkowoeuropejskich. Już w roku 406 n.e. przerwały linie i zalały zachodnie prowincje należące do Cesarstwa.
Od tego momentu jedyną linią obrony rzymskiej, było nastawianie jednych plemion barbarzyńskich przeciwko innym. Mimo to, w połowie V w n.e. – po upadku imperium Hunów, władza cesarska ograniczała się już tylko do terenów Italii.