Józef Mackiewicz urodził się 1 kwietnia 1902 r. w Petersburgu. Ojciec był właścicielem kamienic oraz współwłaścicielem firmy importującej wina. Od 1907 r. rodzina mieszkała w Wilnie, gdzie Józef rozpoczął naukę w prywatnym Gimnazjum Winogradowa. W wyniku wybuchu wojny oraz śmierci ojca sytuacja finansowa rodziny uległa znacznemu pogorszeniu, w związku z czym kontynuował naukę pod opieką prywatnego korepetytora.
Mając 17 lat, w 1919 roku, wstąpił do 10. Pułku Ułanów Litewsko-Białoruskiej Dywizji, potem walczył w szeregach 13. Pułku Ułanów. Dostał się do niewoli.
Po zakończeniu wojny polsko-bolszewickiej, w 1921 r. rozpoczął studia na wydziale przyrodniczo-filozoficznym Uniwersytetu Warszawskiego, by, ukończywszy zaledwie dwa semestry, przenieść się do Wilna na Uniwersytet im. Stefana Batorego. Studia przerwał na rzecz pracy dziennikarskiej. W redagowanym przez brata Stefana dzienniku „Słowo” publikował felietony, artykuły i reportaże o tematyce politycznej i historycznej, dając się poznać jako zagorzały antykomunista.
W 1924 r. zawarł trwający kilka lat związek małżeński z Antoniną Kopańską, z którą miał córkę – Halinę. Następnie związał się z dziennikarką Barbarą Toporską.
W 1936 r. ukazał się zbiór jego nowel pt. „16-go między trzecią i siódmą”, a dwa lata później – zbiór reportaży „Bunt rojstów”. Od 1939 r. wydawał własne pismo – „Gazetę Codzienną”, na łamach którego publikował teksty antynacjonalistyczne oraz antysowieckie.
Gdy wiosną 1940 r. cofnięto mu koncesję wydawniczą, podjął pracę drwala i furmana. Po wkroczeniu wojsk niemieckich na tereny ZSRR odmówił redagowania okupacyjnego pisma w języku polskim, jednak na łamach wydawanego przez niemieckie władze „Gońca Codziennego” opublikował kilka artykułów poświęconych sowieckiej okupacji Wilna. Teksty te były pretekstem do oskarżenia Mackiewicza o kolaborację - Sąd Specjalny AK w Wilnie wydał na niego wyrok śmierci, którego jednak nie wykonano.
W 1943 r., na zaproszenie władz niemieckich i za zgodą Komendy Okręgu AK, wziął udział w ekshumacji zwłok polskich oficerów w Katyniu. W oparciu o te doświadczenia powstały „Zbrodnia katyńska w świetle dokumentów” oraz relacja „Zbrodnia w lesie katyńskim”.
Po wkroczeniu na tereny II RP Armii Czerwonej w 1944 r. wyjechał wraz z żoną do Warszawy. Stolicę opuścili przed wybuchem powstania warszawskiego. W 1945 r. udali się Włoch. W tym samym roku Sąd koleżeński Związku Dziennikarzy RP oczyścił pisarza z zarzutu kolaboracji z Niemcami. Mackiewicz publikował na łamach pism emigracyjnych („Kultura”, „Wiadomości”, „Lwów i Wilno”).
W 1947 r. Mackiewiczowie przeprowadzili się do Londynu, a w 1955 r. – na stałe do Monachium. W 1952 roku pisarz, jako świadek i ekspert, stanął przed komisją Kongresu USA badającą zbrodnię katyńską.
Od 1955 r. publikowane były jego kolejne powieści – „Droga donikąd”, „Karierowicz”, „Kontra”, „Sprawa pułkownika Miasojedowa”, „Lewa wolna”, „Nie trzeba głośno mówić”.
W 1971 r. został odznaczony przez prezydenta RP na Uchodźstwie Krzyżem Komandorskim Orderu Polonia Restituta, a trzy lata później Wydział Słowiańskich Języków i Literatur Uniwersytetu w Kansas przedstawił jego kandydaturę do Nagrody Nobla.
Pisarz zmarł 31 stycznia 1985 r., pochowany został w Londynie.