Józef Mackiewicz urodził się 1 kwietnia 1902 r. w Petersburgu. Ojciec był właścicielem kamienic oraz współwłaścicielem firmy importującej wina. Od 1907 r. rodzina mieszkała w Wilnie, gdzie Józef rozpoczął naukę w prywatnym Gimnazjum Winogradowa. W wyniku wybuchu wojny oraz śmierci ojca sytuacja finansowa rodziny uległa znacznemu pogorszeniu, w związku z czym kontynuował naukę pod opieką prywatnego korepetytora.
Mając 17 lat, w 1919 roku, wstąpił do 10. Pułku Ułanów Litewsko-Białoruskiej Dywizji, potem walczył w szeregach 13. Pułku Ułanów. Dostał się do niewoli.
Po zakończeniu wojny polsko-bolszewickiej, w 1921 r. rozpoczął studia na wydziale przyrodniczo-filozoficznym Uniwersytetu Warszawskiego, by, ukończywszy zaledwie dwa semestry, przenieść się do Wilna na Uniwersytet im. Stefana Batorego. Studia przerwał na rzecz pracy dziennikarskiej. W redagowanym przez brata Stefana dzienniku „Słowo” publikował felietony, artykuły i reportaże o tematyce politycznej i historycznej, dając się poznać jako zagorzały antykomunista.
W 1924 r. zawarł trwający kilka lat związek małżeński z Antoniną Kopańską, z którą miał córkę – Halinę. Następnie związał się z dziennikarką Barbarą Toporską.
W 1936