Santiago był starym rybakiem w Golfstromie. Pomagał mu chłopiec o imieniu Manolin, który wypływał z nim na ryby. Santiago nie miał jednak ostatnio szczęścia i rodzice chłopca kazali mu wypływać z innym rybakiem. Chłopiec był im posłuszny, ale nadal pomagał staremu, gdy wracał z połowu, ponieważ bardzo go kochał.
Santiago doskwierała bieda, ale razem z chłopcem udawał, że ma wszystko, co jest mu niezbędne. Wierzył, że gdy wypłynie następnego dnia, złowi ogromną rybę. Wieczorem jego mały przyjaciel przyniósł mu kolację, ponieważ w przeciwnym wypadku Santiago nie miałby nic do zjedzenia. Umówili się, ze następnego ranka Santiago obudzi Manolina i razem pójdą na nadbrzeże: stary do swojej łodzi, chłopiec do łodzi nowego pracodawcy. Tak też zrobili i Santiago, jeszcze pod osłoną nocy, wypłynął samotnie w morze.
Ocean był spokojny, a prąd wypychał łódź coraz dalej. Gdy się rozwidniło, Santiago zarzucił przynęty. Ostatnie niepowodzenia w połowach tłumaczył sobie brakiem szczęścia. Uważał, że jest dobrym rybakiem. W miarę upływu czasu odpływał coraz dalej od lądu. Początkowo widział sporo łodzi, ale w pewnym momencie pozostały już tylko trzy. Nagle zauważył sokoła i zaczął za nim płynąć w przekonaniu, że ptak doprowadzi go do ryb. Ptak polował na latającą rybę, ale tę samą ofiarę upatrzyła sobie grupa delfinów. Santiago miał nadzieję, że gdzieś niedaleko nich znajduje się jego wymarzona wielka ryba. Coraz bardziej oddalał się od lądu. Ptak doprowadził go do ławicy tuńczyków. Santiago złapał jednego i przeznaczył na przynętę. Nadal czekał, aż nawinie mu się wielki marlin, jego upragniona zdobycz.
Nagle zauważył, że linka, do której przyczepione były jako przynęta sardynki, porusza się. Wziął ją w dłoń i poczuł wielki ciężar. Był to marlin. Chociaż Santiago próbował podciągnąć go do powierzchni wody, by wbić w niego harpun, ryba płynęła z hakiem w pysku i ciągnęła za sobą łódź. Linka w rękach Santiago była naprężona. W ogóle nie widział już lądu, ponieważ ryba ciągnęła go już od kilku godzin.
Zapadł zmrok, zrobiło się zimno. Stary myślał kilka razy o tym, że chciałby mieć przy sobie chłopca. Nad ranem inna ryba wzięła przynętę, ale musiał ją odciąć, bo nie dałby rady walczyć z dwoma naraz. Poodcinał też inne przynęty, żeby mieć więcej linki w zapasie, a to oznaczało, że stracił pozostałe haki i część rybackiego sprzętu. Zdecydował się skupić jedynie na walce z potężnym marlinem. W pewnym momencie ryba szarpnęła, Santiago upadł i rozciął sobie skórę pod okiem. Bardzo bolały go plecy, ponieważ cały ciężar, jaki miał na lince, przeniósł na swój grzbiet. Mówił sobie, że wytrzyma tak długo, jak jego przeciwnik.
Już po nadejściu brzasku ryba szarpnęła znowu i tym razem Santiago zranił rękę. Był zły, że dał się zaskoczyć. Potem postanowił zjeść małego tuńczyka, żeby nie opaść z sił. Zdrętwiała mu lewa ręka, zmęczona ciągłym napięciem. W końcu marlin wypłynął na powierzchnię – Santiago nigdy wcześniej nie widział tak wielkiej ryby. Marlin wynurzył się tylko na chwilę, a potem z powrotem opadł na poprzednią głębokość. W południe lewa ręka starego nareszcie się rozluźniła, ale i tak bardzo cierpiał. Modlił się, żeby zwyciężyć rybę.
Zapadł zmrok, a Santiago przypominał sobie, jak kiedyś siłował się na rękę z pewnym Murzynem przez cały dzień i przez całą noc. Jego przeciwnik był uznawany za najsilniejszego człowieka w porcie, ale Santiago ostatecznie pokonał go nad ranem po długiej walce. Potem jeszcze kilka razy był zwycięzcą i doszedł do wniosku, że może pokonać każdego.
Wieczorem mężczyźnie udało się wciągnąć do łodzi delfina, który złapał się na jedyną pozostawioną linkę z sardynką. Choć stary trwał w postanowieniu, że zabije marlina, zrobiło mu się go żal – tyle czasu już walczył i nie miał nawet pożywienia. Santiago na noc i następny dzień miał delfina. Kiedy patroszył zdobycz, znalazł w jej żołądku dwie – jeszcze świeże – latające ryby. Zjadł i postanowił zdrzemnąć się przynajmniej kilkanaście minut cały czas trzymając linkę, którą ciągnął niestrudzony marlin.
Spał dłużej, niż zamierzał. Obudziło go szarpnięcie, ból w rękach i pieczenie pleców. Marlin ciągnął linkę, która przesuwała się po ciele rybaka, raz po raz wyskakując z wody. Ból był ogromny i Santiago znowu pomyślał, że brakuje mu chłopca. Ryba ponownie zanurzyła się i ciągnęła łódź, ale widać było, że osłabła. Santiago zjadł drugą latającą rybę. Powoli nadchodził brzask. Marlin, zmęczony, zaczął krążyć, co dawało nadzieję, że niedługo wynurzy się i będzie można go zabić. Staremu robiło się coraz częściej słabo, ale powtarzał sobie, że musi wytrzymać.
Po kilkakrotnych przymiarkach wbił harpun w marlina. Ryba najpierw zerwała się, ale w końcu odwróciła się brzuchem do góry. Santiago dostrzegł krew w wodzie. Udało mu się zabić przeciwnika. Przywiązał marlina do łodzi i zaczął żeglować do domu. Krew marlina przyciągnęła rekina. Rybak właściwie ostatkiem sił wbił w niego harpun i zabił go, ale jego broń poszła na dno wraz z drapieżnikiem. Wiedział, że krew przyciągnie inne rekiny. Powiedział sobie jednak wtedy, że „Człowieka można zniszczyć, ale nie pokonać”. Przywiązał nóż do trzonka wiosła i w ten sposób powstał prowizoryczny harpun.
Przez cały czas przez głowę Santiago przewijała się myśl, ze może grzechem było zabić tak dostojną i szlachetną rybę, jaką był marlin. Pojawiły się kolejne dwa rekiny. Szarpały marlina i Santiago próbował zabić je swoją nową bronią. Był jednak bardzo słaby i każdy ruch sprawiał mu ból, ale udało mu się pokonać napastników. Rekiny oderwały z marlina sporo mięsa i Santiago żałował, że go zabił. Przy następnym rekinie Santiago złamał nóż. Teraz pozostawało mu już tylko próbować zatłuc wiosłem lub pałką kolejnego intruza.
Wieczorem Santiago wydawało się, że jest już niedaleko lądu. Płynął jednak przez całą noc, a rano pojawiły się kolejne rekiny. Walczył z nimi następnego dnia i choć mocno osłabił rekiny, nie zdołał się ich pozbyć. Z każdą chwilą z marlina pozostawało coraz mniej mięsa. Gdy zapadła noc, rybakowi wydało się, że nie żyje, ale ból uświadamiał mu, iż to nieprawda. Bardzo chciał zobaczyć wreszcie światła na brzegu.
O północy rekiny zjawiły się całą grupą i Santiago wiedział, że nie ochroni resztek tego, co zostało z marlina. Bił w ciemnościach pałką po łbach drapieżników, ale te odpłynęły dopiero wtedy, gdy nie zostało już nic do zjedzenia. W nocy Santiago dostrzegł światła i wiedział, że jest blisko domu. Z trudem wyszedł na brzeg i kilka razy musiał się zatrzymywać z powodu zmęczenia. Koło jego łodzi, na brzegu leżał ogromny szkielet. Rybak doszedł do swojego domu i zasnął na łóżku.
Rano przyszedł do starego chłopiec i zobaczył, jak bardzo poraniony jest śpiący Santiago. Rozpłakał się. Na brzegu zebrali się rybacy i dziwili się wielkości szkieletu. Chłopiec przyniósł mężczyźnie kawę i powiedział, że odtąd będą znowu łowić znowu, ponieważ Santiago jest najwspanialszym rybakiem i może wiele chłopca nauczyć.