داستان درباره‌ی پیرمردی به نام سانتیاگو است که یک ماهیگیر بسیار باتجربه است، ولی مدت ۸۴ روز است که هیچ ماهی‌ای صید نکرده است؛ به همین خاطر شاگرد او که پسری به نام مانولین است از سوی والدینش از همراهی پیرمرد در ماهیگیری منع شده است؛ با این حال پسرک پیرمرد را بسیار دوست دارد و با اینکه او را در صید ماهیگیری همراهی نمی‌کند، ولی همواره به وضع پیرمرد رسیدگی می‌کند و نیازهای او را برطرف می‌کند. پیرمرد و پسرک به بازی بیس‌بال علاقه زیادی دارند و در طول داستان درباره‌ی آن گفتگو می‌کنند. علاوه بر بیس‌بال پیرمرد شیرهایی که در سفر به آفریقا دیده را بسیار دوست دارد و شبهای زیادی خواب شیرهای آفریقا را می‌بیند. پیرمرد باور دارد که عدد ۸۵ عدد شانس است و او می‌تواند در روز هشتاد و پنجم یک صید بزرگ داشته باشد.
پسرک طعمه‌ و وسایل صید را برای پیرمرد تهیه می‌کند و پیرمرد در صبح روز هشتاد و پنجم قایق‌اش را در آب انداخته و به تنهایی راهی صید ماهی می‌شود. در طی یک روز، پیرمرد از ساحل بسیار دور می‌شود به آب‌های عمیق خلیج می‌رسد؛ ظهر روز بعد و پس از انتظارهای فراوان سرانجام یک نیزه ماهی بزرگ طعمه را می‌بلعد و پیرمرد که قادر به بالا کشیدن این ماهی بزرگ نیست سعی می‌کند که طناب ماهیگیری را نگه دارد تا نیزه ماهی خسته شده و سرانجام بتواند آن را صید کند. دو روز و دو شب به همین منوال می‌گذرد و فشار طناب ماهیگیری پیرمرد را خسته و زخمی می‌کند. در روز سوم نیزه ماهی خسته شده و شروع به چرخیدن به دور قایق می‌کند، پیرمرد متوجه خسته شدن نیزه ماهی شده و  و با این که بسیار خسته و بی‌رمق است، با تلاش‌های فراوان نیزه ماهی را به کنار قایق کشانده و با فروکردن نیزه‌ای در بدنش آن را می‌کشد.
پیرمرد نیزه ماهی را به کنار قایق می‌بندد و پاروزنان به‌طرف ساحل حرکت می‌کند و در راه به این فکر می‌کند که در بازار چنین ماهی بزرگی را از او به چه مبلغی خواهند خرید؛ اما پیش خود بر این باور است که هیچ‌کس لیاقت خوردن این ماهی باوقار و بزرگ منش را ندارد. در راه بازگشت، کوسه‌ها که از بوی خون پی به وجود نیزه ماهی برده‌اند برای خوردنش هجوم می‌آورند و در چند نوبت مقدار زیادی از گوشت نیزه ماهی را می‌خورند؛ پیرمرد چندتا از کوسه‌ها را از پا درمی‌آورد، ولی در نهایت شب که فرامی‌رسد کوسه‌ها تمام ماهی را می‌خورند و فقط اسکلتی از او باقی می‌گذارند و پیرمرد به خاطر قربانی کردن ماهی خود را سرزنش می‌کند. در روز بعد پیرمرد پیش از طلوع آفتاب به ساحل می‌رسد و راهی کلبه‌اش شده و از شدت خستگی به خوابی عمیق فرومی‌رود.
در صبح آن روز، عده‌ای از ماهیگیران برای تماشا به دور قایق او و اسکلت نیزه‌ماهی جمع می‌شوند و از بزرگی آن تعجب می‌کنند. اما شاگرد پیرمرد، مانولین، فقط سلامت پیرمرد برایش مهم است و برای او در کلبه‌اش روزنامه و قهوه می‌برد. وقتی پیرمرد از خواب بیدار می‌شود به پسرک قول می‌دهد که بار دیگر همراه هم برای صید ماهی به دریا بروند. پیرمرد از فرط خستگی زیاد دوباره به خواب می‌رود و خواب شیرهای سواحل آفریقا را می‌بیند.