הלל הזקן נולד בבבל למשפחה נכבדה שלפי המסורת הייתה מבית דוד. היה לו אח בשם שבנא, שעסק במסחר בעוד הלל עסק בתורה. לפי הספרי, עלה הלל מבבל בן ארבעים שנה, שימש חכמים ארבעים שנה ופרנס את ישראל ארבעים שנה.

כשהגיע לארץ ישראל היה עני מאוד, עבד כחוטב עצים, ומחצית משכרו הזעום נתן כדי ללמוד בבית המדרש של שמעיה ואבטליון. ביום חורף אחד לא היה לו כסף, ושומר בית המדרש לא הניח לו להיכנס; עלה לגג כדי להאזין דרך הארובה, ולמחרת מצאוהו מכוסה שלג (יומא לה ע״ב).

פעם אחת חל ערב פסח בשבת, ולא ידעו אם קורבן פסח דוחה את השבת. שאלו את הלל, שהיה תלמידם של שמעיה ואבטליון, והוא הוכיח שהפסח דוחה את השבת, ובאותו יום מינוהו לנשיא הסנהדרין (פסחים סו ע״א). הוא היה בן הדור האחרון של הזוגות, ובן זוגו ובר פלוגתא שלו היה שמאי הזקן. מתקנותיו הידועה ביותר היא הפרוזבול, המאפשר לגבות חוב למרות שמיטת כספים. צאצאיו החזיקו בנשיאות עד המאה החמישית.

ענוותנותו וסבלנותו היו למשל. לגוי שביקש ללמוד את כל התורה על רגל אחת השיב: ״דעלך סני, לחברך לא תעביד. זו היא כל התורה כולה, ואידך – פירושה הוא, זיל גמור״ (שבת לא ע״א). במסכת אבות (א, יד) מובאת אמרתו ״אם אין אני לי מי לי״. לפי התלמוד היו לו שמונים תלמידים, הגדול שבהם יונתן בן עוזיאל והקטן שבהם רבן יוחנן בן זכאי.

תלמידיו כונו בית הלל, והתקבלה הקביעה ש״הלכה כבית הלל״. נפטר בסביבות שנת 10 לספירה, בירושלים. מערת קבורה המיוחסת לו ולתלמידיו נמצאת במירון, סמוך לקבר רשב״י, ואזכורים לה מצויים החל מהמאה ה־11.