רבן שמעון בן גמליאל הזקן נולד בירושלים בימי בית שני. נינו של הלל הזקן, ירש את מקום אביו, רבן גמליאל הזקן, בנשיאות הסנהדרין כשמונה עשרה שנה לפני חורבן הבית, והיה הנשיא האחרון בימי הבית. התלמוד מלמד כי “הלל ושמעון, גמליאל ושמעון נהגו נשיאותן לפני הבית מאה שנה”.

בימי המרד הגדול ברומאים היה ממנהיגי ירושלים לצד הכוהנים הגדולים חנן בן חנן ויהושע בן גמלא. בנו היה רבן גמליאל דיבנה, ובתו, אימא שלום, נישאה לרבי אליעזר בן הורקנוס. הוא נקרא “רבן שמעון בן גמליאל הזקן” או “ההרוג” כדי להבדילו מנכדו בן אותו שם.

פרקי אבות מביאים את משנתו: “כל ימיי גדלתי בין החכמים, ולא מצאתי לגוף טוב אלא שתיקה; ולא המדרש עיקר, אלא המעשה; וכל המרבה דברים – מביא חטא”.

לפי המסורת, היה אחד מעשרה הרוגי מלכות, והוצא להורג בידי הרומאים בסביבות שנת 70, יחד עם רבי ישמעאל בן אלישע, הכהן הגדול.