רבי יצחק יעקב רבינוביץ, רבי איצל׳ה פוניבז׳ר, נולד בשנת 1854 בשערשוב שבבלארוס, למשפחת סוחרים אמידה. בגיל ארבע עשרה עזב את הבית ללמוד בסלץ אצל רבי ירוחם פרלמן, לימים רבה של מינסק. שנים אחדות לאחר מכן יצא עם רבי חיים סולובייצ׳יק לבריסק: בלימודם המשותף פיתחו שני הצעירים דרך חדשה בלימוד התלמוד, המבוססת על ניתוח לוגי והבנה מושגית של הסוגיה, בשונה מן הפלפול.

בשנת 1889 היה למרביץ תורה בישיבת סלבודקה, ועזב אותה בשנת 1894 בשל הסתייגותו מדרך המוסר שנקט המוסד, כדי לכהן כרבה של גורזד. בשנת 1896 מונה לרבה של פוניבז׳ שבליטא, אחרי האדר״ת, ושם ייסד בשנת 1909 את ישיבת פוניבז׳.

רבי יוסף דוב סולובייצ׳יק מבוסטון סיפר ששני ראשי ישיבות גדולים פתחו אופקים חדשים בחשיבה התלמודית במאה התשע עשרה: רבי חיים מבריסק ורבי יצחק מפוניבז׳. שיטת הניתוח המושגי שלו השפיעה עמוקות על הלימוד בישיבות הליטאיות. תורתו נדפסה בשם “זכר יצחק”.

הוא נפטר בשנת 1919.