הרב ד"ר יוסף צבי קרליבך נולד בליבק בכ"ב בשבט ה'תרמ"ג (30 בינואר 1883), השמיני מבין שנים עשר ילדיהם של הרב ד"ר שלמה קרליבך, רבה של ליבק, ושל אסתר, בתו של הרב אלכסנדר זוסמן אדלר, רבה הראשון של העיר. כמה מאחיו היו לרבנים, ובהם הרב הרטוויג נפתלי קרליבך, אביו של הרב שלמה קרליבך "הרב המרקד". למד תלמוד אצל הרב מרדכי גומפל, תלמיד הרב יעקב אטלינגר, אך לפי חברת פינטו היה אביו המשפיע העיקרי עליו.

בשנים 1901–1905 למד מתמטיקה ומדעי הטבע באוניברסיטת ברלין, ובמקביל שמע שיעורים בבית המדרש לרבנים מפי הרב דוד צבי הופמן. בשנים 1905–1907 לימד מדעי הטבע בבית הספר למל בירושלים, ופגש את הרב שמואל סלנט ואת הראי"ה קוק, אז רבה של יפו. בשנת 1909 קיבל תואר דוקטור בהיידלברג על עבודה בכתביו המתמטיים של הרלב"ג, ובשנת 1914 הוסמך לרבנות.

במלחמת העולם הראשונה הוצב בתפקידי חינוך בליטא הכבושה, והקים בקובנה גימנסיה עברית ברוח "תורה עם דרך ארץ". לאחר פטירת אביו בשנת 1919 כיהן כממלא מקום רב ליבק, ובשנים 1921–1926 עמד בראש בית הספר "תלמוד תורה" בהמבורג, שאותו חידש והנהיג בו את לימוד העברית כשפה חיה. בשנת 1925 נבחר לרבה הראשי של אלטונה, ובשנת 1936 נתמנה לרבה הראשי של המבורג בבית הכנסת בבורנפלאץ.

תחת השלטון הנאצי המשיך לדרוש בגלוי, גם בנוכחות אנשי הגסטפו. ב-6 בדצמבר 1941 גורש עם משפחתו למחנה יונגפרנהוף ליד ריגה; לדברי בתו מרים, דחה הצעה להישאר מאחור כדי שלא לנטוש את מגורשי המשלוח, ובמחנה ארגן בסתר שיעורים וחגיגת חנוכה. בח' בניסן ה'תש"ב (26 במרץ 1942) נרצח ביער ביקרנייקי יחד עם אשתו שרלוטה ושלוש בנותיו הצעירות. מקום קבורתו אינו ידוע.

ספריו: Lewi ben Gerson als Mathematiker (1910), Die drei grossen Propheten (1932), Das gesetzestreue Judentum (1936).