Rav Ya'akov 'Haïm naquit à Bagdad le 10 Nissan 5614 (8 avril 1854). Il était le fils unique de Rav Yossef 'Haïm, guide de la communauté juive de la ville et auteur du Ben Ich 'Haï, et de son épouse Ra'hel, fille de Rav Yehouda Somekh.

Il reçut ses premières leçons au kouttab, l'école traditionnelle locale. Comme il dépassait vite ses camarades, son père se chargea lui-même de son enseignement, et Ya'akov devint son disciple principal. Très jeune, il était déjà connu comme un érudit, et son père le cite souvent dans ses écrits. Pourtant, du vivant de celui-ci, il n'occupa aucune fonction officielle ou publique.

À la mort du Ben Ich 'Haï, en 5669 (1909), les dirigeants de la communauté de Bagdad le choisirent pour succéder à son père dans le rabbinat. Il reprit les sermons hebdomadaires, qui attiraient un public nombreux, administra la caisse de charité de la communauté et œuvra aussi pour les pauvres de Jérusalem. Il fonda une yéchiva pour les ba'alé batim, appelée « Midrach Beit Tako », et la dirigea. Il était réputé pour sa maîtrise de la Kabbale pratique.

Il édita et publia plusieurs écrits de son père. Œuvres : Tsitsim ouFra'him, commentaire de la Torah selon les quatre niveaux du Pardès, imprimé à Jérusalem en 5664 (1904) avec l'approbation de son père ; Zekhout Avot sur les Pirké Avot, que son père joignit à son 'Hasdé Avot ; Gaon Ya'akov, sur les aggadot du Talmud, publié à Jérusalem en 5778 (2018) ; le recueil Tal Orot, 39 courtes réponses ajoutées au Hod Yossef de son père. Ses lettres ont paru dans le Na'halat Avot.

Il exerça le rabbinat à Bagdad pendant douze ans, jusqu'à son décès le 12 'Hechvan 5681 (24 octobre 1920). Son fils, Rav David 'Haïm, lui succéda.