הרב יעקב כולי נולד בירושלים בשנת ה׳תמ״ט (1689) לערך — ולפי מקורות אחרים בשנת 1685 — למשפחה מצאצאי מגורשי ספרד. אביו, רבי מכיר, היה חתנו של רבי משה בן חביב, וחינכו מילדותו לחיי נזירות, הסתפקות במועט ומיעוט שינה. רבי יעקב היה נכדו ותלמידו של רבי משה בן חביב.

מפעלו הראשון היה הוצאת כתבי זקנו. לאחר שערכם בצפת נסע בשנת ה׳תע״ד (1714) לקושטא כדי להדפיסם, ושם הכיר את רבה של העיר, רבי יהודה רוזאניס, שנחשב אז לסמכות העליונה במזרח, ומינה אותו לדיין בבית הדין. בשנת 1727 הוציא לאור את ספר זקנו ״שמות בארץ״. לאחר פטירת רבי יהודה באותה שנה הופקד על סידור כתביו: ב־1728 ההדיר את ״פרשת דרכים״, ואחר כך את ״משנה למלך״, שאליו צירף את הגהותיו המצוינות בשם ״אמר המגיה״. כן הוציא את ספר זקנו ״עזרת נשים״, ובראשו שתי תשובות משלו.

חיבורו העיקרי הוא ״מעם לועז״, פירוש אנציקלופדי רחב לתורה בשפת הלאדינו, השואב מן התלמוד, המדרש וספרות הרבנים. רבי יהודה מזרחי, עשיר מופלג ואוהב תורה, מימן את הדפסת 1,000 עותקים של החלק על ספר בראשית. רבי יעקב השלים את בראשית ואת שמות עד פרק כ״ד, ולאחר פטירתו המשיכו את המפעל רבי יצחק מגריסו ורבי יצחק בכור ארגוטי. החיד״א כתב עליו: ״כי היה סופר מהיר ובקי בש״ס ובפוסקים ומפרשים, וכנראה בספר ׳מעם לועז׳ אשר חיבר לזכות את הרבים, אשריו ואשרי חלקו״.

חיבוריו: ״מעם לועז״ (בראשית וחלק משמות), ״משנה כסף״ על הרמב״ם (יצא לאור בשנת תשע״ט), ״סימנים דאורייתא״ שנותר בכתב יד, וכן תשובות ודרשות שנדפסו עם ספרי זקנו.

הוא נפטר בקושטא בי״ט באב ה׳תצ״ב (אוגוסט 1732), בטרם הספיק להשלים את ״מעם לועז״.