הרב יוסף אוחיון נולד בשנת ה'תרמ"ו (1886) בעיר איתזראר שבדרום מרוקו, לאסתר ולרב מרדכי אוחיון, תלמיד חכם שהתפרנס ממסחר.

בצעירותו למד בישיבה בעיר איליג אצל הרב שלום אמזלג, שנים שעברו עליו בדוחק ובריחוק מבית הוריו. לאחר סיום לימודיו נשא את שרה בת הרב מכלוף סוויסה, ועסק במסחר תוך המשך לימוד התורה.

בהמשך שימש כדיין וכרב הקהילות היהודיות באיתזראר ובתיזנית. נודע בשקידתו, ורבות סופר על כך שלא שם ליבו לחפצים יקרים שנעלמו מביתו בעודו שקוע בלימוד; תלמידים רבים התכנסו בביתו ללמוד. שימש גם כמוהל, יצא לכפרים נידחים למול תינוקות בלא לקבל שכר, וסייע למשפחות דלות לערוך את סעודת הברית. בזכות שליטתו בתורת הקבלה התפרסם כבעל מופת בסביבתו.

חיבוריו: "אבקת רוכל", דרושים בשני כרכים שנדפסו בקזבלנקה בחייו, ו"אמרי יוסף". חיבורים נוספים שבכתב יד, ובהם חיבור על השולחן ערוך, אבדו.

נפטר בכ"ט באב ה'תשט"ז (6 באוגוסט 1956) ונקבר בתיזנית. חתניו היו הרבנים יעיש כהן ודוד סוויסה. בשנת 2002, ביוזמת קרן "עוד יוסף חי" שייסד נכדו הרב יעקב כהן, הועלו עצמותיו לקבורה בבית העלמין העתיק בצפת.