Rav Yossef Chelomo Dayan est né à Alep, en Syrie, en 5684 (1924), fils de Rav Nissim et de Djamila Dayan. Son père, issu d'une famille rabbinique de lignée prestigieuse, comptait parmi les dayanim de la communauté et enseignait. Il fut instruit par son père et au kouttab, le talmud-torah communautaire.

En 5694 (1934), vers l'âge de dix ans, il monta en Erets Israël avec sa famille, qui s'installa dans le quartier de Re'havia à Jérusalem. À la mort de son père en 5702 (1942), il travailla comme chauffeur de transport ; à la suite d'une arrestation par les autorités britanniques, il quitta ce métier pour se consacrer à l'étude de la Kabbale et à l'accomplissement des mitsvot. Il étudia en tête-à-tête avec Rav Mordekhaï Charabi et fut aussi l'élève de Rav 'Haïm Sinouani.

Il dissimulait au public son étude de la Kabbale, vivait dans la discrétion et portait des vêtements simples, éloignés de l'habit rabbinique. Il s'isolait de longues périodes sur les tombes des Tannaïm et des Amoraïm en Galilée et ailleurs, pour y réciter prières et tikounim. Il se rendait chaque jour au tombeau du prophète Chemouel avec des groupes d'avrekhim qu'il organisait, et fréquentait aussi le Kotel, le tombeau de Chimon HaTsaddik et le mont des Oliviers. On lui attribue l'identification de plusieurs tombes de justes dans le nord du pays, dont il repeignait et blanchissait les stèles chaque été. Il distribuait la tsedaka en secret, et ses élèves le tenaient pour un faiseur de miracles.

En 1984, il fit construire à ses frais, avec l'accord des gabbaïm, l'arche sainte de la synagogue Nezer Aharon à Bayit VeGan, pour laquelle il avait économisé pendant une dizaine d'années.

Il quitta ce monde le vendredi 9 Tamouz 5745 (28 juin 1985) à Jérusalem, deux semaines après une première crise cardiaque. Ses élèves organisèrent des funérailles avant l'entrée de Chabbat, et il fut enterré au cimetière de Har HaMenou'hot.