Saat itu, dakwah Islam masih dijalankan dengan sembunyi-sembunyi oleh Kanjeng Nabi SAW. Ali bin Abi Thalib lalu memberi isyarat begini pada Abu Dzar al-Ghiffari: hendaknya berjalan mengikutinya, kalau ia berhenti, maka hendaklah ia pun berhenti atau melintas berlalu saja demi menghindarkan kecurigaan orang-orang Quraisy, dan terus begitu hingga ia memasuki sebuah pintu.
Abu Dzar al-Ghiffari mengikuti arahan rahasianya. Berjalan dengan menjaga jarak wajar. Setelah sampai di sebuah rumah, lalu Ali bin Abi Thalib memasukinya, ia pun mengikutinya, masuk, dan di situlah dilihatnya sosok yang sangat ingin dijumpainya.
Abu Dzar al-Ghiffari menguluk salam kepada Kanjeng Nabi SAW: “Assalamu’alaika ya RasulaLlah….”
Kanjeng Nabi SAW membalas ucapan salam itu, “Wa’alaikas salam. Siapakah engkau?”
