Di Mekah, kehidupan kaum muslimin menjadi semakin sukar untuk bertahan. Kaum musyrikin Quraisy melakukan penyiksaan yang tak terbayangkan terhadap kaum muslimin, menggunakan beragam alasan untuk menyiksa agar sang korban melepaskan keyakinannya.

Menghadapi situasi ini, kaum muslimin meminta ijin kepada Guru kita saw untuk berhijrah. Namun, Guru kita belum menerima wahyu mengenai masalah ini, maka beliau tidak bisa mengatakan apapun kepada mereka atau menunjukkan ke tempat mana mereka harus pergi.

Beberapa hari berlalu ketika kabar gembira sampai kepada kaum muslimin melalui Guru kita saw:

“Aku telah diberitahu dan ditunjukkan bahwa tempat kemana kalian akan berhijrah adalah sebuah kota dengan gundukan pohon kurma di antara dua bukit hitam, yang dikenal sebagai Yatsrib (Madinah). Mereka yang ingin meninggalkan Mekah bisa pergi ke sana. Kalian akan bergabung di sana dengan saudara muslim kalian dari Yatsrib. Allah Yang Maha Kuasa menjadikan mereka saudara kalian dan menyatakan bahwa ia adalah rumah baru kalian.”

Bagi para muslim yang menderita karena siksaan, ini merupakan berita yang sangat besar. Kebanyakan mereka yang berhijrah dari Mekah ke Madinah melakukannya dengan sangat rahasia. Hanya satu perkecualian, yakni Hazrat Umar ra. Hijrahnya terjadi sebagai berikut:

Pada suatu hari, Hazrat umar mau meninggalkan Mekah. Dia mengikatkan pedangnya, mengambil busur dan anak panahnya, dan mengisi kantung anak panahnya. Kemudian dia pergi ke Haram Asy-Syarif, mengitari Kabah tujuh kali, shalat dua rakaat, dan berdoa. Setelah itu, dia menyapa kaum musyrikin Mekah dari atas kudanya dan bicara dengan suara lantang:

“Adakah di sini yang menginginkan ibunya menangis, istrinya menjadi janda, dan anak-anaknya menjadi yatim? Aku mengumumkan bahwa aku akan pergi ke Madinah! Jika ada yang berkeinginan menjadi orang yang kusebutkan tadi, silakan temui aku di luar lembah ini agar aku bisa mengirimnya untuk menyusul leluhurnya!”

Setelah pidato itu, dia mengendarai kudanya ke luar dari kota. Tidak seorang pun dari musyrikin Quraisy yang berani mengikutinya dan mencoba menghentikannya.

Sementara itu, beberapa orang muslim seperti Ayyasy bin Abi Rabiah ditipu oleh orang-orang Mekah. Dengan menggunakan keluarganya sebagai pengaruh untuk membuat mereka kembali ke Mekah. Mereka lalu ditangkap dan dipenjarakan.