Orang-orang Yahudi tinggal di Madinah sambil menantikan diutusnya seorang nabi. Mereka mengetahui sifat nabi itu, ciri-ciri negerinya, dan tempat diutusnya dari Taurat. Mereka berharap nabi tersebut berasal dari kalangan mereka. Namun, ketika Nabi ﷺ diutus dan mereka mengetahui bahwa beliau berasal dari bangsa Arab, mereka mengingkari beliau, bersekongkol untuk menentangnya, menghasut kaum musyrik agar memeranginya, dan berusaha membunuh beliau karena dengki.
Ketika Nabi ﷺ tiba di Madinah, di sana tinggal tiga kabilah Yahudi, yaitu Bani Qainuqa, Bani Nadhir, dan Bani Quraizhah. Mereka memiliki kekuatan dan perlindungan yang besar. Orang-orang Yahudi menguasai kekuatan ekonomi Madinah dan sumber airnya. Nabi ﷺ telah mencurahkan upaya besar untuk mengajak mereka masuk Islam. Namun, mereka menolak kebenaran karena keingkaran dan kesombongan, padahal mereka mengetahui dengan pasti kebenaran risalah beliau dan kebenaran yang beliau bawa. Hanya sedikit sekali dari mereka yang masuk Islam.
Setelah menetap di Madinah, Nabi ﷺ membuat perjanjian damai dengan orang-orang Yahudi. Beliau membiarkan mereka tetap menjalankan agama dan memiliki harta mereka. Mereka bersepakat untuk tidak membantu siapa pun dalam memerangi beliau; jika musuh menyerang Madinah, mereka akan membantu membelanya. Nabi ﷺ juga menulis sebuah dokumen yang mengatur hubungan penduduk Madinah serta menjelaskan komitmen, hak, dan kewajiban setiap pihak. Dokumen itu dikenal sebagai Piagam Madinah.