Nabi ﷺ menerima kabar bahwa pasukan Romawi mulai menghimpun kekuatan untuk menyerang kaum muslimin. Beliau ingin berinisiatif bergerak menghadapi mereka. Dalam ekspedisi ini kaum muslimin menghadapi banyak kesulitan: cuaca panas, air yang langka, jarak yang jauh, serta kemiskinan dan kesempitan hidup. Karena itu, tidak seperti biasanya, Nabi ﷺ menyebutkan tujuan perjalanan secara terbuka. Beliau mempertimbangkan berbagai hambatan, jauhnya jarak, keadaan dan jumlah musuh beserta perlengkapannya, serta memberi pasukan kesempatan mempersiapkan perjalanan yang panjang dan tugas yang berat.
Tiga puluh ribu pasukan dari kalangan Muhajirin, Anshar, dan kabilah-kabilah Arab bergabung dengan Nabi ﷺ. Beliau menyerahkan panji kepada Abu Bakar Ash-Shiddiq, membagi pasukan menjadi beberapa kelompok, dan menunjuk pemimpin untuk setiap kelompok. Beliau menunjuk Ali bin Abi Thalib radhiyallahu ‘anhu untuk menggantikannya di Madinah dan mengurus keluarga beliau. Ali merasa berat karena tidak dapat ikut dalam ekspedisi itu, lalu meminta izin kepada Nabi ﷺ untuk berangkat. Beliau bersabda, “Tidakkah engkau rela kedudukanmu di sisiku seperti kedudukan Harun di sisi Musa, hanya saja tidak ada nabi setelahku?” (HR. Bukhari).
Sebagian besar kaum munafik tidak ikut dalam ekspedisi ini dan mengemukakan berbagai alasan palsu. Sebagian mengaku tidak mampu melakukan perjalanan, sebagian berdalih kekurangan bekal, sebagian menjadikan panas yang menyengat sebagai alasan, dan sebagian lain mengaku takut tergoda oleh perempuan Romawi.