سپس رسول خدا (ص) فاصله مکه تا مدینه را از راهی غیر معمول طی کردند و پس از پانزده روز وارد دهکده قبا در فاصله شش کیلومتری مدینه شدند. رسول خدا (ص) در قبا منتظر رسیدن یار و پسر عم خود حضرت علی (ع) شدند که بعد از هجرت رسول خدا (ص) به همراه کاروانی که شامل زنان و دختران پیامبر (ص) و بنیهاشم می شد، از جمله حضرت زهرا (س) و فاطمه بنت اسد و سایر کسانی که هنوز موفق به هجرت نشده بودند، به سمت مدینه در حرکت بود. امام علی (ع) در مکه وظیفه پس دادن امانت هایی که مردم مکه نزد پیامبر (ص) داشتند، را داشت و پس از انجام این کار راهی مدینه شد. پیامبر (ص) در این مدت که در قبا بودند، اقدام به ساختن مسجد قبا کردند و پس از رسیدن کاروان حضرت علی (عع)، به همراه ایشان راهی مدینه شدند.
پیامبر(ص) در ماه رمضان سال 8 هجرت با 10,000 نفر روانه مکه شد. و ترتیب حرکت را طوری داده بود که هیچکس از سفر او مطلع نگردد. چون لشکر به مرّالظهران رسید، عباس، عموی پیامبر، شب هنگام از خیمه بیرون شد و خواست کسی از مردم مکه را ببیند و به وسیله او پیغام دهد که قریش پیش از آنکه هلاک شوند خود را به پیغمبر برسانند. در آن شب به ابوسفیان برخورد و او را پناه داد و نزد پیامبر(ص) آورد، که ابوسفیان مسلمان شد. روز دیگر پیامبر دستور داد عباس او را در جای مناسبی نگاه دارد تا لشکریان از پیش روی او بگذرند.
پیامبر گفت: «هر کس به خانه رود و در را به روی خود ببندد در امان است و هرکس به خانه ابوسفیان پناهنده شود در امان است، و هرکس به مسجد الحرام برود در امان است». لشکر انبوه با آرامی وارد مکه شد. ابن هشام از ابن اسحاق روایت میکند که سعد بن عباده رئیس تیره خزرج، چون به مکه درآمد گفت: «امروز روز کشتار است! امروز روز درهم شکسته شدن حرمت است». سعد به گمان خود میخواست از قریش یا از تیره عدنانی انتقام بگیرد، و داد یثرب و مردم آن را از قریش و مکه بستاند. برای اینکه این توهم در ذهن مسلمانان جای نگیرد و فتح اسلامی را به حساب کینهتوزی قبیله نگذارند، پیامبر(ص)، علی (ع) را فرستاد و بدو گفت: «پرچم را از سعد بگیر که امروز روز رحمت است». بین مسلمانان و مردم مکه جز چند درگیری مختصر رخ نداد. پیغمبر(ص) به مسجد درآمد و همچنانکه سوار بود 7 بار کعبه را طواف کرد و بر در کعبه ایستاد و گفت: «لا اله الا الله وحده لا شریک له صدق وعده و نصر عبده و هزم الاحزاب وحده»