لقتله ابن نويرة، فكتب إلى أبي عبيدة أن انزع عمامته وقاسمه ماله، فلما أخبره قال: ما أنا بالذي أعصي أمير المؤمنين، فاصنع ما بدا لك، فقاسمه حتى أخذ نعله الواحدة.
وقال ابن جرير: كان أول محصور بالشام أهل فحل ثم أهل دمشق، وبعث أبو عبيدة ذا الكلاع حتى كان بين دمشق وحمص ردءا، وحصروا دمشق، فكان أبو عبيدة على ناحية، ويزيد بن أبي سفيان على ناحية، وعمرو بن العاص على ناحية، وهرقل يومئذ على حمص، فحاصروا أهل دمشق نحوا من سبعين ليلة حصارا شديدا بالمجانيق، وجاءت جنود هرقل نجدة لدمشق، فشغلتها الجنود التي مع ذي الكلاع، فلما أيقن أهل دمشق أن الأمداد لا تصل إليهم فشلوا ووهنوا.
وكان صاحب دمشق قد جاءه مولود فصنع طعاما واشتغل يومئذ، وخالد بن الوليد لا ينام ولا ينيم قد هيأ حبالا كهيئة السلالم، فلما أمسى هيأ أصحابه وتقدم هو والقعقاع بن عمرو، ومذعور بن عدي وأمثالهم، وقالوا: إذا سمعتم تكبيرنا على السور فارقوا إلينا وانهدوا الباب. قال: فلما انتهى خالد ورفقاؤه إلى الخندق رموا بالحبال إلى الشرف، وعلى ظهورهم القرب التي سبحوا بها في الخندق، وتسلق القعقاع ومذعور فلم يدعا أحبولة إلا أثبتاها في الشرف، وكان ذلك المكان أحصن مكان بدمشق، فاستوى على السور خلق من أصحابه ثم كبروا، وانحدر خالد إلى الباب فقتل البوابين، وثار أهل البلد إلى مواقفهم لا يدرون ما الشأن، فتشاغل أهل كل جهة بما يليهم، وفتح خالد الباب ودخل أصحابه عنوة، وقد كان المسلمون دعوهم إلى الصلح والمشاطرة فأبوا، فلما رأوا البلاء بذلوا الصلح، فأجابهم من يليهم وقبلوا، فقالوا: ادخلوا وامنعونا من أهل ذاك الباب، فدخل أهل كل باب بصلح ما يليهم، فالتقى خالد والأمراء في وسط البلد، هذا استعراضا ونهبا، وهؤلاء صلحا، فأجروا ناحية خالد على الصلح بالمقاسمة. وكتب إلى عمر بالفتح.