وكان شاعراً جيد الشعر، فلما وصل المدينة صلى مع أبي بكر الصبح، ثم أنشد:
نعم القتيل إذا الرياح تناوحتْ ... تحت الإزار قتلتَ يا ابن الأزْوَرِ
أدعوته بالله ثم قتلَتهُ ... لَوْ هُو دعاك بذمة لم يغدر
فقال أبو بكر: والله ما دعوته ولا قتلته. فقال:
لا يضمر الفحشاء تحت ردائه ... حلو شمائُلهُ عفيف المِئزَرِ
ولنعم حشو الدرع أنت وحاسراً ... ولنعم مأوى الطارق المُتَنَوِّر
ثم بكى حتى سالت عينه، ثم انخرط على سية قوسه مغشياً عليه، ولما أفاق طلب من أبي بكر دم أخيه، وأخذ يدافع عن قضيته بالشعر والنثر أحسن دفاع، ومضى يطري أخاه ويذكر محاسنه ويرثيه حتى لفت أهل المدينة إليه، وصار شعره حديث أنديتهم ومجالسهم، ومن ذلك قصيدته المشهورة في الرثاء، وهي معدودة من عيون المراثي:
لَعَمْريِ وما دهري بتأبين مالكٍ ... ولا جَزِعٌ مما أصاب فأوجعَا
لقد كَفَّنَ المنهال تحت ردائه ... فتى غير مِبْطَان العَشيّات أرْوَعَا
وقد صلى يوماً الصبح مع عمر بن الخطاب، فلما انفتل من صلاته سأل عنه فقيل إنه متمم بن نويرة , فاستنشده قوله في أخيه، فأنشده هذه القصيدة حتى بلغ إلى قوله:
وكنا كندمانيْ جذيمة حقبةً ... من الدهر حتى قيل لن يتصَّدَعا
فلما تفرقنا كأني ومالكا ... لطول اجتماع لم نَبِت ليلةَ مَعَا
فقال عمر: هذا والله التأبين، ولوددت أني أحسن الشعر فأرثي أخي زيدا بمثل مارثيت به أخاك.
وكان عمر رضى الله عنه من الذين رأوا مؤاخذة خالد بقتل مالك وتزوجه امرأته قبل استبرائها، فذهب إلى أبي بكر وقال له: إن في سيف خالد رهقا، وحق عليه أن يقيده. وأكثر عليه من ذلك.
فلما رأى أبو بكر ذلك كتب إلى خالد أن يقدم عليه، فأقبل قافلا حتى دخل المسجد وعليه قباء، وعليه صدأ الحديد، معتجراً بعمامة قد غرز فيها أسهما، فلما أن دخل المسجد قام إليه عمر فانتزع السهم من رأسه فحطمها، ثم قال: أقتلت امرءوا مسلما ثم نزوت على امرأته، والله لأرجمنك بأحجارك. فلم يكلمه خالد، وظن أن رأي أبي بكر على رأي عمر فيه.