ثمّ نزل أهل القلعة على حكم عمر فبعث أبو موسى بالهرمزان إليه ومعه اثنا عشر أسيرًا من العجم عليهم الديباج ومناطق الذهب وأسْوِرة الذهب، فقدموا بهم المدينة في زيّهم ذلك، فجعل النَّاس يعجبون، فأتوا بهم منزل عمر فلم يصادفوه وجعلوا يطلبونه، فقال الهرمزان بالفارسيّة: قد ضَلّ مَلِككم، فقيل لهم هو في المسجد، فدخلوا فوجدوه نائمًا متوسّدًا رداءه. فقال الهرمزان: هذا ملككم؟ قالوا: هذا الخليفة، قال: أما له حاجب ولا حارس؟ قالوا: الله حارسه حتّى يأتى عليه أجله. فقال الهرمزان: هذا المُلْك الهنئ.
ونظر عمر إلى الهرمزان فقال: أعوذ بالله من النار. ثمّ قال: الحمد لله الذى أذلّ هذا وشيعته بالإسلام. وقال عمر للوفد: تكلّموا، وإيّاىَ وتشقيقَ الكلام والإكثار. فقال أنس بن مالك: الحمد لله الذى أنجز وعده وأعزّ دينه وخذل مَنْ حادّه وأورثنا أرضهم وديارهم وأفاء علينا أموالهم وأبناءهم وسلّطنا عليهم نقتل من شِئْنا ونستحيى من شئنا. فبكى عمر ثمّ قال للهرمزان: ما مالك؟ قال: أمّا ميراثى عن آبائى فعندى، وأمّا ما كان في يدى من مال المُلك وبيوت الأموال فأخذه عاملك.
قال: يا هرمزان كيف رأيت الذى صنع الله بكم؟ فلم يجبه، قال: ما لك لا تَكلّم؟ قال: كلامَ حيٍّ أكلّمك أم كلام ميّتٍ؟ قال: أولستَ حيًّا؟ فاستسقى الهرمزان ماء فقال عمر: لا نجمع عليك القتل والعطش. فدعا له بماء فأتوه بماء في قدح خشب فأمسكه بيده، فقال عمر: اشْرَبْ لا بأسَ عليك، إنى غير قاتلك حتّى تشربه.
فرمى بالإناء من يده وقال: يا معشر العرب كنتم وأنتم على غير دين نتعبّدكم ونقضيكم ونقتلكم وكنتم أسْوَأ الأمم عندنا حالًا وأخسّها منزلةً، فلمّا كان الله معكم لم يكن لأحدٍ بالله طاقة. فأمر عمر بقتله فقال: أو لم تُؤمنّى؟ قال: وكيف؟ قال: قلتَ لى تكلّم لا بأسَ عليك، وقلتَ اشْرَبْ لا بأس عليك لا أقتلك حتّى تشربه. فقال الزّبير بن العوّام وأنس بن مالك وأبو سعيد الخُدْرى: صدق. فقال عمر: قاتله الله! أخذ أمانًا ولا أشعر. وأمَر فنُزع ما كان على الهرمزان من حُليّه وديباجه وقال لسُراقة بن مالك بن جُعْشُم، وكان نحيفًا أسود