ظهر أبرهة حوالى سنة ٥٣٠ م بعد سقوط الملك اليهودى ذى نواس الذى اضطهد النصارى فى صنعاء أيضًا على ما يقال، ظهر أبرهة وجعل من هذه المدينة مقرا للوالى الحبشى بعد أن أطاح بمنافسه الحبشى أرياط. وقد زين المدينة بالكاتدرائية المسيحية التى تعرف بقَليس أو قُلَيس (ekklesia). ويقال إنه جلَب مواد البناء من أطلال مأرب، أما العمال فقد بعث بهم إمبراطور الروم (البوزنطى) وكذلك الفسيفساء.
وقد استدعت أسرة ذى يزن، وهى الأسرة اليمنية الحاكمة القديمة، وهرز قائد كسرى الأول أنوشروان فأخرج من المدينة حوالى عام ٥٧٠ م مسروق ابن أبرهة الثانى وخليفته ثم أقام فيها بادئ الأمر حكما مشتركا مع ذى يزن، ثم انفرد الفرس بالحكم وتولاه، كما جاء فى الأسانيد المكتوبة، ابن وهرز فحفيده ثم ابن حفيده. وفى عام ١٠ هـ (٦٣١ م) دخل باذام خامس هؤلاء الولاة فى الإسلام، وجاء فى روايات أخرى أن إسلامه كان قبل ذلك بعامين. وفى عام ١٠ هـ أوفد مهاجر بن أبى أمية بن المغيرة إلى صنعاء لجمع خراج اليمن. ووقعت صنعاء فى العام التالى فى قبضة خصم النبى [-صلى اللَّه عليه وسلم-] عبهلة بن كعب الأسود الذى تحصن فى غمدان، وظل يقبض على أزمة الأمور فيها ثلاثة أشهر. ولما توفى النبى [-صلى اللَّه عليه وسلم-] دخلت فتنة عبهلة فى غمار الكفاح العام فى سبيل استقلال اليمن، وكان على رأس هذا الكفاح فرد من أسرة ذى يزن هو عمرو بن معدى كرب. ووجدت حكومة المدينة سندا قويا لها فى أشخاص الأبناء، وهم أشراف الفرس المستعربين. وفى عام ١١ هـ (٦٣٢ م) تمكن فيروز الديلمى بمساعدة المهاجر من رد السيادة الإسلامية إلى صنعاء واليمن العليا. والراجح أن حصن غمدان قد تهدم فى ذلك القتال المرير. وتذهب الأسطورة إلى أن هذا الحصين كان قد أعيد بناؤه قبل ذلك فى العهد الحميرى على يد عمرو بن أبى شرح بن يحصب الذى ورد ذكره فى النقوش. وقد ساد السلام بعض الشئ بعد الفتح، ويرجع بخاصة إلى أن أولى الأمر فى المدينة عاملوا الأشراف فى صنعاء وما