كان المعهد العلمي السعودي ثاني مؤسسة تعليمية في المدينة بعد المرحلة الابتدائية، أسس عام ١٣٦٩هـ، وكان ملحقاً مع المدرسة الناصرية في باب المجيدي، وفي عام ١٣٧١هـ نُقل إلى مبناه في شارع السحيمي بجوار الفيروزية، ثم إلى مبنى مستأجر في الجنان بمنطقة باب المجيدي وذلك في عام ١٣٧٨هـ وأخيراً نُقل إلى مبنى حكومي في شارع سيد الشهداء عام ١٣٨٠هـ حيث جرى تصفيته في عام ١٣٨٠هـ.
وقد أسس على غرار المعهد العلمي السعودي الذي أسس في مستهل عام ١٣٤٥هـ في مكة المكرمة، وكان الهدف من تأسيسه هو رغبة الدولة في إعداد معلمين متخصصين للتدريس في المدارس الابتدائية التي تزايد عددها في المدن والقرى، وتزويد الدوائر الحكومية بالموظفين المؤهلين.
وكان يقبل بهذا المعهد كل من حصل على شهادة إتمام الدراسة الابتدائية أو ما يعادلها. وتنقسم الدراسة فيه إلى مرحلتين:
١ـ المرحلة الأولى: وتشمل ثلاث سنوات، يدرس الطالب خلالها ألواناً من مواد الثقافة الدينية واللغة العربية والمواد الاجتماعية والرياضيات، وفي نهاية السنة الثالثة يمنح الطالب الناجح شهادة القسم التجهيزي، وسميت فيما بعد (شهادة الكفاءة للمعاهد العلمية) .
٢ـ المرحلة الثانية: وتشمل السنتين الأخيرتين من المعهد، وتسمى قسم المعلمين الثانوي. يدرس فيها الطالب بجانب المواد المذكورة، التربية وعلم النفس، ومواد فنية أخرى، ويمنح الطالب (شهادة إتمام الدراسة الثانوية للمعاهد العلمية) . وكانت الدراسة في هذا المعهد مجانية، وتصرف الكتب والأدوات المدرسية للطلبة مجاناً، وعلاوة على ذلك فقد كان الطالب يمنح إعانة شهرية قدرها أربعون ريالاً للثلاث سنوات الأولى، وستون ريالاً للسنتين الأخيرتين. وأول دفعة تخرجت فيه عام ١٣٧٤هـ وقد تولى إدارته منذ تأسيسه الشيخ محمد عبد الكريم السناري واستمر مديراً له حتى تصفيته عام ١٣٨١هـ، وكان يشمل أيضاً معهد المعلمين.