١ - قسم البحوث والترجمة: ويختص بإعداد الكتب والموسوعات والبحوث والدراسات والتقارير وترجمة ما يحقق أهداف المركز.
٢ - قسم قاعدة المعلومات: ويختص بتلقي المعلومات المتعلقة بأهداف المركز ومجالات عمله وتصنيفها وتوثيقها وتخزينها في أجهزة الحاسب وجعلها في متناول الباحثين والجامعات والمراكز المتخصصة، ويتبع هذا القسم مكتبة متخصصة ومركز للحاسب الآلي ووحدة للصيانة.
٣ - قسم المخطوطات والوثائق: ويختص هذا القسم بجمع المخطوطات والوثائق أو صورها عن المدينة المنورة حيثما وجدت، ويهتم بحفظها ودراستها وإعداد فهارس عامة وفهارس تفصيلية عنها، وتحقيق المخطوطات التي يتقرر تحقيقها في المركز، وإخراج دراسات من واقع الوثائق التي يقتنيها.
٤ - المكتبة: تتبع الأقسام العلمية مكتبة عامة متخصصة بكتب المدينة المنورة ومصادر دراستها وفيها قسم للمؤلفات بغير اللغة العربية، وتستقبل المكتبة إضافة إلى العاملين في الأقسام العلمية الباحثين والمراجعين من خارج المركز.