بعد ذلك وضع النبي -صلى الله عليه وسلم- دستورًا لتنظيم الحياة العامة في المدينة، وتحديد العلاقات بينها وبين جيرانها، ويدل هذا الدستور على مقدرة فائقة من الناحية التشريعية، وعلى علم كبير بأحوال الناس وفهم لظروفهم، وقد عرف هذا الدستور بالصحيفة، ولا نكاد نعرف من قبل دولة قامت منذ أول أمرها على أساس دستور مكتوب غير هذه الدولة الإسلامية؛ فإنما تقوم الدول أولًا ثم يتطور أمرها إلى وضع دستور. ولكن النبي ما كاد يستقر في المدينة وما كاد العام الأول من هجرته إليها ينتهي، حتى كَتَبَ هذه الصحيفة التي جعل طرفها الأول: المهاجرين، والطرف الثاني: الأنصار وهم الأوس والخزرج جميعًا، والطرف الثالث: اليهود من أهل يثرب. وهذه الصحيفة مهمة جدًّا؛ لأنها حددت شكل الدولة الإسلامية، وكذلك هي مهمة لفهم الحوادث التي نشأت بعدها.
وقد بدأ كأنما ابتلعت الجماعة القائمة على أساس الدين، تلك الجماعات القديمة القائمة على أساس رابطة الدم، ولكن تلك الجماعات في الحقيقة بقيت كما هي، وإن كان الشأن الأول قد انتقل منها إلى الجماعة الكبرى، فدخلت الطوائف التي كانت موجودة في ذلك الحين، ونعني بها القبائل والبطون والعشائر في الجماعة الكبرى الجديدة، واحتفظ لها الدستور بشخصيتها، ولكنه نقل منها اختصاصاتها كوحدات قبلية إلى الدولة، وإن بقي لها كل ما من شأنه أن يحفظ على الناس الروابط فيما بينهم؛ وبذلك تكونت في المدينة جماعة موحدة من حيث إنها أمة الله، ولكن ذلك لم يكن دفعة واحدة؛ فقد ظل يتحقق بخطًى مستمرة ثابتة.