كانت بيوته في غاية البساطة، رغم اشتهار المدينة بالحصون العالية، وتباهي أهلها بها في السلم.
وتفاخرهم في الحرب، كان باستطاعته صلوات الله وسلامه عليه أن يبني لنفسه قصوراً شاهقة مما أفاء الله عليه، ولكنه صلى الله عليه وسلم جمع همه لعمل الآخرة، فكانت أبياته تسعة بعضها من جريدٍ مطينٍ بالطين وسقفها من جريد، وبعضها من حجارةٍ مرضومة بعضها فوق بعض مسقفة بالجريد، ينال الغلام المراهق سقوفها بيده
والله الذي لا إله إلا هو للإيمان فيها كالجبال؛ فيها، وفي جنباتها، وفي نواحيها:
بنى لنا العز مرفوعاً دعائمه وشيد المجد مشتداً مرائره
فما فضائلنا إلا فضائله ولا مفاخرنا إلا مفاخره
ولما أمر الوليد بن عبد الملك بهدم تلك الحجر لإضافتها إلى المسجد النبوي ما رئي يومٌ كان أكثر باكياً من ذلك اليوم، يقول ابن المسيب رحمه الله:"والله لوددت أنهم تركوها على حالها، ينشأ ناشئ أهل المدينة، ويقدم القادم من الآفاق، فيرى ما اكتفى به رسول الله صلى الله عليه وسلم في حياته، فيكون ذلك مما يزهد الناس في التكاثر والتفاخر وقد ألهاهم التكاثر".
ويقول أبو أمامة رضي الله عنه:[[يا ليتها تركت فلم تهدم حتى يفصل الناس عن البناء، ويروا ما رضي الله تعالى لنبيه صلى الله عليه وسلم، ومفاتيح خزائن الدنيا بيده!]].
ويقول عبد الله بن عمر رضي الله عنه كما ثبت عند أبي داود وصححه الألباني رحمهم الله:{مرَّ بي رسول الله صلى الله عليه وسلم وأنا أطين حائطاً لي أنا وأمي، فقال: ما هذا يا عبد الله؟ قلت: يا رسول الله! شيء أصلحه، فقال: الأمر أسرع من ذلك، أو ما أرى الأمر إلا أعجل من ذلك}.
نَفَس من الأنفاس هذا العيش إن قسناه بالعيش الطويل الثاني