هذا المسجد بناه المنافقون مضاهاة لمسجد قباء، فكانوا يجتمعون فيه ويعيبون النبي صلى الله عليه وسلم ويستهزئون به، وكان الذين بنوه اثني عشر رجلاً: حرام بن خالد ومن داره أخرجه، وثعلبة بن حاطب، ومعتب بن قشير، وأبو حبيبة بن الأزعر، وعباد بن حنيف، وحارثة بن عامر وابناه مجمع وزيد، ونبتل بن الحارث، ومحدج وبجاد بن عثمان، ووديعة بن ثابت.
فلما بنوه أتوا النبي صلى الله عليه وسلم وهو يتجهز إلى تبوك، فقالوا: يا رسول الله، إنا قد بنينا مسجداً لذي العلة والحاجة، والليلة المطيرة والليلة الشاتية، وإنا نحب أن تأتينا فتصلي لنا فيه.
فقال صلى الله عليه وسلم:((إني على جناح سفر وحال شغل، ولو قد قدمنا إن شاء الله، لأتيناكم فصلينا لكم فيه.
فلما نزل رسول الله صلى الله عليه وسلم: ((بذي أوان)) ، وهو بلد بينه وبين المدينة ساعة من نهار ومرجعه من تبوك، أتاه خبر المسجد، فدعا رسول الله عليه الصلاة والسلام مالك بن الدخشم، ومعن بن عدي، أو أخاه عاصماً؛ فقال صلى الله عليه وسلم:((انطلقا إلى هذا المسجد الظالم أهله فاهدماه وحرقاه)) ، فخرجا سريعين حتى أتيا بني سالم بن عوف، فأخذا سعفاً من النخل وأشعلا فيه ناراً، ثم خرجا يشتدان حتى دخلا المسجد وفيه أهله، فحرقاه وهدماه، وتفرق أهله عنه، ونزل فيه من القرآن ما نزل {والذين اتخذوا مسجداً ضراراً وكفراً} ، إلى آخر القصة.