وكان ينكر على من خرج من القيروان الى سوسة، أو نحوها من الثغور. ويقول جهاد هؤلاء أفضل من جهاد أهل الشرك. قال الفقيه ابن سعدون القروي: لما دخل عبيد الله الشيعي، القيروان، وخطب أول جمعة، وجبلة حاضر، فلما سمع كفرهم. قام قائماً. وكشف على رأسه، حتى رآه الناس، وخرج يمشي الى آخر الجامع، ويقول: قطعوها قطعهم الله. فما حضرها أحد من أهل العلم بعد هذا. ولما ولي الصديني القضاء، أيام أحمد بن الأغلب، كان جبلة يصلي الظهر أربعاً، بأذان وإقامة. فقال له المؤذن: ترى أن نؤذن ونقيم داخل المسجد؟ فلما آن الوقت، حاد من الصلاة. فقال له جبلة: قد قال مالك في المسجونين، يجمعون في السجن، لأنهم منعوا من الجمعة. فنحن أقمنا أنفسنا مقامهم. وكتب الصّديني الى ابن الأغلب يخبره بما فعل، جبلة. فأرسل إليه: مدّ يدك الى من شئت، واترك جبلة. وجاء صاحب الحرس، فقال له: يقول لك الأمير، كرر الإقامة. وسلم من اثنتين، ولا تقنت. فقال له جبلة: الأمير لا يعلّمنا أمر ديننا. وجاءه آخر من قبل القاضي بمثل ذلك. وبقراءة بسم الله الرحمن الرحيم.
وبزيادة حيّ على خير العمل. في الأذان. فقال له جبلة: قم قبّحك الله، وقبّح من أرسلك.