وكان علي بن المديني رحمه الله ممن دخل في محنة القول بخلق القرآن دخول الخائف على نفسه ولم يصبر كما صبر الإمام أحمد بن حنبل وغيره بل هاب الإرهاب والقمع الذي حصل لمن لم يوافق دعاة القول بخلق القرآن إلى ما يريدون ومن أجل ذلك لم يرو عنه بعض المحدثين كالإمام مسلم. ولكنه تاب وأناب واتضح من قوله وقول غيره أن دخوله لم يكن عن عقيدة وإنما كان خوفا على النفس. وقد صرح بذلك عن نفسه وصرح به غيره، وقد أورد الذهبي علي بن المديني في كتابه الميزان لكون العقيلي أورده في كتاب الضعفاء وأنحى باللوم على العقيلي لذلك وذب عن هذا الإمام وأشاد بذكره والثناء عليه قال في كتابه الميزان (٣/١٣٨) : "أحد الأعلام الأثبات وحافظ العصر ذكره العقيلي في كتاب الضعفاء، فبئس ما صنع، فقال: جنح إلى ابن أبي دؤاد والجهمية وحديثه مستقيم إن شاء الله"، ثم ذكر الذهبي بعض ثناء الأئمة عليه ثم قال:"وقد بدت منه هفوة ثم تاب منها وهذا أبو عبد الله البخاري – وناهيك به – قد شحن صحيحه بحديث علي بن المديني وقال: ما استصغرت نفسي بين يدي أحد إلا بين يدي علي بن الديني، ولو ترك حديث علي وصاحبه محمد وشيخه عبد الرزاق وذكر أناسا آخرين سماهم، لغلقنا الباب وانقطع الخطاب، ولماتت الآثار، واستولت الزنادقة، ولخرج الدجال، أفما لك عقل يا عقيلي أتدري فيمن تتكلم، وإنما تبعناك في ذكر هذا النمط لنذب عنهم ولنزيف ما قيل فيهم كأنك لا تدري أن كل واحد من هؤلاء أوثق منك بطبقات بل وأوثق من ثقات كثيرين لم توردهم في كتابك فهذا مما لا يرتاب فيه محدث".