ففَضَحه، واسْتَعْفَى الخَلَنْجِيُّ من القضاء بـ "بغداد"، وسأل أنْ يُولَّى بعضَ الكُوَرِ البعيدة، فوُلِّيَ جُنْدَ "دمشق" أو "حمص"، فلما وُلِّيَ المأمونُ الخلافةَ، غَنّاه عَلَّويْه بشعر الخَلَنْجِيّ، هو هذا:
بَرِئْتُ من الإسلام إن كان ذا الذي … أتاك به الواشُون عنِّي كما قالوا
ولكنَّهم لما رأوْكِ غَرِيَّةً … بهَجْرِي تَواصَوْا بالنَّمِيمة واحْتالوا
فقد صِرْتِ أُذنًا للوُشاة سَمِيعةً … ينالون مِن عِرْضِي ولو شِئْتِ ما نالوا
فقال له المأمون: مَن يقول هذا الشعر؟ قال: قاضي "دمشق". فأمر المأمونُ بإحضاره، وكَتب إلى صاحب "دمشق" بإشخاصِه، فأُشْخِصَ، وجلس المأمونُ، أحْضَر عَلَّوَيْه، ودعا بالقاضي، فقال: أنْشِدْنِي قولَك:
* بَرِئْتُ من الإسلام إن كان ذا الذي *
فقال: يا أميرَ المؤمنين!، هذه الأبيات قلتُها من منذ أربعين سنة وأنا صَبِيٌّ، ووَالَّذي أكْرَمَك بالخلافة، ووَرَّثكَ ميراثَ النُّبُوَّة، ما قلتُ شعرا من أكْثر من عشرين سنة، إلا في زُهْدٍ، أو عتاب صديق. فقال له: اجلسْ. فجلس، فناوَلَه قدح نَبيذٍ كان في يده، فقال له: اشْرَبْ. فأُرْعِدَ وبَكَى، وأخَذَ القَدَح من يده، وقال: والله يا أمير المؤمنين! ما غَيَّرْتُ الماء بشيء قطُّ مما يُخْتَلَف في تَحْلِيلِه. فقال: لعلَّك تُريدُ نَبيذَ التَّمْرِ والزَّبيبِ؟ فقال: لا والله يا أمير المؤمنين! ما أعْرِفُ شيئا منهما، فأخذَ القَدَحَ من يده، وقال: أما والله لو شرِبْتَ شيئا من هذا لَضَربْتُ عُنُقَك، ولكن ظنَنْتُ أنَّك صادقٌ في قولِك كلِّه، ولكن لا يتوَلّى القضاء أبدا رجلٌ بدأ في قولِه بالبراءة من الإسلام، انْصَرِفْ إلى منزِلك. وأمرَ عَلَّوَيْه فغيَّر هذه الكلمة، وجعل مكانها: حُرِمْتُ مُنائي مِنْكِ. ورُويَتْ هذه القصّةُ لغير الخَلَنْجِيّ. والله تعالى أعلم بحقيقة الحال.