غسله، فأقيم ابنه صبي، فجاء الأفضل من صرخد، وأخذ مصر، وعسكر وكرّ إلى دمشق، فلقي الحافظ عبد الغني في الطريق فأكرمه إكرامًا كثيرًا، ونفّذ يوصي به بمصر، فتلقي الإمام بالإكرام، وأقام بها يُسمعُ الحديث بمواضع -وكان بها كثير من المخالفين- وحصر الأفضل دمشق حصرًا شديدًا، ثم رجع إلى مصر، فسار العادل عمُّه خلفه فتملك مصر، وأقام، وكثر المخالفون على الحافظ، فاستدعي، وأكرمه العادل، ثم سافر العادل إلى دمشق، وبقي الحافظ بمصر، وهم ينالون منه، حتى عزم الملك الكامل على إخراجه، واعتقل في دار أسبوعًا، فكان يقول: ما وجدت راحة في مصر مثل تلك الليالي.
وقال الشجاع بن أبي زكريا الأمير: قال لي الملك يومًا:
هاهنا فقيه. قالوا: إنه كافر. قلت: لا أعرفه. قال: بلى، هو محدِّث. قلت: لعله الحافظ عبد الغني؟ قال: هذا هو. فقلت: أيها الملك! العلماء أحدهم يطلب الآخرة، وآخر يطلب الدنيا، وأنت هنا باب الدنيا، فهذا الرجل جاء إليك، أو أرسل إليك شفاعة أو رقعة، يطلب منك شيئًا؟. قال: لا. فقلت: والله هؤلاء يحسدونه. فهل في هذه البلاد أرفع منك؟. قال: لا. فقلت: هذا الرجل أرفع العلماء، كما أنت أرفع الناس. فقال: جزاك الله خيرًا كما عرفتني.
ثم بعثتُ رقعة إليه، أوصيه به، فطلبني، فجئت، وإذا عنده شيخ الشيوخ ابن حمويه، وعز الدين الزنجاري الأمير، فقال لي