قال: تدعو الله أن يميت عمر، قال: يا أمير المؤمنين، بئس وافد المسلمين أنا إذاً، نعمة أنعمها الله على أمة محمد صَلَّى اللهُ عَلَيْهِ وَسَلَّمَ أدعو الله أدعو الله أن يزيلها عنهم! قال: قد وعدتني يا بن أبي زكريا. قال: فاستقبل القبلة فحمد الله وأثنى عليه ثم قال: اللهم عبدك قد توسل بي إليك فاقبضه إليك، ولا تبقني بعده، فبينا هم كذلك إذ جاء ابن له صغير فوقع في حجره فقال: يا بن أبي زكريا وهذا معنا، فإني أحبه فقال: اللهم وابنه هذا فاقبضه إليك، قال: فما شبهت الثلاثة إلا بخرازات ثلاث في سلك قطع أسفله، فتتابعن في جمعة.
قال اليمان بن عدي: كان عبد الله بن أبي زكريا عابد الشام، وكان يقول: ما عالجت من العبادة شيئاً أشد من السكوت.
قال عبد الله بن أبي زكريا: عالجت الصمت عشرين سنة قبل أن أقدر منه على ما أريد. قال: وكان لا يغتاب في مجلسه أحد. يقول: إن ذكرتم الله أعناكم وإن ذكرتم الناس تركناكم.
قال ابن أبي زكريا: لو خيرت بين أن أعمر مئة سنة من ذي قبل في طاعة الله أو أن أقبض في يومي هذا، أو في ساعتي هذه لاخترت أن أقبض في يومي هذا، أو في ساعتي هذه شوقاً إلى الله، وإلى رسوله، وإلى الصالحين من عباده.
قال عبد الله بن أبي زكريا: ما مسست ديناراً قط ولا درهماً، ولا اشتريت شيئاً قط، ولا بعته، ولا ساومت به إلا مرة: فإنه أصابني الحصر فرأيت جوربين معلقين عند باب جيرون عند صيرفي فقلت: بكم هذا؟ ثم ذكرت فسكت. وكان من أبش الناس وأكثرهم تبسماً.
قال بقية: قلت لمسلم: كيف هذا؟ قال: كان له إخوة يكفونه.