قال احمد بن أبي الحواري: حججت أنا وأبو سليمان، فبينا نحن نسير إذ سقطت السطحية مني، فقلت لأبي سليمان: فقدت السطحية وبقينا بلا ماء، وكان برد شديد، فقال أبو سليمان: يا راد الضالة، ويا هادي من الضلالة، اردد علينا الضالة، فإذا واحد ينادي: من ذهبت له سطحية؟ قال: فقلت: أنا، فأخذتها. فبينا نسير وقد تدرعنا بالفراء لشدة البرد، فإذا نحن بإنسان عليه طمران، وهو يترشح عرقاً، فقال أبو سليمان: تعال ندفع إليك شيئاً مما علينا من الثياب، فقال: يا أبا سليمان، أتشير إلى الزهد وتجد البرد؟ أنا أسيح في هذه البرية منذ ثلاثين سنة، ما انتفضت، ولا ارتعدت، يلبسني في البرد فيحاً من محبته، ويلبسني في الصيف مذاق برد محبته، ومر.
قال ابن أبي الحواري: قلت لأبي صفوان: ما رأيت مثل أبي عبد الله النباجي، فقال لي: ما رأيت أنت أحداً قط مثل أبي سليمان، ولكن أخبرك بقصتك حين فضلت أبا عبد الله: إن أبا سليمان زرع في قلبك حبيبة أصابها عطش، فسقاها النباجي فأنبتت، فالأصل بركة أبي سليمان.
مات أبو سليمان سنة أربع ومئتين. وقيل: سنة خمس ومئتين. وقيل: سنة خمس عشرة ومئتين. وقيل: سنة خمس وثلاثين ومئتين.
قال أحمد بن أبي الحواري: قلت لمروان حين مات أبو سليمان: لقد أصيب به أهل دمشق، قال: أهل دمشق؟! لقد أصيب به أهل الإسلام.