قال محمد بن يحيى الصولي: حدثنا المقدمي القاضي، حدثنا أبي، حدثنا يحيى بن أكثم، قال: قال لي المأمون: من تركت بالبصرة؟ فوصفت له مشايخ منهم سليمان بن حرب، وقلت: هو ثقة حافظ للحديث، عاقل، في نهاية الستر والصيانة، فأمرني بحمله إليه، فكتبت إليه في ذلك، فقدم، فاتفق أني أدخلته إليه، وفي المجلس ابن أبي دؤاد، وثمامة، وأشباه لهما، فكرهت أن يدخل مثله بحضرتهم، فلما دخل، سلم، فأجابه المأمون، ورفع مجلسه، ودعا له سليمان بالعز والتوفيق، فقال ابن أبي دؤاد: يا أمير المؤمنين، نسأل الشيخ عن مسألة؟ فنظر المأمون إليه نظر تخيير له، فقال سليمان: يا أمير المؤمنين، حدثنا حماد بن زيد قال: قال رجل لابن شبرمة: أسألك؟ قال: إن كانت مسألتك لا تضحك الجليس، ولا تزري بالمسئول، فسل، وحدثنا وهيب قال: قال إياس بن معاوية: من المسائل ما لا ينبغي للسائل أن يسأل عنها، ولا للمجيب أن يجيب فيها. فإن كانت مسألته من غير هذا، فليسأل، وإن كانت من هذا فليمسك. قال: فهابوه، فما نطق أحد منهم حتى قام، وولاه قضاء مكة، فخرج إليها.
قال أحمد بن سنان: حدثنا المسعري قال: جاء رجل إلى سليمان بن حرب، فقال: إن مولاك فلانا مات، وخلف قيمة عشرين ألف درهم، قال: فلان أقرب إليه مني، المال لذاك دوني. قال: وهو يومئذ محتاج إلى درهم.
قال الخطيب: ولي سليمان قضاء مكة سنة أربع عشرة ومائتين، ثم عزل سنة تسع عشرة ومائتين.