كان كثير السفر إلى مكة وقدم بغداد غير مرة واجتمع بها مع أبي عبد الله أحمد ابن حنبل. حكى عنه عبد الله بن أحمد بن حنبل وغيره.
أخبرني الأزهري، أخبرنا أحمد بن إبراهيم بن الحسن، حدّثنا أحمد بن مروان المالكيّ، حدّثنا عبد الله بن أحمد حنبل قال: جاء أبو تراب النخشبي إلى أبي فجعل أبي يقول: فلان ضعيف، فلان ثقة. قال أبو تراب: يا شيخ لا تغتب العلماء. فالتفت أبي إليه فقال له: ويحك هذه نصيحة، ليس هذا غيبة.
أخبرني أبو الحسن محمّد بن عبد الواحد وأحمد بن عليّ المحتسب قالا: أخبرنا أبو عبد الرّحمن السلمي محمّد بن الحسين بن موسى النّيسابوريّ قال: سمعت عبد الله بن عليّ يقول: سمعت الرّقيّ يقول: سمعت أبا عبد الله بن الجلا يقول: لقيت ستمائة شيخ ما رأيت فيهم مثل أربعة، أولهم أبو تراب.
أخبرني عبيد الله بن أبي الفتح وعمر بن الحسين بن إبراهيم الخفّاف قالا: حدّثنا أبو الفضل عبيد الله بن عبد الرّحمن الزّهريّ، حدثني أبو الطّيّب أحمد بن جعفر الحذّاء قال: سمعت أبا عليّ الحسين بن خيران الفقيه يقول: مر أبو تراب النخشبي بمزين، فقال له تحلق رأسي لله ﷿؟ فقال له: اجلس، فجلس، ففيما هو يحلق رأسه مر به أمير أهل بلده، فسأل حاشيته، فقال لهم: أليس هذا أبو تراب؟ فقالوا نعم! فقال أيش معكم من الدنانير؟ فقال له رجل من خاصته معي خريطة فيها ألف دينار، فقال إذا قام فأعطه واعتذر إليه وقل له لم يكن معنا غير هذه الدنانير، فجاء الغلام إليه فقال له: إن الأمير يقرأ عليك السلام وقال لك ما حضر معنا غير هذه الدنانير، فقال له ادفعها إلى المزين، فقال له المزين: أيش أعمل بها؟ فقال: خذها فقال: لا والله ولو أنها ألفا دينار ما أخذتها، فقال له أبو تراب: مر إليه، فقل له: إن المزين ما أخذها، خذها أنت فاصرفها في مهماتك.
أخبرني محمّد بن عبد الواحد الأصغر، أخبرنا أبو عبد الرّحمن السلمي قال:
سمعت أبا العبّاس محمّد بن الحسن البغداديّ يقول: سمعت أبا عبد الله بن الفارسي يقول: سمعت أبا الحسين الرّازي يقول: سمعت يوسف بن الحسين يقول: سمعت أبا تراب يقول: ما تمنت علىّ نفسي قط إلا مرة تمنت علىّ خبزا وبيضا وأنا في سفري، فعدلت من الطريق إلى قرية فلما دخلنا وثب إلى رجل فتعلق بي وقال: إن هذا كان