وكان أصله من مرو، وإنما قيل له الحربي لما روى أبو إسحاق بن إبراهيم ابن حبيش، قال:[سمعت أبا إسحاق الحربي يقول: أمي تغلبية، وكان أخوالي نصار أكثرهم] : قلت له: لم سميت الحربي؟ فقال: صحبت قوماً من الكرخ على الحديث، وعندهم ما جاوز قنطرة العتيقة، من الحربية، فسموني الحربي بذلك.
وأخذ الأدب عن أبي العباس ثعلب.
وقال أبو عمرو الزاهد: سمعت ثعلباً يقول: ما فقدت إبراهيم الحربي من مجلس نحو أو لغة خمسين سنة، وقال: سمعت ثعلباً يقول ذلك مراراً.
وحكى أبو الحسين بن المنادي عن ثعلب مثل ذلك.
وقال محمد بن صالح: لا تعلم أن بغداد أخرجت مثل إبراهيم الحربي في الأدب والفقه والحديث والزهد.
قال أبو بكر أحمد بن يعقوب القرنجلي اللخمي: حدثنا أبو إسحاق الحربي، وقسماً ما رأيت بعيني مثله.