ذكر أبو بكر البلاذري: أن العرجي غزا مع مسلمة بن عبد الملك في البحر في خلافة سليمان بن عبد الملك، فقال: يا معشر التجار، من أراد من الغزاة المعدمين شيئاً فأعطوهم، فأعطوهم عليه عشرين ألف دينار، فلما استخلف عمر بن عبد العزيز قال: بيت المال هو أولى بمال هؤلاء التجار من مال العرجي فقضى ذلك من بيت المال.
وأمه آمنة بنت عمر بن عثمان بن عفان.
روى أبو الفرج من طريقه: أن العرجي كان أزرق كوسجاً ناتئ الحنجرة، وكان صاحب غزل وفتوة، وكان من الفرسان المعدودين مع مسلمة بن عبد الملك بأرض الروم.
وروى المرزباني في معجم الشعراء: أن العرجي سجن في تهمة دمٍ، فلم يزل في السجن حتى مات، وهو القائل في الحبس: من الوافر
أضاعوني وأي فتى أضاعوا ... ليوم كريهةٍ وسداد ثغر
وخلوني لمعترك المنايا ... وقد شرعت أسنتها لنحري
كأني لم أكن فيهم وسيطاً ... ولم تك نسبتي في آل عمرو