كان يصلي في كل يوم ألف ركعة، فصار في ركبتيه مثل ثفن البعير. وقيل: ذو الثفنات علي زين العابدين.
وقال مصعب الزبيريّ: إنما كان سبب عبادته أنه رأى عبد الرحمن بن أبان بن عثمان وعبادته فقال: لأنا أَوْلى بهذا منه، وأقرب إلى رسول الله -صلى الله عليه وسلم- رحمًا، فتجرد للعبادة. قال العجليّ وأبو زرعة: ثقة، وقال عمرو بن علي: كان من خيار الناس، وذكره ابن حبّان في الثقات، وكان علي المذكور عظيم المحل عند أهل الحجاز، حتى قيل إنه كان إذا قدم مكة حاجًا أو معتمرًا عطلت قريش مجالسها في المسجد الحرام، وهجرت مواضع حلقها, ولزمت مجلسه إعظامًا له، واجلالًا وتبجيلًا، فإن قعد قعدوا، وإن قام قاموا، وإن مشى مشوا جميعًا حوله، ولا يزالون كذلك حتى يخرج من الحرم، وكان آدمَ جسيمًا، له لحية طويلة، وكان عظيم القدم جدًا، لا يوجد له نعل ولا خف حتى يستعمله.
وكان علي المذكور مفرطًا في الطول، إذا طاف كأنما حوله مشاة وهو راكب من طوله، وكان مع هذا الطول يكون إلى منكب أبيه عبد الله، وعبد الله إلى منكب أبيه العباس، وهو إلى منكب أبيه عبد المطلب. ونظرت عجوز إلى عليّ وهو يطوف، وقد فرع الناس طولًا، أي علا عليهم، فقالت: من هذا الذي فرع الناس؟ قالوا: علي بن عبد الله. قالت: لا إله إلا الله، إن الناس ليرذلون، عهدي بالعباس يطوف بهذا البيت كأنه قرطاس أبيض. وكان العباس عظيم الصوت، وجاءتهم مرة غارةٌ وقعت وقت الصبح، فصاح بأعلى صوته، واصباحاه، فلم تسمعه حامل إلاّ وضعت، وذكر أبو بكر الحازمي أن العباس كان يقف على سَلْعٍ، فينادي غلمانه وهم بالغابة، فيُسْمِعهم. وذلك من آخر الليل، وبين الغابة وسلع ثمانية أميال.
وروي أن علي بن عبد الله دخل على هشام بن عبد الملك، وكان معه ابنا ابنه، الخليفتان السفاح والمنصور، ابنا محمد بن علي المذكور، فأوسع له على سريره وبره، وسأله عن حاجته، فقال: ثلاثون ألف درهم عليّ دينٌ فأمر بقضائها، ثم قال له: وتستوصي بابنيّ هذين خيرًا، ففعل، فشكره وقال: