كان أبوه من قرية بزبيد من الصلحاء، فنشأ علي في تزهد، وحج، ولقي العلماء، وحصل، ثم وعظ، وذم الجند.
وكان فصيحًا صبيحًا طويلًا، أخضر اللون، طيب الصوت، غزير المحفوظ، متصوفًا، خبيث السريرة، داهيةً، يتكلم على الخواطر، فربط الخلق، وكان يعظ وينتحب.
قال عمارة اليمني: لازمته سنةً، وتركت التفقه، ونسكت، فأعادني أبي إلى المدرسة، فكنت أزوره في الشهر، فلما استفحل أمره تركته، ولم يزل من سنة ٥٣٠ يعظ ويخوف في القرى، ويحج على نجيب، وأطلقت له السيدة أم فاتك ولأقاربه خراج أملاكهم، فتمولوا إلى أن صار جمعه نحو أربعين ألف مقاتل، وحارب، وكان يقول: دنا الوقت، أزف الأمر، كأنكم بما أقول لكم عيانًا، ثم ثار ببلاد خولان، وعاث وسبى، وأهلك الناس، ثم لقيته عند الداعي بجبلة سنة تسع وأربعين يستنجد به، فأبى، ثم دبر على قتل وزير آل فاتك، ثم زحف إلى زبيد، فقاتله أهلها نيفًا وسبعين زحفًا، وقتل خلائق من الفريقين، ثم قتل فاتك متولي زبيد، وأخذها ابن مهدي في رجب سنة أربع وخمسين وخمس مائة، فما متع، وهلك بعد ثلاثة أشهر، وقام بعده ابنه عبد النبي، وعظم، حتى استولى على سائر اليمن، وجمع أموالًا لا تحصى، وكان حنفي المذهب -أعني الأب- يرى التكفير بالمعاصي، ويستحل وطء سبايا من خالفه، ويعتقد فيه قومه فوق اعتقاد الخلق في نبيهم.
قال: وحكي لي عنه أنه لم يثق بيمين من يصحبه حتى يذبح ولده أو أخاه، وكان يقتل بالتعذيب في الشمس، ولا يشفع أحد عنده، وليس لأحد من عسكره فرس يملكه ولا سلاح، بل الكل عنده إلى وقت الحرب، والمنهزم منهم يقتل جزمًا، والسكران يقتل، ومن زنى أو سمع غناءً يقتل، ومن تأخر عن صلاة الجماعة قتل.