وشعره كثير. وله كتاب الوساطة بين المتنبي وخصوصه، أبان فيه عن فضل غزير.
وهو القائل:
يقولون لي فيك انقباض وإنما رأوا رجلاً عن موقف الذل أحجما
الأبيات المشهورة.
توفي بالري، وحمل إلى جرجان فدفن بها.
ومن شعر أبي الحسن الجرجاني هذا:
ولا ذنب للأفكار أنت تركتها إذا حشدت لم تنتفع باحتشادها سبقت بأفراد المعاني وألفت خواطرك الألفاظ بعد شرادها فإن نحن حاولنا اختراع بديعة حصلنا على مسروقها ومعادها
وله أيضا:
قد برح الحب بمشتاقك فأوله أحسن أخلاقك لا تجفه وارع له حقه فإنه آخر عشاقك
وللصاحب إسماعيل بن عباد يخاطبه:
إذا نحن سلمنا لك العلم كله فدعنا وهذي الكتب ننشي صدورها فإنهم لا يرتضون مجيئنا بجزع إذا نظمت أنت شذورها
وللقاضي أبي الحسن الجرجاني تفسير القرآن، وكتاب تهذيب التاريخ.
قال الثعالبي: ترقى محله إلى قضاء القضاة بالري فلم يعزله إلا موته. وقال غيره: صلى عليه القاضي عبد الجبار بن أحمد.
وقال أبو سعد منصور بن الحسين الآبي في تاريخه: وقع اختيار فخر الدولة ابن ركن الدولة على أن يولي علي بن عبد العزيز الجرجاني قضاء مملكته، فولاه بعد موت الصاحب بن عباد بعام، فكان ذلك من محاسن