وله أيضا بعض المؤلفات منها: ١_ الأربعين في أنّ ثناء الله ليس على مذهب المحدثين، انتقد فيه بعض آراء العلامة الشيخ أبي الوفاء ثناء الله الأمرتسري في مسألة أسماء الله وصفاته التي أظهرها في تفسيره ((تفسير القرآن بكلام الرحمن)) ، وقد وافقه كثير من كبار علماء أهل الحديث في عصره على ملاحظاته وانتقاداته، والشيخ الأمرتسري نفسه رجع عن موقفه حينما دعاهما الملك عبد العزيز آل سعود رحمة الله عليه إلى الرياض، واعترف أن مذهبه هو مذهب المحدثين في مسألة الأسماء والصفات، (والحقيقة التي لابد أن أشير إليها في هذه المناسبة أن العلامة الأمرتسري كان يرى ويعتقد اعتقاد السلف إلا أنه كان لا يرى بأسا في مجال المناقشات والمناظرات والردود التي كانت شغله الشاغل في الدفاع عن الإسلام في عصره أن يواجه أعداء الإسلام بسلاحهم على سبيل التنزل، ومن هنا أظهر بعض الآراء في تفسيره، فهاجمه علماء أهل الحديث هجوما جره إلى ما لا يحمد عقباه، وجزى الله الملك عبد العزيز رحمة الله عليه حيث اهتم بقضية إخوانه في الدين والعقيدة وأدى واجب النصح فجمعهم على كلمة الحق..
ومسألة الاشتغال بعلم الكلام والفلسفة عند الحاجة وبقدر الضرورة، قد نقحها شيخ الإسلام ابن تيمية في كتابه العظيم: درء تعارض العقل والنقل، فليراجع إليه، ويحسن الظن بعلم من أعلام الفكر الإسلامي الذي قضى حياته في سبيل خدمة العلم في جميع ميادين الحياة) .
٢_ وله: جزء في سيرة أبيه الشيخ عبد الله الغزنوي.
٣_ وسبيل النجاة في مباينة الرب عن المخلوقات [٢] .
والشيخ المحدث عبد الواحد والشيخ المحدث عبد الرحيم (ت ١٣٤٢ هجري) ابني الإمام عبد الله الغزنوي:
تخرجا على والدهما واشتغلا بالتدريس والتأليف، وأقاما في مدينة الرياض (المملكة العربية السعودية) خمس سنوات على طلب الأمير عبد الرحمن آل سعود، وتصدرا للتدريس فتتلمذ عليهما عدد كبير من آل سعود وأصحاب نجد.