ومع أن الشيخ علي جابر حفظ القرآن الكريم في سن مبكرة وأتقن حفظه بصورة ربما قد أذهلت الحفظة فأرادوا خطو نهجه فلم يكن يطمح في الإمامة إلا أن الحكمة الإلهية أوصلته ليكون إماما بالمسجد الحرام يتحدث الشيخ عن ذلك بقوله:(لم تكن لدي رغبة في الإمامة ولكن أقحمت فيها إقحاما وإلا فان الباعث الأساسي على حفظ كتاب الله إنما حفظه وتعقله وتدبر معانيه, ولم يكن المقصود منه أن يكون الإنسان به إماما ولكن شاءت الإرادة الربانية والحكمة الإلهية أن أتولى الإمامة في مسجد الغمامة بالمدينة النبوية سنتين متتاليتين (١٣٩٤ -١٣٩٦) نفس العام الذي تخرج فيه من الجامعة ومن ثم مسجد السبق سنة كاملة, ثم جاءت سنة ١٤٠١هـ في عهد الملك الراحل خالد بن عبد العزيز -رحمه الله رحمة الأبرار- فكنت إماما له في المسجد الخاص به بقصره في الطائف وعندما نزل مكة المكرمة, وبالضبط في ليلة الثالث والعشرين من رمضان, طلب -رحمه الله- أن انزل إلى مكة المكرمة، وما كنت قد أعلمت مسبقاً بأني سأكون إماما للحرم المكي الشريف أو سأتولى الإمامة ليلة ثم يأتي بعدها تعيين رسمي بالإمامة, فنزلت تلك الليلة وبعد الإفطار طلب مني التوجه إلى المسجد الحرام للصلاة بالناس في تلك الليلة, وكان المقرر هو تلك الليلة فقط ولكن بعض من الشخصيات والأعيان الموجودين في مكة طلبوا منه -رحمه الله- أن أبقى في الليالي التالية حتى بعد رحيله -يرحمه الله- إلى الطائف مرة أخرى وبقيت إلى ليلة التاسع والعشرين ثم صدر أمره -رحمه الله- بتعييني إماما في المسجد الحرام) .
ورغم أن الشيخ علي جابر فوجئ بإمامة المصلين في صلاة التراويح إلا أن المصلين لم يشعروا ولم يلاحظوا تلك الرهبة المعهودة على الأئمة عندما يقف لأول مرة على المحراب للإمامة فما بالك بمحراب المسجد الحرام الذي يمر أمامه الطائفون ويصلي خلفه الملايين في ليالي العشر الأخيرة من رمضان, فلم ينتب الشيخ علي جابر رهبة الموقف حيث يقول عن ذلك الموقف:(من حيث الرهبة فلم تأتني وذلك بحكم أنني سبق أن تعودت الإمامة سابقاً, لكن ما من شك أن الشعور عظيم والإنسان يؤم المصلين بذلك العدد الكثيف في بيت الله الحرام في أول بيت وضع للناس الذي جعله الله مثابة للناس وأمناً, وهذه السعادة لا يمكن أن تعبر عنها كلمات أو عبارات إنما أقول إنه لم يكن تكليفاً بقدر ما هو تشريف)
ثم صار الشيخ إماماً رسمياً بالمسجد الحرام يؤم الناس بصوته الشجي في صلاة الفجر بالمسجد الحرام عام ١٤٠٢هـ وفي صلاة التراويح والتهجد وهو العام الذي توفي فيه الملك خالد بن عبد العزيز -رحمه الله-، وبعد ذلك مرض الشيخ وانقطع عن الصلاة فترة علاجه ثم انقطع عن الصلاة بالمسجد الحرام عام ١٤٠٣ و ١٤٠٤ و ١٤٠٥هـ، وعاد ليصلي بالناس صلاة القيام في شهر رمضان في الأعوام من ١٤٠٦هـ إلى سنة ١٤٠٩هـ حيث كان آخر رمضان أمّ فيه المصلين بالحرم المكي الشريف، ثم استقر الشيخ بمدينة جدة ولم يلتزم بالإمامة في أي مسجد بعد تركه للمسجد الحرام، وإنما كان الناس يقدمونه في صلاة القيام بشهر رمضان في مسجد بقشان بجدة -الذي كان أقرب المساجد لبيته- لتقديرهم وحبهم للصلاة خلفه ولم يكن هو إمام ذلك المسجد، واستمر على ذلك عدة سنوات ثم مرض الشيخ ولزم بيته لسنوات وانقطع عن الصلاة بالناس.
علاقة خاصة مع الملك خالد - رحمه الله -
مع العلاقة الحميمة التي كانت تربط الشيخ علي جابر بجلالة الملك خالد -يرحمه الله- حيث كان إماما خاصاً لمسجده في قصره بالطائف ثم عينه بنفسه في المسجد الحرام إماماً وتوجه معه شخصياً إلى المسجد الحرام وصلى خلفه إلا أن فضيلته أراد الاحتفاظ بهذه العلاقة عندما قال:(أما عن علاقتي بالملك الراحل خالد بن عبد العزيز -يرحمه الله ويسكنه فسيح جناته- فهي علاقة خاصة احتفظ بها لنفسي سائلاً المولى جل وعلا لخلفه الصالح خادم الحرمين الشريفين -حفظه الله- التوفيق والسداد لما فيه صلاح الإسلام والمسلمين) .