والقذى لا يكون الأمر من أمور الدنيا ولكنه يكون الأمر من الأمور المتعلقة بما هو عليه وتلامذته، كان يحس بتساهل من تلميذه في أمور الدين أو مخالفة له في شيء، كان مقررًا عندهم، أو الركون إلى شيء من الدنيا كانوا يكرهون الركون إليه.
وقد أوغل عبد الكريم بن فهد الحميد في الزهد والبعد عن الدنيا حتى اختلف مع زوجته في اللباس الذي تلبسه النساء في الوقت الحاضر، وطلب منها أن تلبس اللباس القديم، ثم وصل به الاختلاف معها في هذا الأمر أن أحرق بعض ملابسها العصرية فغضبت من ذلك ونفرت منه.
وقد نصب له خيمة في (شعيب العود) وجعل عنده غنيمات يرعاها ويشرب من ألبانها ويأتدم بزبدها وقيل لي إنه بقي على ذلك أربع سنين لا يتعدى ذلك المكان، إلَّا أن بعض أصدقائه من طلبة العلم والمحبين له كانوا يأتون له يوم الجمعة فيحملونه بسياراتهم لأداء الصلاة، ثم ترك الخيمة، وبني له بيتا في الخبيبية (غرب بريدة) من الطين قريب السقف، يكاد الواقف يلمس سقفه، وتزوج وعاش عيشة الزهد بالجديد من أمر الدنيا، والبعد عن ملذاتها، وصار يعيش العيش الذي يريده في هذا الأمر وحده، إلا أنه بني بقرب بيته مسجدًا يصلي فيه ومن حضر إليه.
فهناك عدد من الناس يحبونه ويعتقدون في صلاحه فيصلون معه، ولكن ذلك لا يتعدى ما ذكر، فهو سلفي متشدد في أمور العقيدة، لا يتساهل في ذلك ولا يسمح لأحد أن يتساهل فيها.
وله طبيعة خاصة منها ما ذكروه من أنه لا يسارع إلى المصافحة ولا يسمح لأحد أن يقول له: يا شيخ، وإنما يحب أن يقال له: يا فلان، أي يا عبد الكريم.