يقال إن إبراهيم عليه السلام لما بنى القواعد وبلغ مكان الركن قال: يا إسماعيل اطلب لي حجرا حسنا أضعه هنا فجاءه بهذا الحجر، الذي يختلف في لونه عن بقية الأحجار، فهو أسود مائل إلى الحمرة، ويختلف كذلك في خاصيته من الصلابة والنعومة، فقد قاوم الأجيال الطويلة عوامل الطبيعة، وقاوم احتكاك ملايين الأيدي وتمسحها، وقاوم الحريق، وقاوم المنجنيق، وقاوم تعدد الهدم والبناء، ولو كان حديدا لفنى مع هذه العوامل، وقد حافظ عليه بناة الكعبة جميعا، بل حافظوا على وضعه في المكان الذي وضعه فيه إبراهيم عليه السلام، وفي زاوية الكعبة من جهة الشرق على ارتفاع ذراعين وثلثي ذراع من الأرض، وعظموه تعظيما خاصا، حتى كادوا يقتتلون على وضعه لولا حكمة الرسول صلى الله عليه وسلم وبسطه لردائه وحمل كل قبيلة له من طرف، وسواء كان هذا التعظيم لما ورد فيه من الأحاديث التي قالها عنها المحدثون: إنها لا تخلو من ضعف، أو كان للتعبد فهو تعظيم شرعي بلا خلاف.
ولما كان الناس حديثا عهدهم بعبادة الأصنام خشي عمر رضي الله عنه أن يظن الجهال أن استلامه وتقبيله من باب تعظيم الأحجار، كالذي كانت تفعله العرب، فأراد أن يعلمهم أن استلامه وتقبيله لا يقصد به إلا تعظيم الله عز وجل والوقوف عند أمر نبيه، وأن ذلك من شعائر الحج التي أمر الله بتعظيمها، وأن استلامه وتقبيله مخالف لفعل الجاهلية في عبادتهم للأصنام، لأنهم كانوا يعتقدون فيها الضر والنفع، أراد عمر ذلك فجاءه في موسم الحج ليبلغ قوله أكبر عدد ممكن من المسلمين، فقبله، فقال: إني أعلم أنك حجر لا تضر ولا تنفع والظاهر أنه خاطب الحجر بهذا وهو جماد لا