كان خالد رجلًا موسرًا من العشيرة الأموية، كان على حظ من التعليم، ويحتمل أنه كان الكاتب الثالث للنبي [- صلى الله عليه وسلم -] بعد عثمان وعلى، فقد حل في ذلك محل على، وكان إلى ذلك مسؤولا عن قواعد الرسميات حين كان النبي [- صلى الله عليه وسلم -] يلقى قبيلة ثقيف ذات الشأن وحلفاءها سنة ٩ للهجرة.
وقبل هذا كان خالد من مهاجرى الحبشة، وتزوج النبي [- صلى الله عليه وسلم -] امرأة من عشيرته هي أم حبيبة بنت أبي سفيان بعد وفاة زوجها الذي كان هو نفسه من المهاجرين. ووقعت المسؤولية على خالد حيث كان وليا أو وكيلًا للزوجة، ولو أن رواية من الروايات أوقعت هذه المسؤولية على عثمان.
وبدأت حياة خالد السياسة سنة ١٠ هـ، حين ارجع النبي [- صلى الله عليه وسلم -] فروة بن مسيك الذي كان قد أقبل وشيكا عليه يعلن دخوله في الإسلام إلى قبيلته في اليمن، وهنالك أمر النبي [- صلى الله عليه وسلم -، ] خالدًا بأن يصحبه وأن يجمع الصدقة. وعمد النبي [- صلى الله عليه وسلم -] في أول سنة ١١ هـ وقبل وفاته مباشرة إلى إقامة سبعة ولاة على اليمن وعمان ومنهم خالد ولاه ما بين نجران ورمح وزبيد. وفي أيام فتنة الأسود قدم هؤلاء الولاة والتفوا حول طاهر بن أبي هالة الذي كان يلى تهامة واليمن، إلا أن خالدًا بن سعيد وعمرًا بن حزم والى نجران، تركا ولايتهما وعادا إلى المدينة بعد وفاة النبي [- صلى الله عليه وسلم -، ] بشهر أي في ربيع الثاني الموافق شهر يولية سنة ٦٣٢ م.
وفي أوائل سنة ١٣ للهجرة كان أبو بكر يتهيأ للحملة على الشام فعهد في حديث لعمر بن شبة (الطبرى، جـ ١، ص ٢٠٧٩) لخالد بن سعيد بقيادة الجيش الأول ولكنه عدل عن ذلك قبل أن يخرج الجيش للقتال.
وفي النهاية عهد أبو بكر إلى خالد الدفاع عن تيماء حتى وصلت الجيوش من الجنوب وأنجز هذه المهمة بنجاح أول الأمر وانضم إليه الكثير من قبائلها واستطاع أن يرد الروم على أعقابهم.