عاش أو خرج من قطربل، وهي ناحية غربى دجلة بالقرب من بغداد.
والأخبار عن حياته قليلة جدًا وغير موثوق بها لأننا في كثير من الأحيان لا نعرف أهو المقصود بها أم محمَّد بن موسى بن شاكر (Nachtrage: H. Suter die Zu "Mathemathiker" 'etc' في. Abhandl. Zur Gesch. der Math Wissensch . ١٩٠٢ م، جـ ١٤، تعليق رقم ١٩، ص ١٥٨ (ونحن لا نعلم تاريخ مولده، كما أن تاريخ وفاته غير محقق، ويقول سوتر H.Suter . إنه توفي ما بين عامى ٢٢٠ هـ (٨٣٥ م) و ٢٣٠ هـ (٨٤٤ م)، أما نلينو Nallino فيجعل تاريخ وفاته بعد عام ٢٣٢ هـ (٨٤٦ - ٨٤٧ م). وعاش الخوارزمى في عهد المأمون، وكان أحد منجميه، ولعله اشترك في حساب ميل الشمس في عهده. وجرى الخوارزمي على العكوف في مكتبة المأمون للدرس. ويقول الطبرى (الموضع المذكور) إنه كان من المنجمين الذين استدعاهم الواثق في مرضه الأخير لينبئوه بما يكون من أمره، فبشروه بالعمر الطويل، ولكن المنية أدركته بعد ذلك بقليل. وقد انصرف الخوارزمي إلى دراسة الرياضيات والجغرافية والفلك والتاريخ. وألف "كتاب التاريخ" الذي ذكره المسعودي من بين مصادره، ولعل الطبرى نقل عنه الفقرة التي تتناول حادثا وقع في عهد المأمون سنة ٢١٠ هـ (٨٢٥/ ٨٢٦ م) انظر Al Huwarizmi: C.A.Nallion etc، ص ١٢). ونستدل من كتب الخوارزمي التي كان بعضها هاما مبتكرا على أنه كان عظيم الموهبة.
وقد ألف الخوارزمي كتبه قبل العصر الذي ازدهر فيه النقل عن اليونانية، ولو أنه عاصر الحجاج فترة من حياته. ويُقال أن الخوارزمي اعتمد فيما بلغ إليه من شأو في الجبر على الهندوس والفرس ومدرسة جنديسابور بصفة خاصة. أما المصادر اليونانية فكانت بالنسبة إليه في المرتبة الثانية. والغالب أن ذلك لم يكن شأنه في الفلك والجغرافية. وثمة قائمة بكتبه في الفهرست ليعقوب النديم (ص ٢٧٥)