زرياب كان مولى للخليفة المهدى المتوفى عام ٧٨٥ م. وجاء فى العقد الفريد أنه كان تلميذا لإبراهيم الموصلى المتوفى عام ٨٤٠ ومن ثم فإن إبراهيم لا إسحاق هو الذى ذكر فى قصة هارون التى سوف نذكرها. وذكر ابن حيان أن زرياب درس الموسيقى على إسحاق الموصلى، وكان يحفظ أغانيه خلسة [ولعل هذا يشير إلى أن زرياب كان فى بادئ أمره غلامًا أو خادمًا للمهدى أو لإسحاق]. وقد سمع هارون الرشيد (المتوفى عام ٨٠٩) بمواهب زرياب فأمر إسحاق بأن يحضر إليه هذا الموسيقى الشاب. وأعجب هارون أشد الإعجاب بإبداع زرياب ليس فى الغناء فحسب بل بأسلوبه الخاص أيضا فى العزف على العود الذى صنعه على طريقته، فأثار ذلك حسد أستاذه إسحاق. وعندئذ اضطر زرياب إلى الخروج من بغداد والرحيل إلى المغرب حيث التحق بخدمة زيادة اللَّه الأول (٨١٦ - ٨٣٧) الوالى الأغلبى على القيروان. وفى عام ٨٢١ عرَّض زرياب بالأمير فى إحدى أغانيه فحكم عليه بالجلد ونفاه من البلاد. فعبر البحر المتوسط إلى الجزيرة الخضراء، وعرض خدماته على الحكم الأول (المتوفى ٨٢٢) الوالى الأموى على قرطبة فاستدعاه إلى الحاضرة، ولكن الحكم توفى قبل قدوم زرياب إليها. وجدد خليفته عبد الرحمن الثانى (توفى عام ٨٥٢) العرض على زرياب فقبل زرياب أن يخدم عبد الرحمن. واحتضن الوالى هذا الموسيقى عقب وصوله وعامله معاملة تنطوى على تقدير عظيم. وأجرى على زرياب هو وأسرته (وكان له فى ذلك الوقت أربعة أبناء) معاشا سنويا قدره ٥٦٤٠ دينارًا علاوة على ثلثمائة مد من الحبوب وأملاك تقدر قيمتها بأربعين ألف دينار. وأصبحت هبة الأمير هذه حديث الناس فى العالم الإسلامى. وقد شكا موسيقى آخر مشهور يدعى علوية كان فى خدمة المأمون الخليفة العباسى فى بغداد (توفى عام ٨٣٢) سوء حاله إلى مولاه ذاكرًا أن زرياب ينعم فى ظل الأمويين فى الأندلس فيركب دابته يحف به أكثر من مائة عبد ويملك ما يربى على ثلاثين ألف دينار، فى حين يكاد يموت هو من الجوع، بل إن خازن المال قد احتج على