وقد ترك الذهبي أولادا ثلاثة كانوا من العلماء، وهم:
١ - ابنته أم سلمة: سمعت مع أبيها من عيسى بن عبد الرحمن بن معالي بن حمد، أبي محمد الصالحي السمسار ومطعم الأشجار، المتوفى سنة "٧١٩ هـ ١٣٢٠ م"، قال الحافظ الذهبي في "معجم شيوخه الكبير""٢/ ٨٦": "قلت: وسمعه معي ولداي عبد الله وأم سلمى". وقد أجاز لها ولوالدها شيخ المستنصرية الإمام العالم المحدث الصادق الخير رشيد الدين أبو عبد الله محمد بن عبد الله بن عمر بن أبي القاسم البغدادي، المتوفى سنة "٧٠٧ هـ-١٣٠٧ م" كما قال الحافظ الذهبي في "معجم شيوخه الكبير""٢/ ٢٠٤" أجاز لنا مروياته غير مرة أولها في سنة خمس وتسعين وستمائة "٦٩٥ هـ-١٢٩٦ م" وأجاز لبنتي أم سلمة وقد كان انفرد بأجزاء عوالي الأول الكبير من المخلصات، وجزء ابن كرامة، وتاسع الجعديات، والأطعمة للدارمي، والأول من عوالي ابن البطر، وجزء ابن محمش، وجزء ابن بالويه، والخامس والسادس من حديث ابن صاعد، وجزء ابن المنذر، ودرجات التائبين، ولمع ابن السراج في التصوف.
٢ - ابنه أبو هريرة، عبد الرحمن: قرأ هو ووالده على عمة الحافظ الذهبي: ست الأهل بنت عثمان بن قايماز بن عبد الله، أم محمد المتوفاة سنة "٧٢٩ هـ ١٣٢٩ م" كما قال الحافظ الذهبي في "معجم شيوخه الكبير""١/ ٢٨٥".
وسمع هو ووالده الحافظ الذهبي من عبد المحسن بن إبراهيم بن خولان الصالحي، المتوفى سنة "٧٢٢ هـ" كما قال في "معجم شيوخه الكبير""١/ ٤١٦".
وسمع مع أبيه من فاطمة بنت الإمام القدوة عز الدين إبراهيم بن عبد الله بن محمد بن أحمد الصالحية الحنبلية، قال الحافظ الذهبي في "معجم شيوخه الكبير""٢/ ١٠٢": "روت لنا نسخة أبي مسهر، وجزء الفراتي، سمعهما معي ابني عبد الرحمن".
وسمع مع أبيه من محمد بن أحمد الزراد الحريري الصالحي، المتوفى سنة "٧٢٦ هـ-١٣٢٦ م". قال الحافظ في "معجم شيوخه الكبير""٢/ ١٧٠": سمعت منه مع ولدي عبد الرحمن جزء ابن عرفة، وجزء ابن فيل، والبطاقة والجمعة ونسخة إبراهيم بن سعد، وجزء الفراتي، ونسخة أبي مسهر، وجزء الكسائي، ومعه من الذكر لابن فارس، وفضائل معاوية، وفوائد نصر، وجزء ابن الفرات، والعلم لأبي خيثمة.