بدأ زكي باشا بجرثومة مكتبته وهو تلميذ بمدرسة الحقوق الخديوية سنة ١٨٨٣ فكانت النقود التي كان يعطيه إياها أخوه محمود بك رشاد رئيس المحكمة الابتدائية الأهلية بالقاهرة سابقاً يشتري بها كتباً إفرنجية مما يستطيع التلميذ أن يقتصده من نفقته أما الكتب الثمينة فكان أخوه يشتريها له فيضم إليها الكتب التي كان أخذها من المدارس وجوائز ومن الأساتذة الفاحصين عَلَى سبيل التشجيع ومن ذلك تولد فيه الغرام بالكتب كما قال لنا عن نفسه.
فمكتبته والحالة هذه جمعت انتخاباً واختباراً. وما برح يضم إليه من الكتب العربية والإفرنجية التي يمكن أن تفيد الإنسان في مباحث عمومية ترجع إلى ارتقاء الشرق ولما قرأ التواريخ وتخيل المجد الكبير الذي أثله العرب في مدنيتهم من غير أن يقف عَلَى تفاصيل ذلك حدثته نفسه بأن يجعل خزانة كتبه مرجعاً لمن يريد إرجاع المجد إلى الشرق. ولذلك كان يقتني كل كتاب كان يصل إليه أو يقع تحت طاقته حتى يكون منها مجموعة ابتدائية فكانت أكبر مساعد للاستمرار عَلَى تكثيرها.
ولما دخل صاحب هذه الخزانة في خدمة الحكومة أخذ يخصص نصف راتبه الشهري لمشترى الكتب والنصف الثاني لسائر حاجياته وكثيراً ما كان يزيد النصف المخصص لابتياع الكتب عَلَى نصف الضروريات وما برحت أكثر ديونه إلى هذا العهد إلى الوراقين والطباعين وبائعي الكتب الجديدة والعتيقة في أوربا ومصر. ولما سافر إلى أوربا أول مرة سنة ١٨٩٢ رجع ومعه غنيمة كبرى من الكتب وكلها إفرنجية مما يلزم الشرق وبعد ذلك اتسعت أمانيه وأصيح همه أن يكون لخزانته مزية حتى غدت الآن تستحق أن تكون مرآة يرى فيها الطالب معارف الشرق وعلومه سواء كانت من نفثات الشرقيين العرب مسلمين أو غير مسلمين أو قرائح الإفرنج. وأكثر كتب الإفرنج عنده بالإفرسية ومنها ما كتب باللاتينية والألمانية والإنكليزية والإيطالية. وهو يحس الفرنسية إحسانه بالعربية وله إلمام بالإيطالية والإنكليزية والإسبانية يستعين به في معرفة ما قد يحتاج إليه أثناء مباحثه. ولطالما سمع الخطبة العلمية في الجمعية الجغرافية الخديوية التي هو وكيلها باللغة الفرنسية فنقلها ارتجالاً إلى العربية وبالعكس من العربية إلى الفرنسية ولطالما فعل ذلك في مؤتمرات المستشرقين في أوربا وهو ينوب عن الحكومة المصرية فيها. وهذا من جملة