درب القنطرة صبيان العامة، حتى احتاج إلى الكسب، فجعل يتعلم النحو. وكان أبوه رجلاً صالحاً، وكان من أصحاب الكسائي، حسن المعرفة بالعربية؛ وكان يقول: أنا أعلم من أبي بالنحو، وأبي أعلم مني بالشعر واللغة.
وحكي عن أبيه أنه حج وطاف بالبيت، وسعى بين الصفا والمروة، وسأل الله تعالى أن يعلم ابنه النحو، قال: فتعلم النحو واللغة، وجعل يختلف إلى قوم من أهل القنطرة، فأجروا في كل دفعة دراهم وأكثر؛ حتى اختلف إلى بشر وإبراهيم ابني هارون - أخوين كان يكتبان لمحمد بن طاهر - فما زال يختلف إليهما وإلى أولادهما دهراً، واحتاج ابن طاهر إلى رجل يعلم ولده، وجعل ولده في حجر إبراهيم، وقطع ليعقوب خمسمائة درهم، ثم جعلهما ألف درهم، وكان يعقوب قد خرج قبل ذلك إلى سر من رأى في أيام المتوكل [فصيره عبد الله بن يحيى بن خاقان عند المتوكل] ، فضم إليه ولده وأنسى له الرزق.
قال الحسين بن عبد المجيب: سمعت يعقوب بن السكيت في مجلس أبي بكر بن أبي شيبة يقول:
ومن الناس من يحبك حبا ... ظاهر الحب ليس بالتقصير
فإذا ما سألته نصف فلس ... الحق الحب باللطيف الخبير
وقال أبو العباس محمد بن يزيد المبرد: ما رأيت للبغدادين كتاباً خيراً