أما علم أصول الفقه فلم ينشأ إلا في القرن الثاني الهجري؛ لأنه في القرن الهجري الأول لم تدع حاجة إليه، فالرسول كان يفتي ويقضي بما يوحي به إليه ربه من القرآن، وبما يلهم به من السنن. وبما يؤديه إليه اجتهاده الفطري من غير حاجة إلى أصول وقواعد يتوصل بها إلى الاستنباط والاجتهاد، وأصحابه كانوا يفتون ويقضون بالنصوص التي يفهمونها بملكتهم العربية السليمة من غير حاجة إلى قواعد لغوية يهتدون بها إلى فهم النصوص. ويستنبطون فيما لا نص فيه بملكتهم التشريعية التي ركزت في نفوسهم من صحبتهم الرسول. ووقوفهم على أسباب نزول الآيات وورود الأحاديث، وفهمهم مقاصد الشارع ومبادئ التشريع، ولكن لما اتسعت الفتوح الإسلامية واختلط العرب العرب بغيرهم، وتشافهوا وتكاتبوا ودخل في العربية كثير من المفردات والأساليب غير العربية ولم تبق الملكة اللسانية على سلامتها وكثرت الاشتباهات والاحتمالات في فهم النصوص -دعت الحاجة إلى وضع ضوابط وقواعد لغوية يقتدر بها على فهم النصوص كما يفهمها العربي الذي وردت النصوص بلغته. كما دعت إلى وضع قواعد نحوية يقتدر بها على صحة النطق.
وكذلك لما بعد العهد بفجر التشريع، واحتدام الجدال بين أهل الحديث وأهل الرأي، واجترأ بعض ذوي الأهواء على الاحتجاج بما لا يحتج به وإنكار بعض ما يحتج به، دعا كل هذا إلى وضع ضوابط وبحوث في الأدلة الشرعية وشروط الاستدلال بها وكيفية الاستدلال بها، ومن مجموعة هذه البحوث الاستدلالية وتلك الضوابط اللغوية تكون علم أصول الفقه.
ولكنه بدأ صغيرًا كما يوجد كل مولود أول نشأته ثم تدرج في النمو حتى بلغت أسفاره المائتين، بدأ منثورًا مفرقا من خلال أحكام الفقه؛ لأن كل مجتهد من الأئمة الأربعة وغيرهم كان يشير إلى دليل حكمه ووجه استدلاله به، وكل مخالف كان يحتج على مخالفة بوجوه من الحجج. وكل هذه الاستدلالات والاحتجاجات تنطوي على ضوابط أصولية.
وأول من جمع هذه هذه المتفرقات مجموعة مستقلة في سفر على حدة، الإمام أبو يوسف صاحب أبي حنيفة كما ذكر ابن النديم في الفهرست ولكن لم يصل إلينا ما كتبه.