بهزيمة والده مباشرة أم أنه اختفى فيها حتى يئس الباحثون عنه من العثور عليه، ففر إلى خراسان مع عدد قليل من أتباعه.
ووفقا لما ورد فى كتاب مقاتل الطالبيين فإن يحيى انطلق من المدائن إلى الرى ومنها إلى سَرْخَسْ حيث مكث بها ستة أشهر عند يزيد التيمى (ذكر فى كتاب عمدة الطالب أنه مكث عند يزيد بن عمر التيمى)، ويقال إن المحكمة (الخوارج) أرادوا أن يقيموا مناظرة علنية معه ولكن يحيى -بناء على نصيحة يزيد- لم يوافق على ذلك. وانتقل من سرخس إلى بلخ فتلقاه الحريش بن عمرو بن داود بقبول حسن ورحب به.
ولما علم يوسف بن عمر بنشاط يحيى أمر حاكم خراسان نصر بن سيار بالقبض عليه وسجنه، فأخرجه حاكم بلخ من مخبئه وأرسل به إلى نصر بن سيار الذى سجنه فى مَرْو لكن الخليفة الوليد الثانى أمر نصرا بإطلاق سراحه وسراح من معه، وصدرت التعليمات لعمّال سرخس وطوس ونيسابور بعدم السماح له بالإقامة فى زمام عمالاتهم، فاتجه يحيى إلى بيهق، وخشى أن يتوغل غربا أكثر من ذلك خوفًا من ابن عمر، وفى بيهق بدأ ينشر دعوته ويقال إنه ضم إليه سبعين شخصًا، وبقوته الصغيرة هذه اتجه إلى عامل أبراشهر عمرو بن زرارة وأحرز انتصارا عليه رغم قوة عتاد العدو وكثرة عدده، وشق يحيى طريقه محاربًا فى إقليم هرات لكن القوات التى أرسلها نصر بن سيار لحقت به عند قرية أدغوة Arghwa وقتلته مع أتباعه، وربما كان هذا فى رمضان سنة ١٢٥ هـ/ يونيو سنة ٧٤٣ م.
ووفقا لما ورد فى كتاب عمدة الطالب فإن يحيى لم يكن يتجاوز الثامنة عشرة من عمره عندما مات، وإن قالت مصادر أخرى إن عمره كان وقتذاك ثمانية وعشرين سنة. وبعد قتله قُطع رأسه وأرسل إلى دمشق أما جسده فعلق على بوابة حاضرة الجوزجان (الأنبار) وظل حتى أنزله أتباع أبى مسلم ودفنوها وأصبح قبره مزارا.