وغلب على الكوفة، ثم خرج منها إلى فارس، ولبس الصّوف وأظهر سيما الخير. وكان يطعن في دينه، وينسب إلى الزندقة واللّواط فغلب على الجبل والريّ والأصفهان وفارس والماهين. وقصده بنو هاشم وفيهم المنصور والسفاح، وعيسى بن علي، ومن بني أمية سلمان بن هشام بن عبد الملك وغيره فمن أراد عملا ولّاه، ومن أراد صلة وصله فوجّه إليه مروان بن محمد عامر بن ضبارة فهرب عبد الله من فارس ولحق بخراسان، وقد ظهر أبو مسلم بها، فأخذه أبو مسلم وحبسه ثم قتله.
وكان جعل عليه عينا يرفع إليه أخباره فرفع إليه أنه يقول:
ليس على الأرض أحمق منكم يا أهل خراسان، في طاعتكم هذا الرجل وتسليمكم إليه مقاليد أموركم من غير أن تراجعوه في شيء، أو تسألوه عنه.
والله ما رضيت الملائكة بهذا من الله عزّ وجلّ حتى راجعته في أمر آدم فقالت: {أَتَجْعَلُ فِيهََا مَنْ يُفْسِدُ فِيهََا وَيَسْفِكُ الدِّمََاءَ} [البقرة: الآية 30] . حتى قال لهم: {إِنِّي أَعْلَمُ مََا لََا تَعْلَمُونَ} [البقرة: الآية 30] .
وكتب إلى أبي مسلم من الحبس:
من الأسير في يديه بلا ذنب إليه ولا خلاف عليه. أما بعد فآتاك الله حفظ الوصية، ومنحك نصيحة الرعيّة، وألهمك عدل القضيّة، فإنّك مستودع ودائع ومولى صنائع، فاحفظ ودائعك بحسن صنائعك، فالودائع مرعيّة، والصنائع عارية، وما النعم عليك وعلينا فيك بمستور نداها، ولا مبلوغ مداها، فاذكر القصاص، واطلب الخلاص، وأنبه للتّفكّر قلبك، واتّق الله ربّك، واعط من نفسك من هو تحتك ما تحبّ أن يعطيك من هو فوقك من العدل والرأفة والأمن من المخافة. فقد أنعم الله عليك إذ فوّض أمرنا إليك فاعرف لنا شكر المودّة وأعتقنا من الشدة والرّضا بما رضيت، والقناعة بما هويت فإن علينا من ثقل الحديد أذّى شديدا، مع معالجة الأغلال، وقلة رحمة العمّال، الذين تسهيلهم الغلظة، وتيسيرهم الفظاظة، وإيرادهم علينا الغموم، وتوجيههم إلينا الهموم زيارتهم الحراسة، وبشارتهم الإياسة فإليك نرفع كربة الشكوى، ونشكو شدة البلوى. ومتى تمل إلينا طرفا وتزوّدنا منك
عطفا تجد عندنا نصحا صريحا، وودّا صحيحا، ولا يضيع مثلك مثله، ولا يتّقي مثلك أهله فارع حرمة من أدركت حرمته، واعرف حجّة من فلجت حجّته فإن الناس من حوضك رواء، ونحن منه ظماء. يمشون في الأبراد، ونحجل في الأقياد، بعد الخير والسّعة، والخفض والدّعة. والله المستعان وعليه التّكلان، صريخ الأخيار ومنجي الأبرار. الناس من دولتنا في رخاء، ونحن منها في بلاء: حيث أمن الخائفون، ورجع الهاربون، رزقنا الله منك التحنّن، وظاهر علينا منك المنن فإنك أمين للمؤمنين مستودع وذائد مصطنع.