ولمّا أقام ابن عطيّة بالمدينة شهرا سار نحو اليمن واستخلف على المدينة الوليد ابن عروة بن محمّد بن عطيّة، واستخلف على مكّة رجلا من أهل الشام، وقصد اليمن، وبلغ عبد اللَّه بن يحيى طالب الحقّ مسيره وهو بصنعاء، فأقبل إليه بمن معه، فالتقى هو وابن عطيّة فاقتتلوا، فقتل ابن يحيى وحمل رأسه إلى مروان بالشام، ومضى ابن عطيّة إلى صنعاء.
ولمّا سار ابن عطيّة إلى صنعاء دخلها وأقام بها، فكتب إليه مروان يأمره أن يسرع إليه السير ليحجّ بالناس، فسار في اثني عشر رجلا بعهد مروان على الحجّ ومعه أربعون ألفا، وسار وخلّف عسكره وخيله بصنعاء، ونزل الجرف، فأتاه ابنا جهانة المراديّان في جمع كثير وقالوا له ولأصحابه: أنتم لصوص! فأخرج ابن عطيّة عهده على الحجّ وقال: هذا عهد أمير المؤمنين بالحجّ، وأنا ابن عطيّة. قالوا: هذا باطل، فأنتم لصوص. فقاتلهم ابن عطيّة قتالا شديدا حتّى قتل.
وفي هذه السنة قتل قحطبة بن شبيب من أهل جرجان ما يزيد على ثلاثين ألفا.