كان رافع بن هرثمة من أصحاب محمد بن طاهر، فلما استولى يعقوب بن الليث على نيسابور وأزال الطاهريّة عنها التحق رافع به، فلما عاد يعقوب إلى سجستان صحبه رافع، وكان طويل اللحية كريه المنظر قليل الطلاقة، فدخل يوما على يعقوب فلما خرج من عنده قال:
إنّا لا نميل إلى هذا الرجل فليلحق بما شاء من البلاد، فقيل له ذلك ففارقه وعاد إلى منزله بتامين، فأقام إلى أن استقدمه أحمد الخجستانى كما ذكرنا وجعله صاحب جيشه، فلما قتل اجتمع الجيش عليه، وسار من هراة إلى نيسابور وكان أبو طلحة قد وردها من جرجان، فحصره فيها رافع وقطع الميرة عنها، فاشتدّ الغلاء ففارقها أبو طلحة إلى مرو، وخطب رافع لمحمد بن طاهر، ثم قلّد الموفّق محمد بن طاهر أعمال خراسان وكان ببغداد، فاستخلف رافع بن هرثمة على أعمال خراسان، وسار رافع إلى خوارزم في سنة اثنتين وسبعين ومائتين فجبى أموالها، ورجع إلى نيسابور.
وفي سنة خمس وسبعين استولى رافع على جرجان، وأزال عنها محمد بن زيد وسار محمد إلى أستراباد فحصره بها رافع نحو سنتين، فغلت الأسعار وعدمت الأقوات وبيع وزن درهم ملح بدرهمين فضة، ففارقها محمد ليلا في نفر يسير فتبعه رافع إلى أرض الديلم حتى اتصل