اختلف المؤرخون على من احتل منصب الوزارة بعد أبي سلمة الخلال ، فقيل أن أبا الجهم بن عطية الباهلي هو الذي تسلم مسئوليات الوزير دون اتخاذ اللقب (1) ، وكان المهيمن على الجيش خلال تولى أبي سلمة الوزارة . وبعد مقتل أبي سلمة أصبح من المقربين من الخليفة ، وبمثابة حاجبه ومستشاره (2) . وبذلك يكون قد جمع بين السيطرة على الجيش والسيطرة على الإدارة دون أن ينال لقبًا معينًا أو مرتبة سياسية أو إدارية معينة .
... وقد بقي أبو الجهم موثوقًا به ومقربًا من الخليفة أبي العباس مدة خلافته ، فهو الذي أخرج العباس من موضعه الذي أخفاه فيه أبي سلمة ، وقام بأمره حتى بويع ، ولكنه لم ينل تلك الثقة من قبل أبي جعفر المنصور ، فقد اتهمه أبو جعفر بأنه جاسوس لأبي مسلم الخراساني ، وأنه يكاتبه بأخباره فتخلص منه بالسم (3) .