وكان ابن مطيع عامل ابن الزبير على الكوفة، فجعل يطلب الشيعة ويخيفهم، فواعد المختار أصحابه، ثم خرجوا بعد المغرب، وصاحب الجيش إبراهيم ابن مالك بن الحارث الأشتر، ونادى: يا لثارات الحسين بن علي! وكان ذلك سنة ست وستون، والتحم القتال بينهم وبين عبد الله بن مطيع، وكانت أشد حرب وأصعبها.
ثم صار ابن مطيع إلى القصر ودعا الناس إلى البيعة، فبايعوا لآل رسول الله صلى الله عليه وسلم ودفع المختار إلى ابن مطيع مائة ألف، وقال له: تحمل بها وأنفذ لوجهك. وسرح المختار عماله إلى النواحي، فأخرجوا من كان فيها، وأقاموا بها.
وكان عامل المختار على الموصل عبد الرحمن بن سعيد بن قيس الهمداني، فزحف إليه عبيد الله بن زياد، بعد قتله سليمان بن صرد، فحاربه عبد الرحمن، وكتب إلى المختار بخبره، فوجه إليه يزيد بن أنس، ثم وجه إبراهيم بن مالك بن الحارث الأشتر، فلقي عبيد الله بن زياد فقتله، وقتل الحصين بن نمير السكوني، وشرحبيل بن ذي الكلاع الحميري، وحرق أبدانهما بالنار، وأقام واليا على الموصل وأرمينية وآذربيجان من قبل المختار وهو على العراق وال، ووجه برأس عبيد الله بن زياد إلى علي بن الحسين إلى المدينة مع رجل من قومه، وقال له: قف بباب علي بن الحسين، فإذا رأيت أبوابه قد فتحت ودخل الناس، فذاك الوقت الذي يوضع فيه طعامه، فأدخل إليه. فجاء الرسول إلى باب علي بن الحسين، فلما فتحت أبوابه، ودخل الناس للطعام، نادى بأعلى صوته: يا أهل بيت النبوة، ومعدن الرسالة، ومهبط الملائكة، ومنزل الوحي! أنا رسول المختار بن أبي عبيد معي رأس عبيد الله بن زياد، فلم تبق في شيء من دور بني هاشم امرأة إلا صرخت، ودخل الرسول، فأخرج الرأس، فلما رآه علي بن الحسين قال: أبعده الله إلى النار. وروى بعضهم أن علي بن الحسين لم ير ضاحكا يومًا قط، منذ قتل أبوه، إلا في ذلك اليوم، وإنه كان له إبل تحمل ألفًاكهة من الشام، فلما أتي برأس عبيد الله بن زياد أمر بتلك ألفًاكهة، ففرقت في أهل المدينة وامتشطت نساء آل رسول الله، واختضبن، وما امتشطت امرأة ولا اختضبت منذ قتل الحسين بن علي وتتبع المختار قتلة الحسين فقتل منهم خلقا عظيما، حتى لم يبق منهم كثير أحد، وقتل عمر بن سعد وغيره، وحرق بالنار، وعذب بأصناف العذاب.
وهدم ابن الزبير الكعبة في جمادى الآخرة سنة أربع وستون، حتى ألصقها بالأرض، وذلك أن الحصين بن نمير لما أراد ابن الزبير هدمها امتنع، وامتنع الناس من الهدم، فعلا عبد الله بن الزبير على البيت، فهدم، فلما رآه الناس يهدم هدموا، فلما ألصقها بالأرض خرج ابن عباس من مكة إعظاما للمقام بها، وقد هدمت الكعبة، وقال له: اضرب حوالي الكعبة الخشب لا تبق الناس بغير قبله.
وروى ابن الزبير عن خالته عائشة زوج النبي صلى الله عليه وسلم أنها قالت: قال لي رسول الله: يا عائشة إن بدا لقومك أن يهدموا الكعبة ثم يبنوها، فلا يرفعوها عن الأرض، وليصيروا لها بابين. فلما بلغ ابن الزبير بالهدم إلى القواعد أدخل الحجر في البناء حتى رفعها، وجعل لها بابين بابًا شرقيًا وبابًا غربيًا وصير على كل باب مصراعين، وكان على بابها الأول مصراع واحد، وجعل طول البابين إحدى عشرة ذراعًا، وكان ارتفاعها في السماء ثماني عشرة ذراعًا، فجعلها ابن الزبير تسعا وعشرين ذراعًا، ولم يرفعها عن الأرض بل جعلها مستوية مع وجه الأرض. وكان قد أخذ الحجر الأسود فجعله عنده في بيته، فلما بلغ البناء إلى موضع الحجر أمر فحفر له في الحجارة على قدره، ثم أمر ابنه عبادًا أن يأتي، وهو في صلاة الظهر، فيضعه في موضعه، والناس في الصلاة لا يعلمون، فإذا فرغ من وضعه كبر، فجاء عباد بن عبد الله بن الزبير بالحجر، وأبوه يصلي بالناس الظهر في يوم شديد الحر، فشق الصفوف حتى صار إلى الموضع، ثم وضعه، وطول ابن الزبير الصلاة حتى وقف عليه، فلما رأت قريش ذلك غضبت وقالت: والله ما هكذا فعل رسول الله، ولقد حكمته قريش، فجعل لكل قبيلة نصيبًا.
وكان الركن لما أصابه الحريق تصدع بثلاث قطع، فشده ابن الزبير بالفضة، ولما فرغ من البناء خلق داخل الكعبة وخارجها، فكان أول من خلقها وكساها القباطي، واعتمر من التنعيم، ومشى.