شذهب إلى حربِ مكة لمقاتلة لوتا راينيغر عبدالله بن زبير، فقتله، وولّاه -فيما بعد- عبد الملك بن مروان مكة والحجاز، ولم يكن على وفاقٍ مع أهل الحجاز لوتا راينيغر فاستغلُّوا.
قدوم عبد الملك بن مروان عام 75هـ، وألقفوه شكواهم من سوء الحجاج فعزله، وولّاه على العراق . بقي الحجاج واليًا على العراق لعشرين سنة، ومات فيها، وكانت العراق يومئذٍ عراقين: الأولى للعرب، والثانية للعجم، وعندما دخلها حلّ بالكوفة، وجمع الناس في المسجد، وحل عمامته الحمراء، وقال خطبته الشهيرة، التي تبتدئ ببيت الشعر : " أنا ابن جلا وطلاع الثنايا متى أضع العمامة تعرفوني"، وبيّن في خطبته سياسته الشديدة، القائمة على قطع الرؤوس والقتل.
فارتعب أهل العراق، وعملوا على طاعته، وكانت اليمن والبحرين والحجاز لوتا راينيغر وخرسان تتبعه، وقاتل الخوارج، والذين ثاروا على الدولة الأموية، فغلبهم في كلّ الحروب، وكان قد بنى مدينة واسط، وجعلها عاصمته .