Dinasti Umayyah berjaya kurang lebih 90 tahun (661 - 750 M), namun pada akhirnya mengalami masa-masa kemunduran. Ditandai dengan melemahnya sistem politik dan pemerintahan, disamping munculnya berbagai tekanan dari luar berupa pemberontakan.
Kekhalifahan Bani Umayyah sangat lemah dan tidak bisa mengendalikan pemerintahan dan keamanan, terutama setelah pemerintahan Hisyam bin Abdul Malik. Di kalangan keluarga khalifah sering terjadi pertikaian, misalnya yang lilatarbelakangi oleh perebutan kekuasaan untuk menduduki jabatan khalifah.
Khalifah Hisyam diteruskan oleh Al-Walid II, Yazid III, Ibrahim dan Marwan bin Muhammad, namun keempatnya hanya mampu memerintah sekitar tujuh tahun. Al-Walid memerintah selama satu tahun 3 bulan, kemudian diganti oleh Yazid III yang hanya bertahan selama enam belas bulan. Selanjutnya digantikan oleh Ibrahim bin Al-Walid bin Abdul Malik, tetapi bertahta tidak lebih dari tiga bulan dan digantikan oleh Marwan. Selama kepemimpinannya, Marwan disibukkan mengatasi berbagai pemberontakan, sampai akhirnya dia tewas dimedan perang.
Diantara beberapa peristiwa yang mendorong kemunduran Bani Umayyah dapat diidentifikasi sebagai berikut :
- Figur pewaris kekhalifahan yang lemah. Sepeninggal Hisyam, tidak ada lagi khalifah yang kuat, mampu memperkuat pemerintahan, serta menjaga keutuhan dan kewibawaan negara.
- Tidak adanya ketentuan tata cara pengangkatan Khalifah. Akibatnya, terjadi perebutan kekuasaan di kalangan kelurga Umayyah.
- Pemindahan ibu kota dari Madinah ke Damaskus yang merupakan bekas ibu kota kerajaan Byzantium. Gaya hidup mewah bangsawan Byzantium dianggap telah mempengaruhi dan ditiru oleh Dinasti Umayyah.
- Para ulama mersa kecewa terhadap para penguasa. Mereka dipandang tidak memiliki intgritas keagamaan dan politik yang sesuai dengan syariat islam.
- Pertentangan yang sudah lama terjadi antara suku Arab Utara (disebut Arab Quraisy atau Mudariyah yang menempati Iraq) dengan Arab selatan (disebut Yamani atau Himyariyah yang mendiami wilayah Suriah) mencapai puncaknya. Hal tersebut karena para khalifh berpihak kepada suku Arab Yamani.
- Ketidak puasan sejumlah pemeluk islam non-Arab, yakni pendatang baru dari bangsa-bangsa yang dikalahkan (disebut Mawali).Mereka bersama-sama bangsa Arab mengalami beratnya peperangan, tetapi diperlakukan sebagai masyarakat kelas dua. Golongan non-Arab terutama di Irak dan wilayah bagian timur lainnya, merasa tidak puas karena status Mawali menggambarkan inferioritas. Ditambah lagi dengan keangkuhan bangsa arab yang diperlihatkan pada masa bani Umayyah.
- Latar belakang terbentuknya Bani Umayyah tidak bisa dipisahkan dari konflik politik yang terjadi dimasa kkhulafaur Rasyidin, yaitu khalifah Ali bin Abi Thalib. Sisa-sisa kaum syiah (pengikut AAli) dan khawarij terus menjadi gerakan oposisi. Penumpasan terhadap gerakan tersebut banyak menyedot kekuatan pemerintah.
- Penyebab langsung tergulingnya Daulah Umayyah adalah munculnya kekuatan baru yang dipelop[ori oleh keturunan Abbas bin Abdul Mutalib. Gerakan ini mendapat dukungan penuh dari Bani Hasyim, golongan syi'ah dan kaum khawarij dan kaum Mawali yang merasa dikelasduakan oleh pemerintahan BAni Umayyah.
Keruntuhan Dinasty Umayyah benar-benar terjadi pada tahun 748 M. Pasukan Abbas bin Abdul Muthalib yang didukung oleh pasukan Abu Muslim Al-Khurasani menang dalam pertempuran Zab Hlu melawan pasukan khalifah Marwan. Kekalahan ini menjadi akhir dari kekuasaan Dinasti Umayyah, sekaligus menjadi awal berdirinya Dinasti Abbasiyah mulai tahun 750 M hingga 1258 M.
Baca juga : Proses Berdirinya Dinasti Abbasiyah