Cara lain agar sistem pemerintahan berjalan efektif, yaitu: khalifah membentuk sistem birokrasi.
Birokrasi tersebut dilakukan pada era awal kekuasaan Abbasiyah, yaitu mengadakan jabatan baru yang disebut Wazir.
Wazir yang dikenal sebagai penasehat khalifah juga, sebagai kepala pemerintahan tampaknya jabatan yang baru ada di saat Dinasti Abbasiyah berdiri.
Pemerintahan Abbasiyah dibagi sejumlah departemen (diwan). Diwan ini membawahi beberapa kegiatan.
Kegiatan yang melibatkan mulai dari militer, adminitrasi, dokumentasi, hingga bendahara.
Jumlah diwan terus berkembang, karena kompleksnya pemerintahan, dan luasnya wilayah kekuasaan.
Qadli atau hakim memiliki peranan penting dalam pemerintahan, maka khalifah menunjuk haklm agung.
Baca Juga: Alasan Mengapa Umat Islam Mencium Hajar Aswad, Salah Satunya Sunnah
Hakim agung tersebut berasal dari kalangan ulama terkemuka. Hakim agung selanjutnya menunjuk dan mengirim hakim ke provinsi.
Para hakim provinsi mengangkat perangkat personalia peradilannya masing-masing.