Badan Pengawasan dipimpin oleh seorang Kepala Badan, yang dalam melaksanakan fungsi dan tugasnya Kepala Badan Pengawasan dibantu oleh :
1. Sekretaris Badan Pengawasan;
2. Inspektorat Wilayah I;
3. Inspektorat Wilayah II;
4. Inspektorat Wilayah III;
5. Inspektorat Wilayah IV.
Sekretariat Badan Pengawasan terdiri dari :
a. Bagian Perencanaan dan Keuangan;
b. Bagian Kepegawaian;
c. Bagian Organisasi dan Tata Laksana;
d. Bagian Umum;
e. Kelompok Jabatan Fungsional.
Inspektorat Wilayah I :
Mempunyai tugas melaksanakan penyiapan bahan perumusan kebijakan dan pelaksanaan pengawasan serta pemeriksaan pelaksanaan teknis dan administrasi peradilan serta administrasi umum di wilayah I, meliputi : Nanggroe Aceh Darussalam, Sumatera Utara, Riau, Sumatera Barat, Jambi, Sumatera Selatan, Bengkulu, Lampung dan Bangka Belitung.
Inspektorat Wilayah II :
Mempunyai tugas melaksanakan penyiapan bahan perumusan kebijakan dan pelaksanaan pengawasan serta pemeriksaan pelaksanaan teknis dan administrasi peradilan serta administrasi umum di wilayah II, meliputi : Banten, DKI Jakarta (termasuk unit organisasi yang ada di Mahkamah Agung), Jawa Barat, Jawa Tengah, DI Yogyakarta, Jawa Timur dan Bali.
Inspektorat Wilayah III :
Mempunyai tugas melaksanakan penyiapan bahan perumusan kebijakan dan pelaksanaan pengawasan serta pemeriksaan pelaksanaan teknis dan administrasi peradilan serta administrasi umum di wilayah III, meliputi : Kalimantan Barat, Kalimantan Tengah, Kalimantan Selatan, Kalimantan Timur, Gorontalo, Sulawesi Utara, Sulawesi Tenggara, Sulawesi Tengah dan Sulawesi Selatan.
Inspektorat Wilayah IV :
Bertugas melaksanakan penyiapan bahan perumusan kebijakan dan pelaksanaan pengawasan serta pemeriksaan pelaksanaan teknis dan administrasi peradilan serta umum di wilayah IV, meliputi : Nusa Tenggara Barat, Nusa Tenggara Timur, Maluku, Maluku Utara dan Irian Jaya.
Ruang lingkup pengawasan meliputi : penyelenggaraan, pelaksanaan dan pengelolaan organisasi, administrasi, dan finansial peradilan, sedangkan sasaran pengawasan meliputi : lembaga peradilan, yang meliputi Mahkamah Agung, pengadilan tingkat Banding dan pengadilan tingkat pertama.