Awal mula berdirinya MI Inganatul Muslimin tidak ubahnya seperti lembaga-lembaga pendidikan pada umumnya. Meski bukan lembaga pendidikan yang dananya selalu disubsidi oleh pemerintah, lambat laun sekolah ini menjadi pilihan favorit masyarakat Desa Ngrayung dan desa sekitar di Kecamatan Gandusari Kabupaten Trenggalek.
Pada tanggal 1 Januari 1967 resmi didirikan dibawah naungan LP. Maarif NU Kabupaten Trenggalek dan pada tanggal 20 Maret 1978 Mendapat status terdaftar dari Kantor Kementerian Agama Provinsi Jawa Timur. Seiring perkembangan waktu, Kepercayaan masyarakat semakin meningkat sehingga Mayoritas warga Desa Ngrayung memasukkan anaknya yang umur 6 sampai 7 tahun. Selain dari Desa Ngrayung, banyak dari warga desa sekitar yang memasukkan anaknya ke MI Inganatul Muslimin. Pada saat ini peserta didik di MI Inganatul Muslimin berjumlah 104 Peserta didik.