Madrasah Al-Khoiriyyah yang berdomisili di kampung Ciparay Kelurahan Lebakjaya Kecamatan Karangpawitan Kabupaten Garut didirikan pada tahun 1927 dan sampai saat ini masih tetap tegar mengemban misinya yakni berperan serta mencerdaskan bangsa yang berakhlakulkarimah.
Bercerita tentang riwayat Al-khoiriyyah tidak akan terlepas dari kebesaran nama Sayyid Abdullah Shadaqoh Dahlan (keponakan dari syeikh Ahmad Zaini Dahlan), Syarif Abdurrahman Alghadry dan Al-Ustadz Syekh Sulaiman sebagai pencetus gagasan dan perintis berdirinya Al-Khoiriyyah.
Suatu hari pada tahun 1927 datang seorang tamu yang bernama Ali bin Abdillah Azzawawi yang berkunjung ke rumah sayyid Abdullah Shadaqoh Dahlan. Maksud kunjungan beliau selain untuk bersilaturahim kepada sohibul bait, juga bertujuan mencari sahabatnya yang bernama Ustadz Syekh Sulaiman yang pernah bersama beliau menuntut ilmu di Universitas Al-Azhar Kairo Mesir yang menurut beliau temannya itu sedang berada di Kabupaten Garut.
Besok harinya atas usaha Ustadz Syarif Surur Al-Ghadry (putra Sy. Maryam bin Ali Al-Ghadry dari Syarief Musa bin Ahmad Al-Ghadry) sahabat dari tamu tersebut dapat ditemui. Beliau saat itu sedang berada di rumah Sa’id Masabi yang beralamat di Cidatar Garut. Ketika ditemui oleh Ustadz Surur beliau sedang memberikan pelajaran pada putra putri Sa’id Masabi. Cara Al-Ustadz Syekh Sulaiman memberikan pelajaran imla saat itu sangat menarik perhatian Ustadz Surur dan menimbulkan rasa simpati yang besar terhadap beliau.
Pada malam harinya kedua sahabat itu dapat dipertemukan di rumah Sayyid Abdullah Dahlan dan pada malam itu pula hadir Syarief Abdurrahman Al-Ghadry dan Syarief Surur Al-Ghadry. Pada pertemuan itulah Sayyid Abdullah Dahlan mengemukakan gagasannya untuk mendirikan sebuah lembaga pendidikan berbentuk madrasah dan sekaligus meminta Ustadz Sulaiman agar sudi mengajar pada madrasah tersebut.
Gagasan dari Syekh Abdullah Dahlan tersebut mendapat sambutan positif dari yang hadir berkumpul saat itu terutama Syarif Abdurrahman, maklumlah beliau saat itu memiliki seorang putra bernama Syarif Ahmad Al-Ghadry yang sedang dalam usia sekolah (12 tahun), sedangkan lembaga pendidikan formal saat iut masih jarang sehingga beliau bersedia mengkoordinir dana untuk pendirian sebuah bangunan madrasah. Demikian pula dari Syarif Surur Al-Ghadry karena seperti yang telah disinggung di muka bahwa beliau sangat tertarik dengan cara-cara penyajian bahan pelajaran yang dilaksanakan oleh Ustadz Sulaiman.
Akhirnya melalui kesepakatan bersama dan dengan terkumpulnya dana dari Sayyid Abdullah Dahlan, Syarif Abdurrahman Al-Ghadry, Habib Alwi, Sa’id Masabi, Habib Hasan, Aceng Muhammad Abdussalam, H. Jamhari dan dari anggota masyarakat lainnya maka dimulailah usaha pendirian bangunan tersebut. Sambil menunggu bangunan yang diperlukan, maka tempat sementara bagi penyelenggaraan proses pembelajaran disewalah sebuah rumah di Kampung Pinggirjati kepunyaan Ny. Iyoh, sekaligus pula rumah itu dijadikan kediaman Ustadz Syekh Sulaiman sekeluarga. Dalam waktu 5 bulan bangunan madrasah telah berdiri dengan memiliki 2 ruang belajar dan satu ruang guru dalam keadaan semi permanen berikut sarana mebelernya. Jumlah murid ketika madrasah Al-Khoiriyyah mulai dibuka sebanyak 17 orang.
Lima puluh tujuh tahun kemudian tepatnya tahun 1984 sehubungan dengan peningkatan jumlah murid, Madrasah Al-Khoiriyyah kemudian dikembangkan menjadi 2 yaitu madrasah Al-Khoiriyyah I dan Madrasah Al-Khoiriyyah II. Dengan perkembangan madrasah yang terus meningkat pesat pada tahun 1992 dibuka kembali Madrasah Al-Khoiriyyah III dan pada tahun pelajaran 1997 Madrasah Al-Khoiriyyah talah berdiri tegak menjadi 4 madrasah dengan kehadiran madrasah Al-Khoiriyyah IV dengan jumlah murid keseluruhan hampir mencapai 900 orang.
Pada usianya menjelang 80 tahun, tepatnya di tahun 2006/2007 Al-Khoiriyyah tetap berdiri tegak pada misi semula eksis dalam bidang pendidikan formal yang berciri khas Islam, saat ini MI Al-Khoiriyyah memiliki 4 madrasah, 21 ruang belajar 4 ruang kepala dan 30 orang guru serta 2 orang karyawan murid 892 orang.
Mudah-mudahan dengan kebersamaan dan kerja keras semua komponen yang terkait dengan madrasah, Al-Khoiriyyah tetap tegak dengan visi dan misinya yang mulia.