KH Ibrahim lahir di Kauman Yogyakarta pada tanggal 7 Mei 1874. Ia adalah putra KH Fadlil Rachmaningrat, seorang Penghulu Hakim Kesultanan Yogyakarta pada zaman Sultan Hamengkubuwono ke-7 dan ia merupakan adik kandung Nyai Ahmad Dahlan.
KH Ibrahim menikah dengan Siti Moechidah binti Abdulrahman alias Djojotaruno pada tahun 1904. Pernikahannya dengan Siti Moechidah ini tidak berlangsung lama, karena istrinya segera dipanggil menghadap Allah. Selang beberapa waktu kemudian KH Ibrahim menikah dengan ibu Moesinah, putri ragil dari KH Abdulrahman (adik kandung dari ibu Moechidah). Ibu Moesinah dikaruniai usia yang cukup panjang yaitu sampai 108 tahun, dan baru meninggal pada 9 September 1998.
Masa kecil KH Ibrahim dilalui dalam asuhan orang tuanya, diajar mengaji Al-Qur’an sejak usia 5 tahun. Ia juga dibimbing memperdalam ilmu agama oleh saudaranya sendiri (kakak tertua), yaitu KH M Nur. Ia menunaikan ibadah haji pada usia 17 tahun, dilanjutkan menuntut ilmu di Makkah selama kurang lebih 7-8 tahun. Pada tahun 1902 ia pulang ke tanah air karena ayahnya sudah lanjut usia.
Setibanya di tanah air, KH Ibrahim mendapat sambutan yang luar biasa dari masyarakat. Banyak orang berduyun-duyun untuk mengaji ke hadapan KH Ibrahim. Beliau termasuk seorang ulama besar yang cerdas, luas wawasannya, sangat dalam ilmunya dan disegani. Ia merupakan seorang yang hafidh Al-Qur’an dan ahli qira’ah, serta mahir berbahasa arab.
Sebagai orang Jawa, ia sangat dikagumi oleh banyak orang karena keahlian dan kefasihannya dalam menghafal Al-Qur’an dan berbahasa arab. Pernah orang begitu kagum dan takjub ketika dalam pidato pembukaan (khutbah al-arsy) Kongres Muhammadiyah ke-19 di Bukittinggi Sumatra Barat pada tahun 1939, ia menyampaikan dalam bahasa arab yang fasih.
Sebelum KH Ahmad Dahlan wafat, beliau berpesan kepada para sahabatnya agar tongkat kepemimpinan Muhammadiyah sepeninggalnya diserahkan kepada KH Ibrahim, adik ipar KH Ahmad Dahlan. Mula-mula KH. Ibrahim yang terkenal sebagai ulama besar menyatakan tidak sanggup memikul beban yang demikian berat itu. Namun atas desakan sahabat-sahabatnya agar amanat pendiri Muhammadiyah bisa dipenuhi, akhirnya dia bisa menerimanya. Kepemimpinannya dalam Muhammadiyah dikukuhkan pada bulan Maret 1923 dalam Rapat Tahunan Anggota Muhammadiyah Hindia Timur (Soedja’, 1933: 232).
Peran KH Ibrahim
Semenjak kepemimpinan KH Ibrahim, kemajuan Muhammadiyah cukup pesat. Muhammadiyah berkembang di seluruh Indonesia, dan menyebar luas di seluruh Jawa dan Madura. Kongres-kongres mulai diselenggarakan di luar kota Yogyakarta, seperti Kongres Muhammadiyah ke-15 di Surabaya, Kongres Muhammadiyah ke-16 di Pekalongan, Kongres Muhammadiyah ke-17 di Solo, Kongres Muhammadiyah ke-19 di Bukittinggi, Kongres Muhammadiyah ke-21 di Makassar, Kongres Muhammadiyah ke-22 di Semarang. Dengan berpindah-pindahnya tempat kongres tersebut, maka Muhammadiyah dapat meluas ke seluruh wilayah Indonesia.
Menurut catatan KH. AR. Fachruddin (1991), pada masa kepemimpinan KH. Ibrahim, kegiatan-kegiatan yang dapat dikatakan menonjol, penting dan patut dicatat adalah, pada tahun 1924, KH. Ibrahim mendirikan Fonds Dachlan yang bertujuan membiayai sekolah untuk anak-anak miskin. Pada tahun 1925, beliau mengadakan khitanan masal. Disamping itu, ia juga mengadakan perbaikan badan perkawinan untuk menjodohkan putra-putri keluarga Muhammadiyah. Dakwah Muhammadiyah juga secara gencar disebarluaskan ke luar Jawa.
Pada periode kepemimpinan KH. Ibrahim Muhammadiyah sejak tahun 1928 mengirim putra-putri lulusan sekolah Muhammadiyah (Mu’allimin, Mu’allimat, Tabligh School, Normaal School) ke seluruh pelosok tanah air, yang kemudian di kenal dengan anak panah Muhammadiyah (AR Fachruddin, 1991).
Pada Kongres Muhammadiyah di Solo tahun 1929, Muhammadiyah mendirikan Uitgeefster My, yaitu badan usaha penerbitan buku sekolah Muhammadiyah di bawah naungan Majelis Taman Pustaka.
KH Ibrahim selalu terpilih kembali sebagai ketua dalam sepuluh kali Kongres Muhammadiyah. Selama periode kepemimpinannya, ia lebih banyak memberikan kebebasan gerak bagi angkatan muda untuk mengekspresikan aktivitasnya dalam gerakan dakwah Muhammadiyah. Di samping itu, ia juga berhasil membimbing gerakan Aisyiyah untuk semakin maju, tertib dan kuat. Ia juga berhasil meningkatkan kualitas takmirul masjid (pengelolaan masjid), serta berhasil pula dalam mendorong berdirinya Koperasi Adz-Dzakirat.
KH Ibrahim wafat dalam usia 60 tahun, pada awal tahun 1934, setelah menderita sakit agak lama. Di bawah kepemimpinannya, Muhammadiyah mengalami perkembangan yang sangat pesat, bahkan pada Kongres Muhammadiyah ke-22 di Semarang tahun 1933 (Kongres Muhammadiyah terakhir dalam periode kepemimpinan KH. Ibrahim) cabang-cabang Muhammadiyah telah berdiri hampir di seluruh tanah air.(diko)