Mantapnya pe1aksanaan dan pengamalan suatu agama tentunya harus dibarengi dengan upaya pengembangan pendidikan agama bagi masyarakat penganut agama tersebut. Upaya pe1aksanaan pendidikan itu dapat di1akukan melalui berbagai upaya, salah satu di antaranya adalah melalui lembaga-lembaga pendidikan. Oleh karena itu, sejak kedatangan ls1am di daerah ini pada akhir abad ke-16 atau awal abad k:e-17, para muballig Is1am berupaya menumbuhkembangkan Is1am me1alui lembaga pendidikan Is1am Dikenallah lembaga-lembaga pendidikan ls1am tradisonal bagi masyarakat Su1awesi Se1atan semisal "tarekat" atau pangaji tudang, atau yang semacamnya. Sistem-sistem tersebut menyerupai sistem pendidikan pesantren bagi masyarakat Jawa. Sistem pendidikan gaya "sekolahan" atau madrasah, baru dikenal di dareah ini pada pertengahan paroh pertama abad ke-20.

Pada masa kemerdekaan, pendidikan madrasah atau sekolahan atau sistem pesantren yang di1aksanakan oleh badan-badan resmi pemerintahan atau organisasi sosial keagamaan, semisal Muhammadiyah dan N ahdlatul mama mu1ai menga1ami perkembangan. Pada tahun 50-an alumni-alumni tingkat pendidikan menengah dari lembaga-lembaga pendidikan tersebut yang ingin me1anjutkan pendidikan pada jenjang pendidikan tinggi, terpaksa harus merantau ke luar negeri (Timur Tengah), atau ke Pulau Jawa atau ke Padang Sumatera Barat. Mengantisipasi kondisi yang dia1ami masyarakat Muslim di Su1awesi Se1atan seperti itu, maka muncullah gagasan untuk mendirikan lembaga perguruan tinggi Islam di daerah ini. Beberapa tokoh masyarakat bersama a)im-ulama, antara lain K H. Muhammad Ramli, H. Abd. Rahman Syihab, H. Sewang Dg. Muntu, Laode Manarfa, Naziruddin Rahmat, Sutan Muhammad Yusuf Samah, H. Darwis Zakaria, dan A. Waris, bersama-sama merintis berdirinya perguruan tinggi Islam di Makassar. Pada tanggal 22 Syawal 1373 H. bertepatan dengan tanggal 23 Juni 1954, atas prakarsa para tokoh masyarakat dan ulama tersebut di atas yang mendapat dukungan dari pihak pemerintah. cita-cita mendirikan lembaga perguruan tinggi di daerah ini terwujud dengan diresmikannya pendirian Universitas Muslim Indonesia (UMI), sebagai perguruan tinggi pertama dalam bidang pendidikan agama Islam UMI bukan saja perguruan tinggi pertama di Sulawesi Selatan, akan tetapi juga yang pertama di Indonesia Bagian Timur .Sementara itu, di Jawa dan Sumatra pada saat itu, telah ada perguruan tinggi sejenis yang berdiri sejak tahun 1940-an.

Di Padang, Sumatra Barat, telah didirikan Sekolah Tinggi Islam (STI) sejak tahun 1940 oleh Persatuan Guru Agama Islam (PGAI). Sebulan sebelum proklamasi kemerdekaan RI, tepatnya tanggal 8 Ju1i 1945, di Jakarta didirikan juga Sekolah Tinggi Islam (STI) dipimpin oleh Prot: Kahar Muzakkir. Sekolah Tinggi ini berdiri atas usaha tokoh-tokoh Islam yang tergabung dalam sebuah yayasan yang diketuai oleh Drs. Muhammad Haua, dan Muhammad Natsir sebagai sekretarisnya, dengan anggota-anggotanya terdiri dari K H .A. Wahid Hasyim, K. H. Mas Mansur, K H. Fathurrahman Kafrawi, K H. Farid Ma'ruf, A. Kahar Muzakkir, dr. Ahmad Rama1i, dan lain-lain. Karena kondisi waktu itu, yaitu suasana revolusi dalam rangka mempenahankan kemerdekaan, STI terpaksa pindah ke Yogyakarta bersamaan dengan pindahnya ibu kota negara RI dari Jakarta ke Yogyakana. Setelah berada di Yogyakarta, STI berubah menjadi Universiteit Islam Indonesia (Ull) dengan 4 fakultas, yaitu Fakultas Agama, Fakultas Hukum, Fakultas Ekonomi, dan Fakultas Pendidikan.

Suatu babakan baru dalam sejarah perguruan tinggi di Indonesia tercatat pada tahun 1950. Pada saat itu, ketika Pemerintah Republik Indonesia berpusat di Yogyakarta, sebagai penghargaan dari pemerintah, kota ini dijadikan "kota W1iversitas. " Untuk golongan nasionalis diberikan Universitas Gajah Mada yang pada waktu itu adalah usaha swasta, kemudian dijadikan universitas negeri berdasarkan Peraturan Pemerintah No.37 tahun 1950. Untuk golongan Islam diberikan Perguruan Tinggi Agama Islam Negeri (PT AIN) berdasarkan peraturan Pemerintah No.34 tahW1 1950. PT AIN diambil dari Fakultas Agama Universitas Islam h1donesia (UII). Sehubuhngan dengan bunyi konsideran Peraturan Pemerintah No.34 tahW1 1950 itu, PT AIN tersebut dimaksudkan agar dapat mendidik tenaga ahli dalam ilmu agama Islam W1tuk mencukupi kebutuhan masyarakat dan negara. PT AIN juga memiliki tujuan untuk memberikan pengajaran tinggi dan menjadi pusat dari kegiatan untuk mengembangkan dan memperdalam ilmu pengetahuan agama Islam Dalam proses pengajarannya telah diletakkan asas untuk membentuk manusia yang taqwa, susila dan cakap serta mempunyai kesadaran bertanggung jawab atas kesejahteraan masyarakat Indonesia khususnya dan dunia pada umumnya atas dasar Pancasila, kebudayaan h1donesia, di samping juga ditumbuhkan keinsyafan untuk memiliki pendirian hidup yang luas dan kuat. Sementara itu untuk memenuhi kebutuhan negara akan ah1i pendidikan agama yang berpendidikan akademis bagi sekolah-sekolah lanjutan umum dan kedinasan, maka pemerintah (cq. Departemen Agama) mendirikan Akademi Dinas nmu Agama (ADIA) di Jakarta berdasarkan.Penetapan Menteri Agama No.1 tahun 1957.

Karena luasnya cakupan ilmu agama Islam yang me1iputi berbagai aspek hidup dan kehidupan, maka pengembangan ilmu agama Islam tidak lagi dapat ditampung dalam satu fakultas.

Diterbitkanlah Peraturan Presiden No.11 tahun 1960 yang menggabungkan PT AIN di Yogyakarta dan ADIA di Jakarta pada tanggal 9 Mei 1960 menjadi Institut Agama Islam Negeri (lAIN) dengan nama Al-Jamiah Al-Islamiyah Al-Hukumiyah yang berkedudukan di Yogyakarta dan Jakarta. lAIN sebagai suatu lembaga pendidikan tinggi memberikan pendidikan dan pengajaran agama Islam setingkat universitas serta menjadi pusat untuk mengembangkan dan memperdalam agama Islam.

Maksud dan tujuan pendidikan lAIN ialah membentuk sarjana muslim yang mempunyai keahlian dalam ilmu agama Islam, berakhlak mulia, cakap, serta mempunyai kesadaran bertanggung jawab atas kesejahteraan umat, masa depan bangsa dan negara Republik Indonesia yang berdasarkan Pancasila dan UUD 1945. Di samping itu IAIN juga bertujuan untuk menyiapkan tenaga ahli agama yang terampil bagi keperluan pemerintah dan masyarakat. Dalam situasi dan kondisi pendidikan tingkat perguruan tinggi inilah-baik nasional maupun regional-di Sulawesi Selatan lahir pula ide dan gagasan untuk mengadakan lembaga pendidikan Islam yang berstatus negeri dalam jenjang perguruan tinggi, di samping perguruan tinggi swasta yang sudah ada. Dari ide dan gagasan itulah lahimya IAIN, yang di kemudian hari menjadi IAIN Alauddin.