Madrasah Aliyah Negeri 1 Medan (MAN 1 Medan) pada awal berdirinya merupakan Sekolah Persiapan Institut Agama Islam Negeri yang disingkat SPIAIN. SPIAIN ini berdiri tanggal 1 Pebruari 1968 bertempat di gedung Sekolah Hakim Jaksa Negeri di Jalan Imam Bonjol. Selanjutnya SPIAIN ini pindah ke gedung Yayasan Pendidikan Harapan dengan peserta didik berjumlah 19 orang. Direktur SPIAIN yang pertama adalah Drs. H. Mukhtar Ghaffar yang dikukuhkan dengan Surat Keputusan Panitia Nomor : 08/SP-IAIN/1968 tertanggal 27 Maret 1968.
Terhitung tanggal 1 April 1979 pemerintah merubah seluruh SPIAIN, PHIAIN, SGHA, PPPUA dan yang lainnya menjadi Madrasah Aliyah Negeri. SPIAIN Sumatera Utara juga berubah menjadi MAN dengan gedung tetapnya ada di kompleks IAIN Sumut jalan Sutomo Ujung Medan. Pada tahun tahun 1980 dan 1981 telah di bangun gedung MAN Medan di Jalan Williem Iskandar. Selanjutnya MAN Medan pindah ke lokasi baru tersebut.
Pada tahun 1984 Bapak Drs. H. Mukhtar Ghaffar diangkat menjadi Pengawas Pendidikan Agama Kanwil Depag Provinsi Sumatera Utara. Sebagai penggantinya adalah Bapak Drs. H. Nurdin Nasution. Selanjutnya terjadi pergantian kepemimpinan di MAN Medan seperti diuraikan berikut :
Tahun 1979 s/d 1984 dipimpin oleh Bapak Drs.H.Mukhtar Ghaffar
Tahun 1984 s/d 1987 dipimpin oleh Bapak Drs.H. Nurdin Nasution
Tahun 1987 s/d 1993 dipimpin oleh Bapak Drs.H. Musa HD
Pada masa kepemimpinan bapak Drs.H.Musa HD terjadilah perubahan MAN Medan menjadi MAN 1 Medan.
Ketika terjadi perubahan tuntutan kebutuhan terhadap kualitas guru mata pelajaran Pendidikan Agama Islam dengan mensyaratkan lulusan Diploma II, maka PGAN 6 tahun dilikuidasi oleh pemerintah menjadi MAN pada tahun 1992.Maka sejak itulah MAN Medan berubah menjadi MAN-1 Medan.
Tahun 1993 s/d 1996 dipimpin oleh Bapak Drs. H. Suangkupon Siregar
Tahun 1996 s/d 2000 dipimpin oleh Bapak Drs. H.Miskun
Tahun 2000 s/d 2007 dipimpin oleh Ibu Dra. Hj. Fatimah Ibrahim
Tahun 2007 s/d 2014 dipimpin oleh Bapak Dr. H. Burhanuddin S.Ag, M.Pd
Tahun 2014 s/d 2017 dipimpin oleh Bapak H. Ali Masran Daulay, S.Pd, M.A
Tahun 2017 s/d 2021 dipimpin oleh Ibunda Maisaroh, S.Pd, M.Si
Tahun 2021 sampai dengan sekarang dipimpin oleh Bapak Reza Faisal S.Pd, M.PMat
