Berdirinya SMA Muhammadiyah 1 dilatar belakangi adanya desakan dari siswa-siswa SMP Muhammadiyah yang telah lulus ujian Negara, mereka ingin melanjutkan ke jenjang sekolah berikutnya yang berbasis Islam Muhammadiyah. Atas desakan tersebut menyebabkan guru-guru Muhammadiyah pimpinan H. AG. Dwidjosoeparto beserta Bapak R. Muhammad Mukam Hisjam, Ir. Sugiman, Moelono, Muhammad Aslam dan dibantu mahasiswa-mahasiswa UGM berdirilah SMA Muhammadiyah pada Oktober 1948 menempati Sekolah Rakyat VI Muhammadiyah Yogyakarta (sekarang SD Muhammadiyah Ngupasan) di jalan Bhayangkara 5 Yogyakarta.
SMA Muhammadiyah 1 Yogyakarta yang dikenal dengan nama SMAMUHI, usianya hampir sama dengan usia Republik Indonesia ini telah mengalami liku-liku perjalanan yang sangat panjang, kegiatan belajar di SR. VI Muhammadiyah jalan Bhayangkara hanya berjalan beberapa bulan. Pada 19 desember 1948 saat Belanda menduduki kota Yogyakarta melalui serangan agresi militer II untuk melenyapkan ibukota RI (Waktu itu Yogyakarta sebagai ibukota RI), kota Yogyakarta menjadi tidak aman karena perang maka siswa dan guru SMAMUHI ikut perang bergerilya melawan agresi Belanda.
Setelah Belanda menarik pasukan dari kota Yogyakarta untuk melaksanakan resolusi DK. PBB serta Roem-Royen Statement maka ibukota RI dikembalikan lagi ke Yogyakarta pada 29 Juni 1949 yang dikenal dengan peristiwa "Yogya Kembali". Para tentara, gerilyawan kembali masuk kota dan perang telah usai kota Yogya kembali aman, maka para pelajar kembali menginginkan untuk kembali ke bangku sekolah SMA Muhammadiyah di SR Muhammadiyah IV lagi. Tapi ternyata gedung sekolah tersebut dipakai pemerintah untuk Kantor Kementrian Keuangan RI sampai ibukota kembali ke kota Jakarta (Agustus tahun 1950). Oleh karena itu Bapak HM. Mawardi yang waktu itu sebagai pengurus Muhammadiyah bidang pengajaran bersama Bapak Dwidjosoeparto mencarikan tempat untuk kegiatan belajar mengajar, yaitu dirumah H. Muhammad Sjarbini di jalan Kauman 44 Yogyakarta.
Pada tanggal 5 September 1949 siswa SMAMUHI kembali belajar di jalan Kauman 44 Yogyakarta untuk kemudian tanggal tersebut yang dijadikan hari lahir SMA Muhammadiyah 1 Yogyakarta. Meskipun masih menempati rumah di jalan Kauman 44 sebagai tempat belajar mengajarnya SMAMUHI terus berjalan dan berkembang seiring dengan berjalannya waktu. Dalam perkembangannya kepercayaan masyarakat mulai meningkat dengan animo siswa yang terus bertambah maka tempat belajar di Kauman tidak mampu menampung lagi sehingga perlu tempat baru yang memadai. Maka Muhammadiyah menawarkan PKO (Pusat Kesehatan Oemat) di Jl. Notoprajan untuk dijadikan tempat belajar mengajar. Kemudian berturut-turut menempati gedung di jalan Gendingan sampai tahun 1963, dan selanjutnya menetap di Jl. Kapten Tendean 1B.
Sejak 1964 menempati gedung di Jalan. Kapten Piere Tendean 1 B Yogyakarta, dan animo masyarakat semakin meningkat sehingga gedung diperluas keatas sehubungan luas tanahnya terbatas dan dipinggir jalan besar yang dilalui oleh kendaraan-kendaraan besar Bis antar kota antar Propinsi. Sehingga perlu tempat baru yang lebih luas dan lebih tenang untuk kegiatan belajar mengajar, maka SMA Muhammadiyah 1 Yogyakarta berhasil membeli tanah luas di desa Petinggen, Karangwaru, Tegalrejo Yogyakarta masa kepemimpinan Bapak Soegiharso.
Pada tahun 1981, Gedung baru di Petinggen telah dibangun 1 unit yang terdiri dari 3 lantai dan telah ditempati untuk kegiatan pembelajaran Kelas III, sedangkan kelas I dan II masih di Jl. Kapten Piere Tendean 1B sampai tahun 1988. Mulai Tahun Ajaran 1988/1989 semua kegiatan pembelajaran telah berada di Petinggen, Karang Waru sebanyak 30 rombongan belajar dengan dilengkapi Masjid yang menampung 500 jamaah, Perpustakaan dengan 4.000 koleksi buku dan sumber belajar yang lain serta laboratorium IPA, Bahasa, Komputer dan IPS (waktu itu sedang dalam taraf pembangunan).
Dalam perkembangannya SMAMUHI semakin dipercaya masyarakat dan stake holder yang ada sehingga sekolah berupaya keras untuk senantiasa meningkatkan mutu agar menghasilakn output dan outcome yang berkualitas. Atas kepercayaan dari pemerintah, sejak tahun 2002 SMAMUHIdipercaya untuk membuka layanan siswa yang memiliki kecerdasan istimewa melalui program Akselerasi. Untuk menampung animo masyarakat yang tinggi maka jumlah rombongan belajar ditingkatkan dari 30 menjadi 32, hal ini disebabkan karena jumlah siswa dalam rombongan belajar harus mengikuti idealisme kurikulum sebanyak 32 - 34 siswa.
Program Kaselerasi terus berjalan dan menunjukkan tingkat kesuksesan yang dilihat dari output dan outcome nya maka pemerintah kembali member kepercayaan kepada SMAMUHI untuk membuka program kelas berbasis IT dengan nama ICT-MSN (Information Communication Technologi - Model School Network). Yaitu sekolah yang tidak sekedar berbasis IT tapi adanya kerjasama dan jaringan ke Negara-negara APEC, untuk SMAMUHI kerjasamanya dengan Negara Korea Selatan. Tiga tahun program ini masih berjalan, pada 2008 sekolah kembali dipercaya untuk menjadi RSMA-BI (Rintisan Sekolah Menengah Atas-Bertaraf Internasional).
Untuk mensikapi itu maka sekolah lebih bekerja keras untuk menjalankan RSMA-BI tersebut dengan berbagai pelatihan untuk meningkatkan Sumber Daya Manusia baik Pendidik maupun tenaga kependidikan serta peningkatan mutu sekolah melaui implementasi manajemen mutu. Dalam pelaksanaan diklat yang diselenggarakan sekolah dengan cara memberdayakan tenaga yang ada dan bekerja sama dengan lembaga pendidikan non formal dan Perguruan Tinggi. Diharapkan pendidik-pendidik yang mengampu di RSMA-BI di SMAMUHI memiliki TOEFL sebesar 450 dan menguasai IT. Sedangkan dalam implementasi manajemen mutu setelah berjuang membangun komitmen dan kultur manajemen mutu selama 14 bulan maka pada bulan Juni 2010 SMAMUHI berhasil memperoleh sertifikat ISO 9001:2008.
