Madrasah Tsawiyah Negeri (MTsN) 2 Surakarta adalah perubahan nama dari Pendidikan Guru Agama Negeri (PGAN) 6 Tahun Surakarta. Sedang PGAN 6 Tahun itu sendiri merupakan perubahan nama dari Madrasah Mamba’ul ‘Ulum Surakarta, yang berlokasi di Komplek Masjid Agung Surakarta. Berdirinya Madrasah Mamba’ul ‘Ulum dalam sejarahnya, sangat erat kaitannya dengan Politik Konfrontatif antara Pemerintah Keraton Kasunanan Surakarta dengan Politik Penjajahan Belanda.
Pada Tahun 1900 M, Pemerintah Kolonial Belanda secara diam-diam mendirikan beberapa bangunan megah dan besar di Wilayah Kekuasaan Kasunanan Surakarta, seperti : Sekolah HIS – ES Milo, Gereja, Pabrik Gula di Klaten, Rumah Sakit di Jebres dan sebagainya. Menyaksikan berdirinya beberapa bangunan tersebut, Kanjeng Sri Susuhunan Paku Buwono (PB) X tidak tinggal diam, beliau tergugah hatinya dan tertantang untuk mendirikan bangunan serupa. Akhirnya beliau mendirikan Sekolah HIS Kasatrian, Pamardi Putri, Pamardi Siwi, Rumah Sakit di Kadipolo, Pabrik Gula di Pedan Klaten dan Mojo Sragen.
Mengingat Kerajaan Kasunanan Surakarta berdasar atas Asma Dhalem Kanjeng Sinuhun Paku Buwono X Senopati Hing Ngalogo Sayyidin Panatagama Khalifatullah, maka pada Tahun 1908 M beliau mendirikan Madrasah Mamba’ul ‘Ulum di Komplek Masjid Agung Surakarta, dengan tujuan untuk membina dan memberi bekal keagamaan kepada para Abdi Dhalem, Ulama, Khatib, Imam, Penghulu, Hakim dan masyarakat pada umumnya.
Pada Tahun 1948, Madrasah Mamba’ul ‘Ulum Surakarta oleh Menteri Agama Republik Indonesia (dulu, Departemen Agama) diubah menjadi Pendidikan Guru Agama Negeri (PGAN) 6 Tahun, dengan tujuan untuk mencetak para Guru Agama Islam yang benar-benar mahir dan profesional. Dalam perkembangan berikutnya, pada Tahun 1978 Pendidikan Guru Agama Negeri (PGAN) 6 Tahun oleh Menteri Agama Republik Indonesia dengan Surat Keputusannya Nomor : D/ED/110/1978 Tanggal 8 Juni 1978, diubah lagi menjadi :