SMP Negeri 2 Temanggung berdiri pada tanggal 25 Mei 1960 dengan R. Moekiman Mangkusuparto (alm) sebagai Kepala Sekolah yang pertama. Kontruksi sekolah di Jl. Jendral Sudirman no. 21 yang sedang dihasilkan dari anyaman bambu mulai direnovasi di masa kepemimpinan H. Tambas (alm) (1966 s/d 1982) sebagai Kepala Sekolah melewati kerja sama dengan POM (Persatuan Orangtua Murid) serta bantuan dari pusat.

Pembangunan gedung sekolah dilanjutkan oleh Kelapa Sekolah H. Sumardjono, BE. (1982-1996) dengan bantuan dari pusat serta kerja sama dengan BP3 (Badan Pembantu Penyelenggara Pendidikan). Pada masa ini pula SMP Negeri 2 Temanggung mulai mengukir prestasi dari tingkat Kabupaten, Provinsi, Nasional dan Internasional.

Dengan prestasi-prestasi yang telah dicapai tersebut, pada Tahun Nasihat 2004/2005 dan 2005/2006 SMP Negeri 2 Temanggung ditunjuk sebagai Sekolah Standar Nasional (SSN) dengan mendapat SK Direktur Pembinaan Sekolah Menengah Pertama Direktorat Jenderal Manajemen Pendidikan Dasar dan Menengah Departemen Pendidikan Nasional Nomor 867a/C3/Kep/2006. Puncaknya adalah pada tanggal 14 Maret 2007 diputuskan sebagai Rintisan Sekolah Bertaraf Internasional (RSBI) dengan SK Direktur Pembinaan Sekolah Menengah Pertama Direktorat Jendral Manajemen Pendidikan Dasar dan Menengah Departemen Pendidikan Nasional Nomor 543/C3/Kep/2007.

Tahun 2021 SMP Negeri 2 Temanggung dengan Kepala Sekolah Bapak Pasir, S.Pd, M.Si terpilih menjadi Sekolah Penggerak Angkatan 1 Kemendikbud-ristek. Dengan status Sekolah penggerak SMP Negeri 2 Temanggung melaksanakan kurikulum Sekolah Penggerak yang menjadi embrio pelaksanaan Kurikulum Merdeka yang diresmikan pada tahun 2022.