SMK Negeri 3 Mataram berdiri pada tahun 1962 dengan nama Sekolah Teknologi Menengah (STM) Lembaga dibawah pimpinan Bapak Effendi Bre. STM Lembaga pertama kali membuka Jurusan Mesin Umum dan Jurusan Bangunan, dimana lokasi sekolah didirikan di Jl. Pejanggik. Pada tahun 1964 STM Lembaga berganti nama STM Takari di bawah pimpinan Ir. Masnun. Kemudian pada tahun 1969 berubah nama menjadi STM Mataram Filial Denpasar di bawah pimpinan Bapak I Made Koepi. Pada waktu tersebut, terdapat beberapa sekolah teknik di Mataram, yaitu Sekolah Teknik Negeri (STN) I, STN II, dan STM Mataram Filial Denpasar. Tempat praktik STM Filial Denpasar untuk Jurusan Mesin Umum di STN I dan STN II yang berlokasi di Jln. Pejanggik, sedangkan untuk Jurusan Bangun, tempat praktiknya di Jln. Lemuru Baru, dimana Jl. Lemuru Baru sekarang berubah menjadi Jln. Pendidikan. Melalui  Surat Keputusan Menteri Departemen Pendidikan dan Kebudayaan Nomor: 0243/1970 tanggal 28 Desember 1970 berubah menjadi STM Negeri Mataram dengan pimpinan Bapak I Made Kofie. Kegiatan pembelajaran STM Negeri Mataram dipusatkan di Jln. Pendidikan. Oleh Karena itu, tanggal 28 Desember ditetapkan sebagai hari lahir SMK Negeri 3 Mataram. Sejalan dengan perkembangannya, tahun 1997 terdapat program dari Kementrian Pendidikan dalam rangka mereposisi sekolah kejuruan (sekolah terpadu), oleh karena itu, pada tahun 1997 STM Negeri Mataram berubah menjadi SMK negeri 3 Mataram.