Di Scuola di musica a Mantova si parla fin dal tardo '700 con la creazione di una Colonia Filarmonica che era una diramazione della Reale Accademia di Scienze, lettere ed Arti, l'attuale Accademia Nazionale Virgiliana. Fu infatti con un Regio Dispaccio di Maria Teresa d'Austria, inviato il 2 gennaio del 1777, che venne istituita a Mantova la prima Scuola popolare di Musica gestita da un direttorio della locale Colonia Filarmonica. La Scuola Pubblica gratuita di musica vocale e strumentale fu affidata, in data 24 maggio 1777, alla cura e direzione del maestro Mattia Milani che mantenne l'incarico sino al 1809, anno della sua morte. Conclusasi la trentennale gestione del maestro Mattia Milani, per un periodo di circa diciotto anni a Mantova agirono professori, in particolare i maestri Antonio Facci e Francesco Comencini, che impartivano lezioni private di musica.
Il 22 dicembre 1830, la Congregazione Municipale proponeva l'istituzione di una nuova scuola popolare di musica, che veniva costituita nel 1834 con tre distinte sezioni: Canto, Istrumenti ad arco ed Istrumenti a fiato. Canto con i Maestri Antonio Facci e Francesco Comencini. Strumenti ad arco con il Maestro Carlo Bignami e strumenti a fiato con il Maestro Michele Campiani, padre di Lucio. Sede era il Palazzo Accademico, fino al 2012 sede del Conservatorio. L'annuncio della costituzione della nuova Scuola fu emanato dalla Congregazione Municipale il 26 novembre 1864. Furono nominati professori, in seguito a pubblico concorso, il dottor Alessandro Antoldi ed il maestro Lucio Campiani per il canto, il maestro Giovanni Lupi per gli strumenti ad arco ed il maestro Francesco Bianchi per gli strumenti a fiato. Tre anni dopo la Scuola Comunale di musica cessò di essere dipendente dall'Accademia Virgiliana e nel 1869 il Comune si addossò ogni responsabilità per il buon funzionamento della Scuola di musica istituita nel 1864. Da questo momento la scuola, pur cambiando varie sedi, è stata sempre attiva, ebbe molti iscritti ed operò perseguendo sempre quegli obiettivi previsti nei vari regolamenti, organizzando saggi ed inserendo i migliori allievi nell'orchestra delle stagioni liriche della Città e della Provincia. Vennero introdotte nuove discipline, furono divisi i docenti degli strumenti ad arco: un insegnante per violino e viola ed uno per il violoncello ed il contrabbasso.
Nel 1908 questa divisione fu resa definitiva dal prof. Vecchiotti, direttore straordinario dell'Istituto per pochi mesi, che aggiunse anche le nuove cattedre di Solfeggio e Storia della Musica. In seguito vi fu un altro sdoppiamento con un maestro per i legni ed un maestro per gli ottoni. La scuola Comunale di musica lentamente si assestava su strutture solide che permettevano di ottenere risultati artistici positivi. Dopo la direzione di Lucio Campiani, conclusa il 1° ottobre del 1905, ci fu una breve parentesi del prof. Vecchiotti, dopo di che la Scuola Comunale fu diretta, dal 1912, da Ottorino Vertova, allievo di Lucio Campiani, un musicista attivo a livello internazionale che nella scuola profuse tutto il suo entusiasmo come convinto sostenitore delle attività d'insieme. Dal 1918 la Scuola fu diretta dal maestro Cesare Rossi (1858 - 1930).
Con delibera di Giunta del 18 agosto 1925 la Scuola Comunale di Musica veniva dedicata al maestro Lucio Campiani, suo primo direttore; dal 1927 fu definitivamente stabilita la denominazione in "Istituto Musicale". Altri direttori, fino al 1950 furono Attilio Ferrari Radaelli e Biagio Ferrero. Nel novembre 1954, vincitore del concorso nazionale indetto dal Comune di Mantova, subentrò come nuovo direttore dell'Istituto Musicale "L. Campiani" il maestro Narciso Sabbadini, violinista e compositore. Alla guida dell'Istituto Musicale "L. Campiani" per quasi un trentennio, Narciso Sabbadini portò l'antica istituzione virgiliana al prestigioso ruolo di Conservatorio di Stato, conseguito nel 1972 come sede staccata del Conservatorio di Musica "Arrigo Boito" di Parma. Dal 1980 il Conservatorio di Mantova è sede autonoma.