La band inizialmente utilizza il nome "Lips", con il quale pubblica, nel 1981, l'album di debutto Hard 'n' Heavy, un disco di potente heavy metal caratterizzato da liriche a sfondo apertamente sessuale. L'anno dopo esce Metal on Metal seguito, nel 1983 da Forged in Fire, per l'etichetta Attic.
Nel 1987 il gruppo passa all'etichetta Metal Blade Records ma il connubio con quest'ultima si concluderà nel 1989 con il disco live Past And Present, l'ultimo lavoro con la formazione "storica".
Il 1991 è l'anno del ritorno alle scene con Worth the Weight, album potente dalle sonorità pesanti. Nel 1996 la band passa alla Hypnotic, un'altra etichetta, sfornando Plugged in Permanent. Degli ultimi anni, si sottolinea l'album Speed of Sound, di buon livello. Sempre nel 1999, esce la raccolta Anthology of the Anvil. Il loro disco This Is Thirteen si fa beffe delle superstizioni legate al numero tredici e non rinuncia, nel titolo, a un mascherato innuendo sessuale, rappresentato dall'acronimo 'tit', cioè seno. Tornano alla ribalta grazie al documentario Anvil! The Story of Anvil diretto da Sasha Gervasi (The Terminal) considerato il successore di This Is Spinal Tap (1984) di Rob Reiner.
