All'inizio la band contava un unico elemento, cioè Barnes, che viaggiava per l'America a proporre alcuni pezzi scritti da lui e registrati alla buona con l'aiuto di qualche amico di passaggio. Dopo qualche tempo, e molte porte sbattute in faccia, Barnes torna nella sua città d'origine, ossia Athens, dove ritrova un vecchio amico di infanzia (Julian Kostner), molto informato sulla scena musicale della città e membro del collettivo Elephant 6, di cui facevano o fanno tuttora parte band come The Olivia Tremor Control, Neutral Milk Hotel e The Apples in Stereo. All'interno di questo collettivo Barnes incontra Derek Almstead (Circulatory System) e Bryan "Helium" Poole, che diventano di lì a poco rispettivamente batterista e bassista degli of Montreal.
Nel 1997 il trio pubblica l'album discografico di debutto, ossia Cherry Peel, seguito l'anno dopo da The Bird Who Continues to Eat the Rabbit's Flower. Quasi subito il bassista lascia il gruppo per dedicarsi al progetto Elf Power, evento che modifica la line-up del gruppo: Derek passa al basso, alla batteria subentra Jeremy Huggins ed inoltre si aggregano anche Dottie Alexander e Andy Gonzales (Marshmallow Coast) alle tastiere. Nel frattempo esce il terzo album del gruppo, ossia The Bedside Drama: A Petite Tragedy (1998), seguito da una serie di singoli e dalla ristampa del secondo album. Il gruppo continua la propria intensa produzione con The Gay Parade (1999), a cui partecipano diversi artisti provenienti dal collettivo Elephant 6.
Dopo la pubblicazione di The Gay Parade, il gruppo sigla un contratto con la Kindecore Records. Nel 2000 danno alle stampe l'EP Happy Happy Birthday to Me Singles Club. Nello stesso anno escono anche Horse & Elephant Eatery (No Elephants Allowed), una raccolta di singoli, bonus track (già edite in Giappone) e inediti, ed uno split realizzato con i Marshmallow Coast venduto durante i concerti. Nel 2001 il gruppo rilascia un disco di canzoni registrate da Kevin prima del suo trasferimento ad Athens. Si tratta di The Early 4-Tracks Recordings, le cui tracce contengono tutte il nome di Dustin Hoffman, ed omaggiano quindi così l'attore. Ancora una volta col collettivo registrano Coquelicot Asleep in the Poppies: A Variety of Whimsical Verse, settimo album del gruppo, pubblicato nell'aprile di quell'anno (2001).
Nel 2002 viene pubblicato Aldhil's Arboretum, che segna un lieve cambio di rotta nel sound del gruppo: le canzoni diventano più strutturate e caratterizzate da un ritmo dance più marcato. Dopo un tour che tocca anche l'Europa, la band registra If He Is Protecting Our Nation Who Will Protect Big Oil, Our Children?, pubblicato nel 2003. Nello stesso anno la line-up si modifica nuovamente: Andy lascia per dedicarsi ai Marshmallow Coast ed allo studio, Derek passa ai Circulatory System, mentre Nina, che nel frattempo era diventata moglie di Kevin, entra nella band.
A causa di screzi avuta con gli altri musicisti, Kevin registra quasi da solo l'album Satanic Panic in the Attic (2004, Polyvinyl Records), che diventa un successo probabilmente grazie all'impiego maggiore di drum machine e synth. Al tour seguente partecipano altri musicisti che poi entrano definitivamente nel gruppo: Bryan Poole (che rientra nel gruppo) e Jason Nesmith. Dato il successo dell'album del 2004, la band continua su quello stile tra elettronica e dance con The Sunlandic Twins (2005). Grazie al singolo So Begins Our Alabee ed al video di Wraith Pinned to the Mist (and Other Games), il disco conferma le attese.
Dopo una serie di singoli, nel 2007 viene pubblicato Hissing Fauna, Are You the Destroyer?, album che riflette la situazione di grave disagio personale e di depressione in cui si trovava Barnes nel periodo in cui ha scritto i testi. Dopo il tour del 2004, Nina rimane incinta e decide di trasferirsi con la famiglia in Norvegia, suo Paese natale. Kevin qui continua a stare male, sentendosi isolato e depresso, ma il successivo tour mondiale lo fa stare meglio.
Nell'ottobre 2008 viene dato alle stampe il successivo album in studio, ossia Skeletal Lamping, rilasciato in due diversi formati e con una serie di gadget (magliette, borse, attrezzi vari). Nell'agosto 2009 il gruppo contribuisce ad un progetto di moda chiamato Yellow Bird Project. Successivamente viene coinvolto anche in attività di colonne sonore per spot commerciali, programmi televisivi e film.
Per registrare l'album False Priest, Barnes collabora con il produttore Jon Brion (già con Kanye West e Fiona Apple) presso la Ocean Way Recordings. All'album collaborano Solange Knowles e Janelle Monáe. L'album, che è caratterizzato da un ritorno a strumenti come archi e piano, viene pubblicato anche in cassetta in edizione limitata dalla Joyfule Noise Recordings. Nell'ottobre 2011 viene pubblicato un boxset contenente i dieci LP del gruppo in edizione limitata (cassetta e mp3) dalla Joyful Noise. Contestualmente viene annunciato l'album Paralytic Stalks, completato nell'ottobre 2011 e anticipato dal singolo Wintered Debts (pubblicato in novembre). Dopo un altro singolo (Dour Percentage) pubblicato nel gennaio 2012, il 7 febbraio viene pubblicato l'album.
Nel novembre 2012 il gruppo crea un account sul sito di crowdfunding Kickstarterper finanziare il progetto di un documentario chiamato Song Dynasties, riguardante la carriera della band.
Nell'aprile 2013 completano l'album Lousy with Sylviabriar, che viene pubblicato nell'ottobre seguente.
Fonte: Wikipedia
