Uma das bandas mais importantes da história do rock underground americano dos anos 1980, ao lado de grupos como R.E.M. e Hüsker Dü, Sonic Youth foi formado em Nova York em 1981 por pelos guitarristas Thurston Moore e Lee Ranaldo e a baixista Kim Gordon, dentro do movimento que ficou conhecido como No wave. A primeira apresentação do grupo foi num festival chamado "Noise Fest" realizado em Nova York, naquele mesmo ano.

Bob Bert foi o baterista do grupo nos dois primeiros álbuns, Confusion Is Sex (1983) e Bad Moon Rising (1985). Depois ele foi substituído por Steve Shelley, o baterista permanente da banda.

Na sequência, a banda lançou os álbuns EVOL (1986), Sister (1987) e Daydream Nation. Este último foi um álbum duplo, que teve a música "Teenage Riot" como hit nas rádios universitárias americanas e levou a banda a assinar contrato com uma grande gravadora (Geffen Records) em 1990.

Goo foi o primeiro álbum do grupo pela Geffen Records. O disco trouxe músicas mais acessíveis e o Sonic Youth foi convidado por Neil Young para abrir shows da turnê de seu álbum Ragged Glory.

Em 1992, Já com bastante destaque no cenário alternativo, sendo citado como influência de diversas bandas do grunge, o grupo lançou o álbum duplo Dirty. Produzido por Butch Vig, o mesmo produtor de Nevermind do Nirvana, Dirty teve como hits as faixas "100%", "Youth Against Fascism" e "Sugar Kane".

A banda também trabalhou com Butch Vig em Experimental Jet Set, Trash and No Star (1994), álbum com uma sonoridade mais pop. Ainda nos anos 1990, Sonic Youth lançou os álbuns Washing Machine (1995) e  A Thousand Leaves (1998).

No ano 2000, saiu o álbum NYC Ghosts & Flowers, produzido por Jim O'Rourke, que passou a ser o quinto membro do grupo até 2005, quando se desligou do grupo. Antes, em 2002, foi lançado o álbum Murray Street, e em 2004 saiu Sonic Nurse. Em 2006 foi lançado o disco Rather Ripped. Em 2008 foi anunciada a saída da banda da Geffen Records. Na seqüência, Sonic Youth assinou contrato com Matador Records, pela qual lançou em 2009 o álbum The Eternal.

Em novembro de 2011, a banda fez no Brasil seu último. Em consequência do divórcio de Gordon e Moore, o quarteto se separou naquele ano.