Em 2006, após sair do The Concretes, grupo no qual permaneceu por dez anos como principal vocalista, Victoria Bergsman criou o projeto solo Taken by Trees. Ainda em 2006, a artista sueca colaborou nos vocais da música "Young Folks" do álbum Writer's Block, terceiro disco dos conterrâneos Peter Bjorn and John, e foi protagonista de um videoclipe feito pelo cineasta Michael Shamberg para versão de 1987 do single "Temptation" do New Order. Esse vídeo foi intitulado "The Temptation of Victoria".

Com Taken by Trees, Victoria deixou de lado o som alegre, típico do Concretes, apegando-se ao pop mais sombrio, encontrando similaridades com El Perro del Mar. O primeiro álbum, Open Field, foi lançado em 2007 pela  Rough Trade. East of Eden, trabalho de 2009, foi gravado no Paquistão com músicos locais. A faixa "My Boys", incluída nesse álbum, trata-se de uma cover da música "My Girls" do Animal Collective, com algumas alterações na letra. Ainda em 2009, uma cover que Taken by Trees fez para o hit "Sweet Child o' Mine" (do Guns N' Roses) e disponibilizada anteriormente no site MySpace, foi utilizada em um comercial de TV.

Em 2012, Taken By Trees lançou Other Worlds, álbum gravado entre o Havaí e Los Angeles, e que saiu pelo selo Secretly Canadian. Com uma sonoridade mais pop, Yellow to Blue, quarto álbum, chegou em 2018. Em 2022, Victoria Bergsman homenageou o cantor inglês Colin Blunstone (ex-vocalista do The Zombies) com o EP de covers Another Year.