Começou a sua carreira musical em sua cidade natal na
Inglaterra, aos quinze anos de idade. Com o nome artístico de Vance Arnold tocou com os
The Avengers, depois
Big Blues (
1963) e então a
Grease Band (a partir de
1966). Em
1969 ele foi o astro convidado do programa
The Ed Sullivan Show.
O seu primeiro grande sucesso foi a antológica canção "
With a Little Help from My Friends", uma versão da canção dos
Beatles, gravada com o guitarrista
Jimmy Page. No mesmo ano apareceu no
Festival de Woodstock, com um show consagrador, sobre o qual falou no livro
Woodstock, do jornalista Pete Fornatale: "Tivemos uma reação emocionante quando tocamos
With a Little Help from My Friends. Foi como um sentido maravilhoso de comunicação. Era o último número do espetáculo, eu lembro-me, mas senti que finalmente tínhamos conseguido comunicar com alguém".
Coker ainda conseguiu mais alguns hits com "She Came Through the Bathroom Window" (outra versão de uma canção dos Beatles), "Cry Me a River" e "Feelin Alright". Em
1970 a sua versão ao vivo do sucesso "The Letter" dos
Box Tops, lançado na compilação
Mad Dogs & Englishmen tornou-se a sua primeira canção a entrar no
Top Ten americano.
Nos shows exibia uma intensidade física incrível enquanto cantava e a sua presença no palco era frequentemente parodiada por
John Belushi (houve até mesmo um dueto improvável quando Joe foi convidado especial do
Saturday Night Live.)
No começo dos
anos 70 ele teve problemas com
drogas e
álcool que acabaram por atrapalhar a sua carreira. Ele conseguiu, entretanto, ficar limpo e retornar nos
anos 80, conseguindo grande sucesso até aos
anos 90 com as canções "
Don't You Love Me Anymore",
"Up Where We Belong", "
You Are So Beautiful", "
When The Night Comes", "
You Can Leave Your Hat On" e "
Unchain My Heart", tema da novela brasileira
Sassaricando. É conhecido no Brasil por cantar o tema de abertura ("
With a Little Help from My Friends") da série
Anos Incríveis, exibido pela TV Cultura, TV Bandeirantes, Multishow e Rede 21, até voltar à TV Cultura. Em 2002 a sua regravação da música "
Never Tear Us Apart", da banda
australiana INXS, foi tema de sucesso da novela
Coração de Estudante.
Em 2007, fez uma participação especial em
Across the Universe,
longa-metragem musical de
Julie Taymor, interpretando a canção
Come Together, dos
Beatles.
Morreu aos 70 anos de idade, a 22 de dezembro de 2014, vítima de um
cancro do pulmão, na sua casa no
Colorado.