O seu talento foi percebido desde a infância, quando Jimmy participava de feiras e mostras culturais cantando. Aos 14 anos, mudou-se para Kingston para dedicar-se à carreira, período em que adotou o nome artístico de Jimmy Cliff. Na capital, conheceu Leslie Kong, que cuidou de sua carreira até a sua própria morte em 1971, de ataque cardíaco. Nesse período, gravou dois singles que não fizeram sucesso. Seu primeiro sucesso ocorreu com o single Hurricane Hattie. Seus sucessos locais seguintes incluíram "King of Kings", "Dearest Beverley", "Miss Jamaica", e "Pride and Passion". Em 1964, Cliff foi escolhido como um dos representantes da Jamaica na Feira Mundial de Nova Iorque de 1964-65. No mesmo ano, participou de um programa intitulado "Isto é ska!" ao lado de Prince Buster, Toots & the Maytals e Byron Lee and the Dragonaires.
Em 1964, mudou-se para a Inglaterra após assinar contrato com a Island Records, que tentou vender o reggae para o público do rock, sem sucesso. O seu primeiro disco internacional, Hard Road to Travel, lançado em 1967, fez sua carreira dar um salto. A canção Waterfall se tornou hit no Brasil, onde ganhou o Festival Internacional da Canção em 1969. Nesse mesmo ano, a canção Wonderful World, Beautiful People chega ao Top 30 nos Estados Unidos, tornando-se um dos primeiros reggaes conhecidos fora da Jamaica. Em 1970, Jimmy lançou o sucesso "Vietnam", que Bob Dylan considera ser a melhor canção de protesto que ele já ouviu. Durante este período, Cliff lançou uma música cover da canção de Cat Stevens Wild World como um single, que não foi no entanto incluído no seu álbum Beautiful World, Beautiful People.
Em 1972, estrelou o filme The Harder They Come, dirigido por Perry Henzell, que conta a história de um cantor de reggae que, em busca do sucesso, se associa a produtores musicais corruptos e traficantes de drogas. A banda sonora do filme alcançou sucesso mundial, conferindo, ao reggae, uma projeção inédita. Em 1975, Cliff cantou no episódio doze da primeira temporada do programa Saturday Night Live. Depois de uma série de álbuns, Cliff tirou férias e viajou à África. Em seguida, converteu-se ao islamismo, mudando o nome para El Hadj Naïm Bachir.
Em 1980, excursionando com Gilberto Gil, lotou todos os auditórios onde pisou. Quatro anos depois, ele repetiu a façanha sozinho, em um ginásio em São Paulo, e no programa de televisão Cassino do Chacrinha. Em 1984, Cliff participou do Festival Pinkpop, em Landgraaf, nos Países Baixos. Em 1980-1981, durante a turnê do disco The River, Bruce Springsteen e a E Street Band incluíram a até então pouco conhecida canção de Cliff Trapped. Esta canção viria a ser conhecida mundialmente quando ela foi inserida no disco We Are the World, de 1985. Ainda em 1985, o álbum Cliff Hanger ganhou o Grammy Award para o melhor álbum de Reggae. Também em 1985, Cliff contribuiu para a canção Sun City, uma canção de protesto escrita e composta por Steven Van Zandt e gravada pelos Artists United Against Apartheid, um grupo de artistas que trabalharam em conjunto para transmitir suas ideias de oposição à política sul-africana de apartheid.
Em 1986, Cliff fez parte do vocal de apoio do álbum Dirty Work, dos Rolling Stones. Também atuou na comédia Club Paradise, para cuja banda sonora contribuiu com muitas músicas, como Seven Day Weekend, cantada junto com Elvis Costello. Em 1988, sua canção Shelter of Your Love fez parte do filme Cocktail.
Em 1990, Cliff participou do filme Marked for Death, tocando John Crow com a Jimmy Cliff Band. A sua gravação de You Can Get It If You Really Want foi usada como música de campanha pela Frente Sandinista de Libertação Nacional durante as eleições de 1990 na Nicarágua. No mesmo ano, participou da segunda edição do festival Rock in Rio. Ainda em 1990, Cliff participou do primeiro CD do Cidade Negra, na canção Mensagem, feita por Ras Bernardo. Em 1991, gravou, na Bahia, em Salvador, o CD Breakout, lançado em 1992. O disco contou com as participações de Olodum na canção Samba Reggae e Araketu nas canções Breakout e War a Africa.
Em 1993, a sua versão de I can see clearly now, de Johnny Nash, que fez parte da banda sonora do filme Jamaica abaixo de Zero, fez grande sucesso no mundo inteiro. Em 1995, lançou o single Hakuna Matata, uma colaboração com Lebo M que fez parte da banda sonora do filme O Rei Leão. Em 1997, ele esteve no programa acústico dos Titãs cantando The Harder They Come, recriada numa versão em português Querem Meu Sangue. Nesse ano, também participou do programa Space Ghost Coast to Coast.
Em 2001, foi um membro inaugural do comitê de jurados do Independent Music Awards. Em 2002, lançou o álbum Fantastic Plastic People na Europa depois de ter fornecido download gratuito através do software p2p. O álbum contava com colaborações de Joe Strummer, Annie Lennox e Sting, assim como com novas canções que lembravam os antigos sucessos de Cliff. Em 2004, Cliff retrabalhou as músicas, trocando o tradicional reggae pela música eletrônica, incluindo-as no álbum Black Magic. O álbum também incluiu uma gravação de Over the Border com Joe Strummer. Cliff tocou na cerimônia de encerramento dos Jogos da Commonwealth de 2002. Em 2003, sua música You can get it if you really want foi incluída na trilha sonora do filme Alguém Tem que Ceder. Em agosto de 2003, ele apareceu no Paléo Festival, em Nyon, na Suíça.
Em 20 de outubro de 2003, o governo de P. J. Patterson na Jamaica lhe concedeu a Ordem do Mérito em reconhecimento a suas contribuições à música e ao cinema da Jamaica. Cliff tocou na cerimônia de abertura da Copa do Mundo de Críquete de 2007. Em 2009, sua música You can get it if you really want foi adotada pelo Partido Conservador (Reino Unido) durante sua conferência anual. Não ficou claro se Cliff apoiava o partido. Em setembro de 2009, Cliff foi indicado para o Rock and Roll Hall of Fame. Cliff reagiu à notícia dizendo: "isso é bom para Cliff, bom para a música jamaicana e bom para meu país". Em 15 de dezembro de 2009, seu nome foi oficialmente aprovado e, em 15 de março de 2010, Cliff foi incluído no Rock and Roll Hall of Fame por Wyclef Jean.
Cliff apareceu no documentário Reggae Got Soul: The Story of Toots and the Maytals, que foi transmitido pela BBC em 2011. Nesse ano, Cliff também trabalhou com o produtor musical Tim Armstrong no EP Sacred Fire e no álbum Rebirth. Rebirth foi indicado ao Grammy Awards na categoria "melhor álbum de reggae". O álbum foi colocado na posição 12 da lista da revista Rolling Stone dos cinquenta melhores álbuns de 2012. Em 2012, Cliff foi nomeado "artista do ano" pelo jornal digital Caribbean Journal, graças a seu álbum Rebirth.
Diferente dos outros artistas de reggae jamaicanos, Jimmy não é da religião rastafári, o que lhe causou preconceito em seu país. Sua religião é a muçulmana, e a resistência em se aceitar um artista de opção religiosa diferente do cristianismo e do rastafári na Jamaica favoreceu a sua escolha em mudar-se para a Inglaterra. Após a sua conversão ao islamismo, mudou de nome para El Hadj Bachir Naim.
