Judeu, filho de pai nascido nos Estados Unidos e mãe nascida na Rússia, ambos imigrados para a então Palestina, Yitzhak Rabin nasceu em Jerusalém mas quando tinha um ano de idade a sua família mudou-se para Tel-Aviv, onde cresceu e frequentou a escola.
Em 1941, já formado pela Escola de Agricultura Kadoorie, ingressa na Haganá, uma organização paramilitar judaica, e dentro desta no seu corpo de elite, o Palmach, onde foi oficial de operações. Durante a Guerra de Independência (1948-1949) comandou a brigada Harel que conquistou a parte Ocidental de Jerusalém. Com o cessar fogo de 1949, foi membro da delegação israelita nas negociações de paz com o Egipto.
Em 1948 contraiu matrimónio com Lea Schlossberg, sua esposa durante os seguintes 47 anos. O casal teve dois filhos, Dalia (Pelossof-Rabin) e Yuval.
Entre 1964 e 1968 exerceu as funções de Chefe do Estado-Maior do Exército israelita, tendo sido um dos responsáveis pela vitória de Israel na guerra de 1967, que o opôs o país aos seus vizinhos árabes.
Após se aposentar das Forças de Defesa de Israel, tornou-se embaixador nos Estados Unidos entre os anos de 1968 e 1973. Nesse ano regressa a Israel, onde é eleito deputado no Knesset (Parlamento), pelo Partido Trabalhista.
Foi Ministro do Trabalho no governo de Golda Meir. Com a queda do governo de Meir, em 1974, Rabin é eleito primeiro-ministro, mas demite-se em 1977.
Entre 1985 e 1990 é membro dos governos de unidade nacional, onde desempenhou as funções de Ministro da Defesa, tendo implementado a retirada das forças israelitas do sul do Líbano. Apanhado desprevenido pela Intifada de dezembro de 1987, tenta, sem sucesso, reprimir o levantamento dos palestinianos ordenando que os soldados quebrem os ossos dos manifestantes. Na ocasião, recebeu o pejorativo apelido de "quebra-ossos".
Em 1992 foi eleito líder do Partido Trabalhista, que conduz à vitória nas eleições legislativas de Julho desse ano, tornando-se primeiro-ministro pela segunda vez. Desempenhou um importante papel nos Acordo de Paz de Oslo, que criaram uma Autoridade Nacional Palestiniana com algumas funções de controle sobre a Cisjordânia e a Faixa de Gaza. Em outubro de 1994 assinou o tratado de paz com a Jordânia.
Foi galardoado com o Nobel da Paz em 1994 pelos seus esforços a favor da paz no Oriente Médio, honra que partilhou com o seu Ministro dos Negócios Estrangeiros, Shimon Peres, e com o então líder da OLP, Yasser Arafat.
No dia 4 de novembro de 1995 foi assassinado pelo estudante judeu ortodoxo Yigal Amir, militante de extrema-direita que se opunha às negociações com os palestinianos, quando participava num comício pela paz na Praça dos Reis (hoje Praça Yitzhak Rabin) em Tel Aviv. A sua viúva faleceu em 2000 de cancro no pulmão. O túmulo do casal encontra-se no cemitério do Monte Herzl, Jerusalém em Israel.