Nascido em 1964, o pai de Rourke era irlandês enquanto a sua mãe era inglesa. Ele recebeu uma viola de seus pais quando tinha sete anos de idade. Aos 11 anos ele fez amizade com um jovem John Maher (o futuro Johnny Marr) com quem compartilhava um interesse pela música. A dupla passava os intervalos para o almoço na escola improvisando e tocando nas suas guitarras. Quando Marr formou uma banda, convidou Rourke (ainda um guitarrista) para experimentar o baixo, pelo qual se apaixonou e ficou com ele desde então.
Aos 15 anos Rourke abandonou a escola. Passou por uma série de empregos domésticos e tocou guitarra e baixo em várias bandas de rock, bem como na banda funk de curta duração Freak Party, com seu amigo de escola Johnny Marr.
Marr mais tarde juntou-se a Morrissey para formar os Smiths. Rourke juntou-se à banda após o seu primeiro show e permaneceu durante a maior parte da sua existência. Rourke foi brevemente afastado da banda, supostamente recebendo a notícia num bilhete deixado sob o limpador de parabrisas do seu carro: "Andy, você deixou os Smiths. Boa sorte e adeus, Morrissey". Morrissey negou isso. Em maio de 1986, Rourke voltou para os Smiths, pouco antes de gravar The Queen Is Dead. Marr descreveu a contribuição de Rourke para esse álbum como "algo que nenhum outro baixista poderia igualar". Os Smiths lançaram Strangeways, Here We Come em 1987 para aclamação da crítica, mas dividiram-se logo em seguida.
Imediatamente após o rompimento, Rourke e o baterista dos Smiths, Mike Joyce, tocaram com Sinéad O'Connor - Rourke (mas não Joyce) aparece no álbum I Do Not Want What I Haven't Got (1990). Junto com Craig Gannon, eles forneceram a secção rítmica para dois singles do ex-vocalista dos Smiths Morrissey - "Interesting Drug" e "The Last of the Famous International Playboys" (ambos de 1989). Rourke também tocou baixo em "November Spawned a Monster" e "Piccadilly Palare" (ambos de 1990) e compôs a música para os singles de Morrissey "Yes, I Am Blind" (o lado B de "Ouija Board, Ouija Board", 1989); "Girl Least Likely To" (um lado B no single de 12 de "November Spawned a Monster"; também lançado como faixa bônus na reedição de Viva Hate em 1997); e "Get Off the Stage" (o lado B de "Picadilly Palare").
Rourke também tocou e gravou com a banda The Pretenders (aparecendo nalgumas das faixas de Last of the Independents de 1994); Killing Joke, Badly Drawn Boy (com quem Rourke fez uma turnê por dois anos), Aziz Ibrahim (ex-Stone Roses) e ex-guitarrista do Oasis Bonehead como Moondog One, que também incluía Mike Joyce e Craig Gannon. Rourke também tocou baixo para Ian Brown, tanto em turnê quanto no álbum de Brown, The World Is Yours.
Em março de 1996, Rourke e Mike Joyce iniciaram processos judiciais contra Morrissey e Marr por royalties. Enquanto Joyce continuou com a ação, Rourke resolveu fora do tribunal por £ 83 000. Tendo gasto o acordo, Rourke mais tarde foi declarado falido na sequência de uma petição da Receita Federal em 25 de janeiro de 1999.
Rourke formou o supergrupo Freebass com os baixistas Gary Mounfield (ex-Stone Roses) e Peter Hook (ex-New Order) em 2007 e permaneceu ativo no grupo até agosto de 2010. No início de 2009, ele mudou-se para a cidade de Nova York, onde teve um programa na East Village Radio e trabalhava como DJ de clube, com Olé Koretsky, sob o nome de Jetlag. Isso levou Rourke e Koretsky a formarem a banda D.A.R.K. com a vocalista Dolores O'Riordan dos The Cranberries. O trio lançou o seu primeiro álbum, Science Agrees, em 9 de setembro de 2016.
