Seguido da sua saída dos The Crazy World of Arthur Brown, Palmer juntou-se a Vincent Crane para formar os Atomic Rooster. Tocou somente num álbum antes de sua saída para a banda Emerson, Lake and Palmer. Palmer permaneceu na banda até ao fim em 1979. Seguiu com uma nova banda P.M. e deixou posteriormente o projeto em favor dos Asia, com antigos membros dos Yes, King Crimson e The Buggles. Palmer e Emerson reuniram-se novamente, dessa vez com o guitarrista e vocalista Robert Berry, para formar o 3, lançando um álbum, sem sucesso, em 1988.
Palmer reuniu-se para reformular o ELP em 1992 para Black Moon e In the Hot Seat em 1994. Seguido do final definitivo do ELP em 1998, e do High Voltage Festival em 2010, Palmer continua a realizar turnês com sua própria banda tocando versões de músicas do ELP.
Apesar de nenhuma das bandas de que Palmer foi integrante estar no Hall da Fama do Rock and Roll em Cleveland, a bateria de Palmer está presente, após ter sido comprada e doada por Ringo Starr.