Os seus pais trabalhavam em lojas do Lower East Side, enquanto Julius frequentava a Escola Seward Park. Julius acabou tornando-se o líder da Liga Jovem Comunista onde, em 1936, conheceu Ethel Greenglass, com quem se casaria três anos depois. Ele formou-se em engenharia elétrica no City College de Nova Iorque, em 1939, e, no ano seguinte, passou a trabalhar para o Exército como técnico de radar.
Ethel Greenglass nasceu em 28 de setembro de 1915 também em uma família de judeus de Nova Iorque. Ela era aspirante a atriz e cantora, mas acabou tornando-se secretária numa companhia de navegação. Ela começou a envolver-se em disputas sindicais e ligou-se à Liga Jovem Comunista, onde conheceu Julius. Os Rosenbergs tiveram dois filhos, Robert e Michael, que foram adotados pelo professor e compositor Abel Meeropol e a sua mulher Anne após a execução de seus pais.
De acordo com o ex-agente da NKVD Alexander Feklisov, Julius Rosenberg foi originalmente recrutado pelo KGB no Dia do Trabalhdor de 1942 pelo ex-espião da NKVD Semyon Semyonov. Julius foi apresentado a Semenov por Bernard Schuster, um alto oficial do Partido Comunista dos Estados Unidos da América e contacto oficial de Earl Browder, secretário-geral do partido, no NKVD. Após Semenov ser chamado de volta a Moscovo em 1944, os seus trabalhos foram continuados por seu aprendiz, Feklisov.
De acordo com Feklisov, Julius forneceu milhares de documentos confidenciais da Companhia Emerson Electric, assim como um fusível de proximidade (ou fusível VT), o mesmo utilizado para abater o avião de Francis Gary Powers em 1960. Sob a gerência de Feklisov, Julius teria recrutado indivíduos cooperantes da KGB, entre eles, Joel Barr, Alfred Sarant, William Perl e Morton Sobell.
Ainda de acordo com o relato de Feklisov, Julius era suprido por Pearl com milhares de documentos do Comité Consultivo Nacional para Aeronáutica, incluindo uma série completa dos desenhos do P-80 Shooting Star. Feklisov afirma que descobriu, através de Julius, que o irmão de Ethel, David Greenglass, estava trabalhando no ultra-secreto Projeto Manhattan no Laboratório Nacional de Los Alamos e utilizou Julius para recruta-lo.
Durante a Segunda Guerra Mundial, os governos da União Soviética e dos Estados Unidos fizeram parte das Forças Aliadas contra a Alemanha Nazi. Mesmo assim, o governo americano suspeitava das intenções de Josef Stalin e, dessa forma, os americanos não compartilharam informações estratégicas com os soviéticos, especialmente no que diz respeito ao Projeto Manhattan. Porém, os soviéticos estavam conscientes do projeto, devido à espionagem que exerciam no governo e fizeram várias tentativas de infiltração em suas operações na Universidade de Berkeley. Alguns participantes do projeto, alguns deles de alto escalão, ofereceram voluntariamente informações secretas aos agentes soviéticos, muitos porque tinham afinidades com o comunismo (ou ao papel da União Soviética na guerra) e achavam que os EUA não deveriam exercer monopólio sob as armas atómicas.
Após a guerra, o governo dos EUA continuou a proteger os seus segredos nucleares, mas a União Soviética já era capaz de produzir suas próprias armas atómicas em 1949. O Ocidente ficou chocado com a rapidez com que os soviéticos foram capazes de fazer seu primeiro teste nuclear, intitulado de "Joe 1". Em janeiro de 1950 foi descoberto que um refugiado alemão, físico teórico trabalhando para os britânicos no Projeto Manhattan, Klaus Fuchs, havia passado importantes documentos aos soviéticos durante a guerra. Através da confissão de Fuchs, agentes dos serviços secretos dos USA e da Grã-Bretanha foram capazes de desvendar que o seu informador, cujo nome de código era Raymond, era Harry Gold, que foi preso em 23 de maio de 1950. Harry Gold confessou ter obtido dados de um ex-maquinista em Los Alamos. Não sabia o nome dele, mas sua esposa se chamava Ruth. Assim os investigadores chegaram ao Sargento David Greenglass, que confessou ter passado informações secretas à União Soviética. Apesar de ter inicialmente negado qualquer envolvimento da irmã Ethel no caso, ele afirmou que o marido dela, Julius, a convenceu a recrutar o irmão durante uma visita a Gold em Albuquerque, Novo México em 1944 e que ele também havia passado informações confidenciais aos soviéticos.
O outro conspirador acusado, Morton Sobell, estava de férias na Cidade do México quando os Rosenbergs foram presos. Em seu livro On Doing Time (1974), ele narra como tentou fugir para a Europa sem um passaporte, mas foi sequestrado por membros da polícia secreta mexicana e levado até a fronteira com os EUA, onde foi preso. Oficialmente, o governo norte-americano afirmou que ele havia sido "deportado", mas em 1956 o governo mexicano afirmou que ele nunca havia sido deportado. Ele foi julgado junto com os Rosenbergs sob a acusação de conspiração para cometer espionagem.
Desde o início o julgamento atraiu grande atenção dos media , assim como o julgamento de Alger Hiss. Além da defesa dos Rosenbergs durante o julgamento, não houve nenhuma expressão pública de dúvida em relação à culpa deles nos media (incluindo media de esquerda e comunistas). A primeira ruptura com a unanimidade dos media no caso só iria ocorrer em agosto de 1951, quando foi publicada uma série de reportagens sobre o julgamento no jornal de esquerda The National Guardian. Somente após a publicação dos artigos é que um comité de defesa foi formado.
Entretanto, entre o julgamento e a execução houve uma série de protestos e acusações de anti-semitismo. Por exemplo, o vencedor do Prémio Nobel Jean-Paul Sartre chamou o caso de "um linchamento legalizado que mancha de sangue toda uma nação". Outros, incluindo não-comunistas como Albert Einstein e o químico e cientista atómico vencedor do Nobel, Harold Urey, além de artistas comunistas como Nelson Algren, Dashiell Hammett, Jean Cocteau, Diego Rivera e Frida Kahlo, protestaram contra a posição do governo dos EUA no caso, que alguns viram como a versão americana do caso Dreyfus. Em maio de 1951, Pablo Picasso escreveu para o jornal francês L'Humanité: "as horas contam, os minutos contam. Não deixem este crime contra a humanidade ocorrer". O Papa Pio XII condenou a execução. O cineasta Fritz Lang e o dramaturgo Bertolt Brecht também fizeram declarações contra a morte do casal.
Apesar das anotações alegadamente digitadas por Ethel conterem pouca informação relevante para o projeto atómico soviético, isto foi prova suficiente para o júri condenar o casal na acusação de conspiração para cometer espionagem. Foi sugerido que Ethel foi indiciada juntamente com o marido para que a promotoria pudesse usá-la para fazer pressão para que Julius revelasse os nomes de outros envolvidos no caso. Se este foi o caso, obviamente não funcionou. No banco das testemunhas, Julius utilizou o direito da Quinta Emenda da Constituição dos EUA de não incriminar a si mesmo toda vez que era indagado sobre o seu envolvimento no Partido Comunista ou sobre os seus membros. Ethel fez o mesmo. Nenhum dos dois conseguiu atrair a simpatia do júri.
Os Rosenbergs foram condenados pelo júri em 29 de março de 1951 e, em 5 de abril, sentenciados à morte pelo juiz Irving Kaufman. A condenação do casal serviu como leitmotiv para as investigações de "atividades anti-americanas" do senador Joseph McCarthy. Embora a dedicação dos dois à causa comunista estivesse bem documentada, os Rosenbergs negaram participação nas acusações de espionagem, mesmo minutos antes de serem levados à cadeira elétrica.
Os Rosenbergs foram os únicos civis americanos executados durante a Guerra Fria por espionagem. Na sua argumentação impondo a pena de morte ao casal, o juiz Kaufman responsabilizou os dois não só pela espionagem mas também pelas mortes da Guerra da Coreia.
O caso dos Rosenbergs estava no centro de uma controvérsia sobre o comunismo nos Estados Unidos. Os seus apoiantes defendiam que a condenação era um exemplo escandaloso das perseguições típicas da histeria do momento (Macartismo), ligando o caso com o das caças às bruxas na Idade Medieval e em Salém (uma comparação que serviu de inspiração para a aclamada peça As Bruxas de Salem de Arthur Miller).
Após a publicação da série de reportagens no National Guardian e a formação do Comitê Nacional pela Justiça no Caso Rosenberg, alguns americanos passaram a acreditar que ambos os Rosenbergs eram inocentes ou que receberam uma pena demasiado dura, dando início a uma campanha popular para tentar evitar a execução do casal. O Papa Pio XII apelou diretamente ao presidente Dwight D. Eisenhower para poupar a vida dos dois, mas Eisenhower recusou-se, em 11 de fevereiro de 1953 e todos os outros recursos foram negados. Em 12 de setembro de 2008, o co-réu Morton Sobell admitiu que ele e Julius eram culpados da acusação de espionagem para a União Soviética. Ele afirmou, entretanto, que apesar de saber as atividades do marido, Ethel não participou ativamente.
Em 18 de junho o Supremo reuniu-se em sessão especial para julgar o recurso de Douglas, em vez de deixar a execução paralisada por meses, até que a matéria fizesse o seu percurso normal. O Supremo não havia decidido sobre a paralisação de Douglas até o meio-dia de 19 de junho. Assim sendo, a execução foi marcada para o começo da noite do mesmo dia, após o início do Shabat. Numa jogada desesperada por garantir a vida do casal, o advogado Emanuel Hirsch Bloch, reclamou que isto era uma ofensa à tradição judaica deles, então a execução foi marcada para antes do pôr-do-sol.
Testemunhas oculares (conforme depoimentos dados ao documentário de 1982 The Atomic Cafe) descreveram as circunstâncias das mortes dos Rosenbergs; enquanto Julius morreu após a primeira série de choques elétricos, a sua esposa não. Após o curso tradicional da sessão de eletrocussão, os enfermeiros retiraram as cintas e outros equipamentos de Ethel para que os médicos determinassem se ela já havia morrido. Os médicos determinaram que ela ainda estava viva, pois o seu coração ainda batia. Então foram aplicadas três séries de eletrocussão, o que acabou por resultar numa cena terrível em que uma grande quantidade de fumo saiu da cabeça dela.