Tenta reconciliar grandes nações europeias, como França, Germânia e Castela, dentro do espírito da unidade cristã. Neste sentido, envia legados a Rodolfo de Habsburgo e a Carlos de Anjou, sem sucesso.
Pontífice dotado de rara simplicidade, recebe em audiência tanto os ricos como os pobres. Dante Alighieri, poeta italiano (1265-1321), na sua famosa Divina Comédia, coloca a alma de João XXI no Paraíso, entre as almas que rodeiam a alma de São Boaventura, apelidando-o de "aquele que brilha em doze livros", menção clara a doze tratados escritos pelo erudito pontífice português. O rei Afonso X de Leão e Castela, o Sábio, avô de Dom Dinis de Portugal, elogia-o em forma de canção no "Paraíso", canto XII. Mecenas de artistas e estudantes, é tido na sua época por 'egrégio varão de letras', 'grande filósofo', 'clérigo universal' e 'completo cientista físico e naturalista'.
Mais dado ao estudo que às tarefas pontifícias, João XXI delega no Cardeal Orsini, o futuro Papa Nicolau III, os assuntos correntes da Sé Apostólica. Ao sentir-se doente, retira-se para a cidade de Viterbo, onde morre, a 20 de maio de 1277, vitimado pelo desmoronamento das paredes do seu aposento, estando o palácio apostólico em obras. É sepultado junto do altar-mor da Catedral de São Lourenço, naquela cidade. No século XVI, durante os trabalhos de reconstrução do templo, os seus restos mortais são trasladados para modesto e ignorado túmulo, mas nem aqui encontraram repouso definitivo. Através do contributo da Câmara Municipal de Lisboa, o mausoléu é colocado, a título definitivo, ao lado do Evangelho da Catedral de Viterbo, a 28 de março de 2000.
Deu nome ao Hospital Pedro Hispano e à Estação Pedro Hispano, ambos em Matosinhos, à Avenida João XXI, em Lisboa, e a um colégio particular chamado Instituto Pedro Hispano, em Granja do Ulmeiro, no concelho de Soure, distrito de Coimbra.