No início da Primeira Guerra Mundial, Canaris foi destacado para o SMS Dresden como Segundo Piloto. O navio participou, logo em Dezembro de 1914, na batalha das Ilhas Falkland e graças ao heroísmo do Almirante Graf Spee, em liderar um combate perdido contra à Royal Navy britânica, o Dresden, que estava bem atrás em relação aos demais navios da frota, consegue fugir em direção ao pacífico e refugiar-se por algum tempo nas costas chilenas. Em março de 1915 a sua tripulação foi capturada mas Canaris consegue fugir e regressar em agosto, com a ajuda do seu domínio do castelhano e de comerciantes alemães.
De volta ao serviço activo, Canaris foi destacado para Espanha, onde desempenhou funções de coordenação de espionagem e intercepção de mensagens inimigas. Mais tarde adquiriu um comando de submarino e destacou-se pela sua eficácia, sendo responsável pelo naufrágio de 18 navios britânicos. No final da guerra, Canaris encontrava-se já na lista negra do MI6.
Canaris permaneceu na Marinha depois do final da Primeira Grande Guerra, atingindo o grau de Capitão em 1931. Durante este período aprofundou o seu interesse na área da informação e contra-informação e envolveu-se na política alemã, embora nunca se tenha alistado no Partido Nazi. Em 1935, já depois da subida ao poder de Adolf Hitler, Canaris foi promovido à liderança da Abwehr e ao posto de contra-almirante. A sua primeira tarefa foi organizar uma rede de espiões em Espanha, no prelúdio da guerra civil. O seu trabalho foi bem sucedido e as informações recolhidas pelos seus homens influenciaram Hitler a aliar-se a Franco.
A sua carreira militar e política progrediu ao mesmo tempo que a situação política se deteriorava na Europa. Em 1938, Canaris começou a desiludir-se com a ideologia nazi e a agressividade latente de Hitler para com o resto do continente, assim como muitos outros oficiais da Wehrmacht que mais tarde integraram a resistência alemã. Para este núcleo, Hitler era visto como um lunático perigoso para a grandiosidade e estatuto da Alemanha e os membros do Partido Nazi eram desprezados pelas tácticas de repressão criminosa. Canaris passou logo à acção e esteve envolvidos na organização de dois planos para assassinar Hitler, em 1938 e em 1939, nunca concretizados. Um dos seus aliados nesta fase foi o futuro marechal Paul von Kleist, que visitou Londres em segredo para conversações com membros do MI6. A ideia dos dissidentes, liderados por Canaris, era que, se Hitler invadisse a Áustria, o Reino Unido iria declarar guerra à Alemanha. No entanto, concretizado o Anschluss, o primeiro-ministro britânico Neville Chamberlain decidiu-se por mais uma tentativa diplomática para apaziguar o expansionismo nazi. O resultado foi o acordo de Munique. A guerra foi adiada e Hitler ficou com uma auto-confiança renovada para prosseguir com os seus planos.
Canaris ficou extremamente desiludido com a postura passiva dos britânicos, mas, face aos sucessos políticos de Hitler, decidiu-se por uma atitude discreta. Os contactos com o MI6, no entanto, continuaram. De inimigo número um, Canaris passara a aliado da causa anti-nazi.