Além da sua carreira vocal do espectáculo, McFerrin foi nomeado em 1994 como presidente criativo da Saint Paul Chamber Orchestra. Ele faz visitas regulares como regente convidado de orquestras sinfônicas nos Estados Unidos e Canadá. Nas suas aparições em concertos, ele combina a realização de peças clássicas com seu próprio e único estilo de improvisação vocal, muitas vezes com a participação do público e da orquestra. Por exemplo, os seus concertos terminam muitas vezes com McFerrin a regir a orquestra numa versão a capella de "William Tell Overture", na qual os membros da orquestra cantam as suas partes musicais no estilo vocal de McFerrin, em vez de tocar as suas partes nos seus instrumentos.
McFerrin também participa de vários programas de educação musical, e faz aparições voluntárias como professor de música convidado e palestrante em escolas públicas de todo os Estados Unidos. McFerrin tem um filho, Taylor, e pai e filho têm colaborado em diversas iniciativas musicais.
Filho de cantores de ópera, McFerrin foi treinado para ser pianista, mas em 1977 ele optou pelo canto. Ele trabalhou durante algum tempo com Jon Hendricks e realizou sua primeira gravação para o selo Elektra Musician em 1982.
No ano seguinte ele começou a realizar apresentações como solista desacompanhado e em 1984 realizou o álbum The Voice. Em 1988, McFerrin teve um grande sucesso com "Don't Worry, Be Happy" e ganhou três Grammys, "Best Male Pop Vocalist", "Best Song" e "Record of the Year".
Depois, manteve-se discreto, conduzindo orquestras clássicas, criando o conjunto "Voicestra" com outros cantores e gravando de forma irregular para os selos EMI e Blue Note.
Na metade dos anos 90 em diante, McFerrin realizou várias gravações para o selo Sony, só retornando para a Blue Note em 2002 quando lançou Beyond Words.
