Herdou o talento musical de seu pai, Jan, historiador e músico. Estudou em Varsóvia com Noskowski e em Berlim com Urban. Entre 1906 e 1907 estudou regência com Nikisch.
Karłowicz morreu enquanto esquiava nos montes Tatra, durante uma avalanche em 1909, aos 32 anos de idade. Foi sepultado no Cemitério de Powązki, em Varsóvia.