Son père, compositeur et violoniste très connu à Vienne, s'opposa à ce que Johann fasse, comme lui, une carrière de musicien : il lui fit apprendre le piano, mais il voulait qu'il travaille dans une banque. À seize ans, Johann créa son orchestre au café Dommayer, contre la volonté de son père. Il devint le directeur de la Musique de Vienne, puis celui des bals de la Cour. Fêté comme le « roi de la valse », il en écrivit plus de deux cents. Ami de Brahms, il fut enterré à ses côtés, au cours de funérailles nationales.
Œuvres principales : le Beau Danube bleu, 1867 ; la Valse de l'Empereur, 1889.