Josef Bach a fréquenté l'école de musique de Preßnitz de 1935 à 1936 et l'école de musique militaire de Prague de 1937 à 1938. Il a ensuite étudié au Conservatoire de Dresde. En 1941, il est enrôlé dans l'armée et, après avoir été libéré de captivité en 1947, il devient violoniste à l'Orchestre symphonique de Bayreuth. En 1957, il rejoint l'orchestre thermal et symphonique de Baden-Baden et en 1966 la Badische Staatskapelle de Karlsruhe. Il y travailla jusqu'à la fin de sa vie, dirigeant des chœurs et des orchestres à vent et composant également de la musique légère populaire pour diverses instrumentations. En 1979, Josef Bach remporte un concours de composition de marche organisé par la West German Broadcasting Corporation (WDR) avec la marche Viribus unitis (« Avec des forces unies »).
