von 1954 bis 1965 wissenschaftlicher Assistent von Heinrich Besseler
1965 wurde seine Dissertation über die Theorie der musikalischen Permutation aufgrund seiner politischen Einstellung abgelehnt, im selben Jahr schied er aus dem Universitätsdienst aus.
Von 1978 bis 1982 war er zudem Herausgeber des Jahrbuchs der Musikbibliothek Peters. Außerdem arbeitete er programmatisch für Radio DDR II.
1985 wurde Klemm Leiter des Hanns Eisler Archivs an der Akademie der Künste in Berlin. Dort war er Mitarbeiter an der Hanns Eisler-Gesamtausgabe.
1990 wurde er zum Präsidenten der Gesellschaft für Musikwissenschaft gewählt. Ebenfalls 1990 wurde er in Leipzig mit einer Arbeit zum Thema Textkritische Arbeiten zum Selbstverständnis der zweiten Wiener Schule habilitiert.
Klemm gründete er 1990 das Forum Zeitgenössischer Musik Leipzig.