Nació en 1937 en Wilhelmshaven, Alemania. Sus primeras lecciones las recibió de su padre, clarinete en la RIAS Orchestra, de Berlín. De 1953 a 1957 estudió en la Hochschule für Musik de Berlín, ingresando ese mismo año como clarinete solista en la Orquesta de la Opera Cómica de Berlín.
En 1959 entra en la Orquesta Filarmónica de Berlín como clarinete solista, con Herbert von Karajan. Los 30 años de trabajo conjunto con Karajan fue el periodo mas fructífero de Karl Leister, su carrera internacional como solista y músico de cámara empezó entonces, alternando con el Cuarteto Amadeus, el Cuarteto Vogler, Pierre Fournier, Guidon Kremer, o los pianistas Wilhelm Kempf, Christoph Eschenbach, James Levine, Ricardo Mutti, Bruno Canino, Paul Gulda, y tocando como solista con Herbert von Karajan, Karl Böhm, Seiji Ozawa, Eugen Jochum, Raphael Kubelik, Aarón Copland y Neville Merriner.

Karl Leister es uno de los fundadores de los conjuntos " Vientos de la Filarmónica de Berlín ", así como del Ensemble Viena - Berlín. Ganador de numerosos premios en competiciones nacionales e internacionales, ha grabado la práctica totalidad de la literatura de clarinete para los mas importantes sellos discográficos, DGG, EMI, Phillips, Teldec Warner, Orfeo, D+G, Nimbus, Sony.
Profesor de la academia Karajan desde su fundación, y entre 1993 y 2002 de la Hochschule für Musik " Hanns Eisler ", muchos de sus alumnos son miembros de las más importantes orquestas nacionales e internacionales. Simultáneamente Karl Leister es solicitado en importantes festivales internacionales y masterclasses.
En 1987 fue nombrado miembro de honor de la Royal Academy of Music, de Londres.