Karl Ratzer wurde 1950 in prekären Verhältnissen als Kind zweier KZ-Überlebender in Wien geboren. Das Gitarrespielen erlernte er autodidaktisch. Ab seinem 13. Lebensjahr stand er auf der Bühne, u.a. mit mit legendären Bands wie The Slaves (1964–1966), The Charles Ryders Corporation (1967–1968), C-Department (1969–1971) und Gipsy Love (1971–1972). Wichtige Lehrjahre, in denen Ratzer zu einem der bekanntesten Rockgitarristen im deutschsprachigen Raum aufstieg.
Im Zeitraum 1972 bis 1980 lebte er in den USA, wo er mit etlichen bedeutenden Jazzmusikern wie Jeremy Steig, Joe Chambers, Dan Wall, Eddie Gomez oder Chet Baker zusammenarbeitete. Zurück in Wien folgten ab den frühen 1980er-Jahren etliche weitere Kollaborationen mit hochrangigen Jazzern wie Fritz Pauer, Hans Koller, Art Farmer, Lee Konitz, Clark Terry oder Chaka Khan.
Seit 2010 tritt Karl Ratzer v.a. mit den Musikern Ed Neumeister (Posaune), Johannes Enders (Tenorsaxophon), Peter Herbert (Bass) und Howard Curtis (Schlagzeug) in Quintett-, Trio- oder Duo-Formationen in Erscheinung. Die auf diesem Wege entstandenen Tonträger erhielten gute Kritiken in der Fachpresse und wurden u.a. für einen Amadeus Award nominiert. Seit dem Jahr 2016 besteht zudem das Ratzer / Herbert / eXtracello-Projekt, das insbesondere von sich reden machte, da das Ensemble ausschließlich mit Saiteninstrumenten arbeitet. Hier trifft Jazz auf Klassik, während dem Publikum eine weite Bandbreite von Eigenkompositionen, Stücken aus dem Barock, Jazzstandards und südamerikanischen Liedern dargeboten wird.