Karl Dedecius urodził się 20 maja 1921 r. w Łodzi. Należał do spolonizowanej rodziny niemieckiej, pochodzącej z czeskich Sudetów i Szwabii. Podczas okupacji początkowo przebywał w obozie pracy. Następnie wcielony do Wehrmachtu. Od 1942 r. walczył na froncie wschodnim (m.in. pod Stalingradem), gdzie dostał się do niewoli sowieckiej. Zwolniony w 1950 r., wyjechał do Weimaru, a następnie do Palatynatu Reńskiego. Początkowo pracował jako korektor w redakcji „Pfälzer Tageblatt”, a przez następnych 25 w towarzystwie ubezpieczeniowym Allianz. Tłumaczenia początkowo traktował jako hobby. W 1980 r. w Darmstadt założył Deutches Polen – Institut (Niemiecki Instytut Kultury Polskiej). Pozostał jego dyrektorem do 1998 r. Do zadań Instytutu należy przede wszystkim popularyzacji polskiej twórczości literackiej w Niemczech, ale rozwijanie kontaktów kulturalnych (w tym wymiany stypendialnej) między obydwoma narodami. Z inicjatywy Karla Dedeciusa w Niemczech ukazało się kilkadziesiąt antologii literatury polskiej oraz wiele tomów indywidualnych pisarzy. Jest tłumaczem ma język niemiecki ponad 300 polskich poetów i prozaików w tym Mickiewicza, Miłosza, Szyborskiej, Różewicza, Leca i Herberta. Oprócz tego spod jego pióra wyszły eseje analizujące twórczość m.in. Nowaczyńskiego, Gałczyńskiego, Leca i Herberta,
Za jego sztandarowe dzieło uznawana jest Panorama der polnischen Literatur des 20. Jahrunderts (Panorama literatury polskiej XX wieku).
Karl Dedecius wielokrotnie gościł z wykładami o historii literatury i poetyki polskiej na najważniejszych uczelniach Niemiec m.in. na uniwersytetach w Heilderbergu i Moguncji.
Jest członkiem Bawarskiej Akademii Sztuk Pięknych, Niemieckiej Akademii Języka i Poezji, PEN – Clubu, Związku Tłumaczy Niemieckich literatury pięknej oraz laureatem licznych nagród (m.in.: Fundacji Jurzykowskiego w Nowym Jorku, Polskiej Fundacji Kultury, Nagrody Pokojowej Niemieckich Księgarzy, Nagrody im. Samuela Lindego, Nagrody Andreasa Gryphiusa). Został odznaczony Wielkim Federalnym Krzyżem Zasługi z Gwiazda, krzyżem komandorskim Orderu Zasługi Rzeczypospolitej Polskiej oraz Orderem Orła Białego. Jest doktorem honoris causa Uniwersytetu w Kolonii, KUL, Uniwersytetu Łódzkiego, Uniwersytetu Mikołaja Kopernika w Toruniu, Uniwersytetu Jagiellońskiego oraz Uniwersytetu Wrocławskiego, Honorowym Obywatelem Miasta Łodzi oraz Miasta Płocka. W listopadzie 2003 r. został  patronem Publicznego Gimnazjum nr 43 w Łodzi.

Zmarł 26 lutego 2016 r. we Frankurcie nad Menem.