Karl Anthony Malone se narodil 24. července 1963 v Summerfieldu v Louisianě. Vyrůstal v početné rodině na farmě, kde si od útlého věku osvojil tvrdou práci a disciplínu. Jeho matka, Shirley Malone, vychovávala osm dětí. Karl se projevoval jako nadaný sportovec už na střední škole v Summerfieldu, kde dominoval v basketbalovém týmu. Po dokončení střední školy se jeho cesta nejdříve ubírala na univerzitu Arkansas State, ale po neshodách s trenérem přestoupil na Louisiana Tech University.
Na Louisiana Tech University strávil Malone tři sezóny (1982–1985). Již v prvním ročníku ukázal svůj potenciál, ale plně se rozvinul až v následujících letech. V sezóně 1983–84 vedl svůj tým k bilanci 29 výher a 3 porážek a k postupu do turnaje NCAA. Jeho nejúspěšnější univerzitní sezónou byla 1984–85, kdy dosahoval průměrů 18,7 bodu a 9,3 doskoku na zápas. Tým Louisiana Tech, přezdívaný „Runnin’ Bulldogs“, s ním v sestavě dosáhl bilance 29–4 a probojoval se do sladkých šestnácti (Sweet Sixteen) turnaje NCAA. Karl Malone si svými výkony vysloužil pozornost skautů z NBA a rozhodl se opustit univerzitu po třetím ročníku a přihlásit se do draftu.
V NBA draftu 1985 byl Karl Malone vybrán na 13. místě celkově týmem Utah Jazz. Tento výběr se ukázal jako jeden z nejlepších v historii klubu. Již ve své nováčkovské sezóně 1985–86 se Malone rychle adaptoval na profesionální basketbal, když odehrál všech 82 zápasů a zaznamenal průměrně 14,9 bodu a 8,9 doskoku na zápas. Byl zařazen do prvního týmu nováčků NBA (NBA All-Rookie First Team).
Klíčovým prvkem jeho úspěchu a identity týmu Utah Jazz bylo partnerství s rozehrávačem Johnem Stocktonem. Jejich spolupráce na hřišti, zejména v oblasti pick and roll akcí, se stala synonymem pro efektivní útočnou hru. Společně vytvořili jednu z nejdominantnějších dvojic v historii NBA. Malone se rychle etabloval jako jeden z nejlepších silových křídel ligy, známý pro svou fyzickou sílu, vytrvalost a schopnost neúnavně skórovat a doskakovat.
Během svých 18 sezón s Utah Jazz byl Malone vybrán do zápasu hvězd NBA (All-Star Game) celkem čtrnáctkrát a dvakrát získal ocenění MVP All-Star Game (v letech 1989 a 1993). Získal ocenění pro nejlepšího hráče ligy (MVP) dvakrát, v sezónách 1996–97 a 1998–99. Jedenáctkrát byl jmenován do prvního týmu All-NBA (All-NBA First Team), což je jeden z nejvyšších počtů v historii ligy, a třikrát do prvního týmu All-Defensive (All-Defensive First Team). Jeho konzistentní výkonnost a odolnost byly obdivuhodné; Malone odehrál většinu zápasů v každé sezóně a málokdy vynechal utkání kvůli zranění.
Navzdory individuálním úspěchům a dominanci v základní části se Maloneovi s Jazzem nepodařilo získat mistrovský prsten NBA. Tým se dostal do finále NBA dvakrát, v letech 1997 a 1998, vždy proti Chicago Bulls vedeným Michaelem Jordanem. V obou finálových sériích Jazz prohráli 2–4. Tyto prohry zůstaly hořkou vzpomínkou na jinak velmi úspěšnou éru. Malone v těchto finálových sériích podával silné výkony, ale tým nedokázal překonat Jordanův Bulls.
Během svého působení v Utahu se Malone stal jedním z nejlepších střelců a doskakovačů v historii NBA. Když opouštěl Jazz, držel klubové rekordy v bodech, doskocích, odehraných zápasech a minutách. S 36 374 body se v té době zařadil na druhé místo v historických tabulkách střelců NBA, hned za Kareemem Abdul-Jabbarem.
Karl Malone reprezentoval Spojené státy americké na dvou olympijských hrách a v obou případech získal zlatou medaili. Byl součástí legendárního „Dream Teamu“ na olympijských hrách v Barceloně v roce 1992, který je považován za jeden z nejlepších sportovních týmů všech dob. S týmem, kde hrál po boku Michaela Jordana, Magica Johnsona a Larryho Birda, dominovali turnaji a bez porážky získali zlato.
Podruhé se zúčastnil olympijských her v Atlantě v roce 1996, kde byl opět klíčovým hráčem „Dream Teamu III“. I zde Spojené státy ovládly turnaj a Malone si připsal druhé olympijské zlato.
V roce 2003, po 18 letech v Utahu, se Malone rozhodl opustit Jazz a podepsal smlouvu s Los Angeles Lakers. Jeho hlavním cílem bylo získat mistrovský prsten NBA, který mu v Utahu unikal. V Lakers se připojil k týmu plnému hvězd, kde už působili Shaquille O’Neal a Kobe Bryant, a spolu s ním přišel i Gary Payton. Lakers, často přezdívaní „Fab Four“, byli považováni za hlavního favorita na titul.
Během sezóny 2003–04 Malone odehrál 42 zápasů, ale potýkal se s kolenním zraněním, které ho na delší dobu vyřadilo ze hry. I přes zranění se Malone dokázal vrátit a pomohl týmu dostat se do finále NBA. Tam se však Lakers střetli s Detroit Pistons, kteří je překvapivě porazili 4–1 na zápasy. Malone tak opět nedosáhl na vysněný titul. Po této sezóně a vypršení smlouvy se Malone rozhodl ukončit aktivní kariéru. Oficiálně oznámil svůj odchod do sportovního důchodu 13. února 2005.
Po konci hráčské kariéry se Karl Malone věnoval svým podnikatelským aktivitám. Vlastnil několik autosalonů a restaurací v Louisianě. Je také známý svou vášní pro lov, rybaření a kamionovou dopravu, občas si dokonce sám sedl za volant kamionu. V roce 1990 se oženil s Kay Kinsey, bývalou Miss Idaho, a mají spolu čtyři děti. Před svatbou s Kay měl Malone další tři děti.
V roce 2010 byl Karl Malone uveden do Naismith Memorial Basketball Hall of Fame. Jeho dres s číslem 32 byl slavnostně vyřazen týmem Utah Jazz a visí pod stropem EnergySolutions Areny. Malone krátce působil jako asistent trenéra na Louisiana Tech University a později i jako instruktor silových křídel pro Utah Jazz. Jeho kariérní statistiky zahrnují 36 928 bodů (třetí nejvyšší počet v historii NBA), 14 968 doskoků (sedmé místo) a 5 238 asistencí. Jeho houževnatost, pracovní morálka a konzistentní výkony ho zařadily mezi nejlepší hráče, kteří kdy hráli basketbal.