Joe Graboski, celým jménem Joseph Edward Graboski, se narodil 10. ledna 1930 v Chicagu ve státě Illinois. Od útlého věku projevoval výrazný sportovní talent, zejména v basketbalu a baseballu. Jeho dětství a dospívání probíhalo v dělnickém prostředí Chicaga, což formovalo jeho houževnatost a pracovitost, které ho provázely po celou kariéru. Navštěvoval Tilden Technical High School, kde se stal hvězdou místního basketbalového týmu. Během studia na střední škole vedl Tilden k několika úspěchům, včetně postupu do městského finále. Jeho výkony na palubovce byly natolik přesvědčivé, že si ho všimli skauti profesionálních týmů, což bylo v té době pro hráče přímo ze střední školy poměrně neobvyklé.
Jeho profesionální kariéra začala velmi brzy, a to v roce 1949, kdy podepsal smlouvu s týmem Chicago Stags, hrajícím v NBA. Bylo mu pouhých 19 let a stal se jedním z mála hráčů v historii ligy, kteří vstoupili do profesionálního basketbalu přímo ze střední školy, bez zastávky na univerzitě. V dresu Stags však odehrál pouze osm zápasů, než se tým v roce 1950 rozpadl. Tento krátký úvod do NBA ho však neodradil. Brzy si našel nové angažmá a připojil se k týmu Indianapolis Olympians, kde strávil další tři sezóny, od roku 1950 do roku 1953. Zde se začal prosazovat jako spolehlivý hráč pod košem, známý pro svou fyzickou hru, bojovnost a schopnost sbírat doskoky. V sezóně 1951-52 dosáhl průměru 9,7 bodu a 8,3 doskoku na zápas, což byly na tehdejší poměry solidní statistiky.
Nejvýznamnější a nejúspěšnější část jeho kariéry se odehrála v dresu Philadelphia Warriors. Do Philadelphie byl vyměněn v roce 1953 a strávil zde čtyři sezóny, až do roku 1957. Právě zde se stal klíčovým článkem týmu, který v padesátých letech patřil mezi nejlepší v lize. Graboski se v týmu Warriors stal oporou v defenzivě a na doskoku, doplňoval střelecké hvězdy jako Paul Arizin a pivotmana Neila Johnstona. Jeho nejlepší sezóna přišla v ročníku 1955-56, kdy Warriors dosáhli na vrchol. V základní části sezóny Graboski zaznamenal průměrně 10,7 bodu a 8,8 doskoku na zápas.
Vrcholem jeho působení ve Philadelphii byl zisk mistrovského titulu NBA v roce 1956. Warriors ve finále play-off porazili tým Fort Wayne Pistons v poměru 4:1 na zápasy. Graboski hrál v této sérii důležitou roli, přispíval svými doskoky, tvrdou obranou a občasnými body z blízkosti koše. Jeho schopnost bránit silné pivoty soupeře a zajišťovat doskoky byla pro tým neocenitelná. Tento titul představoval největší úspěch v jeho kariéře a potvrdil jeho pozici jednoho z nejlepších podkošových hráčů své doby.
Po úspěšných letech ve Philadelphii byl Joe Graboski v roce 1957 vyměněn do týmu St. Louis Hawks. Zde však strávil pouze část sezóny 1957-58, konkrétně 20 zápasů, než byl znovu vyměněn. Jeho další zastávkou se stal tým Syracuse Nationals, kde se znovu setkal s některými bývalými spoluhráči a strávil zde poslední čtyři roky své profesionální kariéry, od roku 1958 do roku 1962. V Syracuse, po boku hvězdy jako Dolph Schayes, pokračoval v roli spolehlivého veterána, který přinášel zkušenosti, doskoky a bojovnost z lavičky. V sezóně 1958-59, ve svých 29 letech, odehrál 70 zápasů a dosáhl průměru 8,9 bodu a 6,9 doskoku.
Svoji aktivní hráčskou kariéru ukončil v roce 1962 po třinácti sezónách v NBA. Během své kariéry odehrál celkem 851 zápasů, zaznamenal 8688 bodů (průměr 10,2 na zápas) a 5630 doskoků (průměr 6,6 na zápas, přičemž doskoky se začaly oficiálně sledovat až od sezóny 1950-51). Graboski byl známý pro svou houževnatost, fyzickou hru a schopnost hrát tvrdě pod košem. Nebyl primárním střelcem, ale jeho přínos v defenzivě a na doskoku byl pro každý tým, ve kterém hrál, velmi cenný. Jeho styl hry byl typický pro éru padesátých let – důraz na obranu, doskok a práci vymezeném území.
Po ukončení basketbalové kariéry se Joe Graboski vrátil do svého rodného Chicaga. Zde se věnoval jiným profesním drahám. Nejprve pracoval pro odborovou organizaci Teamsters Union, kde uplatnil své organizační schopnosti a smysl pro spravedlnost. Později působil u Chicago Park District, kde se podílel na správě a rozvoji městských parků a rekreačních zařízení. I v civilním životě si udržoval pověst pracovitého a spolehlivého člověka. Joe Graboski zemřel 2. července 1998 v Chicagu ve věku 68 let. Zanechal po sobě manželku a děti.