John Johnson se narodil 22. července 1947 ve městě St. Louis, Missouri. Jeho basketbalová cesta začala v mládí, kde projevoval talent a vášeň pro hru. Středoškolská léta strávil na Vashon High School, kde se jeho schopnosti dále rozvíjely a upoutaly pozornost skautů z univerzitních týmů.
Po úspěšné středoškolské kariéře se Johnson rozhodl pro University of Iowa. Zde strávil čtyři roky, od 1966 do 1970, a stal se klíčovým hráčem týmu Hawkeyes. Jeho působení na univerzitě bylo poznamenáno stabilními výkony a schopností vést tým. Během svého univerzitního angažmá si vybudoval pověst všestranného hráče, který dokáže skórovat, doskakovat a asistovat.
V roce 1970 byl John Johnson draftován v druhém kole, celkově jako 25. hráč, týmem San Diego Rockets. Jeho vstup do profesionálního basketbalu byl slibný. V první sezóně 1970-71 odehrál 76 zápasů s průměrem 12,7 bodu a 6,1 doskoku na zápas. Rockets se v té době teprve budovali a Johnson se stal důležitou součástí jejich sestavy. Po jedné sezóně v San Diegu se tým přestěhoval a přejmenoval na Houston Rockets.
Nejvýznamnější kapitola Johnsonovy kariéry se začala psát v roce 1971, kdy byl vyměněn do Boston Celtics. Tento přestup se ukázal jako klíčový pro obě strany. V Bostonu se Johnson stal součástí týmu plného hvězd, včetně legendárních hráčů jako John Havlicek a Dave Cowens. Jeho přínos byl okamžitý a výrazný. V sezóně 1973-74, která vyvrcholila ziskem mistrovského titulu pro Boston Celtics, Johnson odehrál 78 zápasů s průměrem 13,7 bodu a 7,7 doskoku. Jeho defenzivní schopnosti a schopnost rozhodovat klíčové momenty zápasu byly pro úspěch týmu nepostradatelné. V play-off pak podával ještě lepší výkony, což jen podtrhlo jeho důležitost pro tým.
Po úspěšném období v Bostonu, kde strávil celkem šest sezón (1971-1977), pokračoval Johnson ve své kariéře v Seattle SuperSonics. V sezóně 1977-78 zde zaznamenal průměr 11,2 bodu a 5,1 doskoku. V roce 1978 se přesunul do Atlanta Hawks, kde odehrál další dvě sezóny. Jeho poslední sezóna v NBA byla 1979-80, kterou strávil opět v dresu Seattle SuperSonics. Během celé své kariéry v NBA, která trvala 10 sezón, odehrál Johnson celkem 794 zápasů a zaznamenal přes 8 000 bodů.
Po ukončení aktivní hráčské kariéry v roce 1980 se John Johnson věnoval jiným aktivitám. Detaily jeho života po skončení basketbalu nejsou tak široce medializovány jako jeho hráčské úspěchy, ale je známo, že zůstal spojen se sportem v různých rolích. Jeho rodinný život zahrnuje manželku a děti. Johnsonova kariéra je příkladem vytrvalosti a týmové práce, kdy se z hráče s druhou volbou draftu stal cenný člen mistrovského týmu.