Randolph Randy Smith se narodil 12. prosince 1948 v Brooklynu, New York. Vyrůstal v prostředí, které mu dalo do vínku houževnatost a odhodlání, jež se později projevily v jeho profesionální basketbalové kariéře. Jeho sportovní začátky byly skromné, ale již v mládežnických ligách dával najevo svůj talent a neobyčejnou fyzickou zdatnost. Brzy si získal pozornost skautů díky své rychlosti, výskoku a schopnosti prosadit se v individuálních soubojích.
Smithova univerzitní kariéra proběhla na State University of New York at Buffalo (UB). Zde strávil čtyři roky (1967-1971) a stal se klíčovým hráčem tamního týmu Buffalo Bulls. Jeho výkony na univerzitní úrovni ho katapultovaly do povědomí profesionálních týmů. V roce 1971 byl draftován do NBA týmem Buffalo Braves v třetím kole jako celkově 42. hráč. Toto umístění v draftu naznačovalo, že nebyl považován za předurčeného superstara, ale spíše za hráče s potenciálem, který bude muset tvrdě pracovat, aby se prosadil.
První sezóna v NBA, 1971-1972, byla pro Smitha aklimatizační. V dresu Buffalo Braves se postupně propracovával do základní sestavy. Jeho role se postupně zvětšovala a on se stal jedním z hlavních tahounů týmu. V sezóně 1972-1973 zaznamenal první významné statistiky, když si připsal průměr 17,8 bodu na zápas. Jeho schopnost skórovat z různých pozic a jeho fyzická odolnost byly pro tým klíčové. V následujících letech se jeho bodový průměr pohyboval stále kolem 20 bodů na zápas, což ho řadilo mezi elitní střelce ligy. V sezóně 1974-1975 dosáhl svého kariérního maxima v počtu získaných bodů za sezónu, když nastřílel 2074 bodů.
Smith byl také známý svou neuvěřitelnou pracovitostí a schopností odehrát téměř všechny zápasy. V sezóně 1975-1976 odehrál všech 82 zápasů základní části a byl jedním z mála hráčů v lize, kteří se mohli pyšnit takovou konzistencí. V tomto ročníku také zaznamenal svůj osobní rekord v počtu asistencí na zápas s průměrem 5,0. Jeho obranné schopnosti a schopnost získávat míče byly rovněž ceněné, i když se na ně méně často zaměřovala pozornost médií.
Po sedmi sezónách v Buffalo Braves došlo v roce 1978 k jeho přestupu do San Diego Clippers. Zde strávil dvě sezóny, během nichž si udržel stabilní formu a patřil mezi nejlepší hráče týmu. V sezóně 1979-1980 si připsal průměr 19,6 bodu na zápas. V roce 1980 byl vyměněn do Houston Rockets. Jeho angažmá v Houstonu bylo kratší, trvalo jen jednu sezónu, ale i zde dokázal ukázat své schopnosti.
V roce 1981 se Smith vrátil do týmu, kde začínal – do Buffalo Braves, kteří se mezitím přejmenovali na San Diego Clippers (a později se přesunuli do Los Angeles). Zde odehrál ještě jednu sezónu, než jeho kariéra v NBA skončila. V průběhu své kariéry si vybudoval pověst spolehlivého a produktivního hráče, který vždy nechal na hřišti maximum.
Po ukončení aktivní kariéry v NBA se Randy Smith věnoval různým aktivitám spojeným s basketbalem, ačkoli se nestal mediálně tolik exponovanou postavou. Jeho schopnost skórovat a jeho dlouhověkost v soutěži z něj udělaly respektovaného hráče své generace. Jeho poslední zápas v NBA odehrál 16. dubna 1983.
Randy Smith zemřel 3. srpna 2009 ve věku 60 let po boji s rakovinou. Jeho životní dráha je příkladem hráče, který si svými výkony a houževnatostí vydobyl místo v historii NBA, ačkoli nebyl vždy středem pozornosti.