Smith je pohađao srednju školu "John McEachern High School". Na četvrtoj godini prebacio se u srednju školu "Oak Hill Academy". Na Oak Hillu stekao je reputaciju dobrog blokera koju je nastavio i u NBA. 2004. godine odlučio se prijaviti na NBA draft izravno iz srednje škole.
Atlanta Hawksi izabrali su ga u 1. krugu (17. ukupno) NBA drafta2004. godine. U svojoj rookie sezoni prosječno je bilježio 9.7 poena, 6.2 skokova i 1.95 blokada po utakmici. Na All-Star vikendu2005. godine u Denveru osvojio je Slam Dunk natjecanje gdje je superiorno pobijedio svoje suparnike,[1] te je izabran u All-Rookie momčad. Tijekom sezone 2005./06., Smith je imao nevjerojatan prosjek od 2.25 blokada po utakmici. Nakon All-Star stanke nastavio je poboljšavati svoje brojke. Sezonu je završio s prosjekom od 15 poena, 7.8 skokova, 4.1 asistencije, 3.1 blokade, te 1 ukradenom loptom. 3. ožujka2007., Smith je probio granicu od 500 blokada te je tako postao najmlađim igračem kojem je to uspjelo. Sezonu 2006./07. završio je s prosjekom od 16.4 poena, 8.6 skokova, 3.3 asistencije, 1.4 ukradene lopte, te 2.9 blokade drastično popravivši prosjek od prošle sezone. Nakon ozljede Joea Johnsona preuzeo je mjesto vođe momčadi i to opravdao s 32 poena i 19 skokova u idućoj utakmici. 17. studenoga2007. u utakmici s Milwaukee Bucksima postigao je učinak karijere od 38 poena. Smith je zamalo potpisao za Memphis Grizzliese jer je imao status slobodnog igrača, ali je Atlanta izjednačila ponudu Grizzliesa i on je na kraju ostao u Hawksima.[2] Tijekom doigravanja 2008./09., Hawksi su ispali u drugom krugu od Cleveland Cavaliersa.[3]