Keltakoivun versoista ja kuoresta lähtee hieromalla voimakas, rohdosmainen tuoksu. Sen runko on kellertävän- tai hopeanharmaa eikä erityisesti helpeile. Pitkulaiset lehdet ovat huomattavasti isommat kuin kotimaisten koivujemme. Lehdet muistuttavat valkopyökin (Carpinus) lehtiä ja asettuvat oksille kerroksittain toistensa lomaan. Keltakoivu onkin näyttävä laji, erityisesti syysvärityksessään, jolloin se parhaimmillaan loistaa syysauringossa kuin jalustalle nostettu keväinen kelta-atsalearyhmä. Nimensä keltakoivu on saanut joko lehtien syysvärin tai kuoren perusteella taikka kellertävästä puuaineksestaan, joka on arvostettua puusepänteollisuuden raaka-ainetta.
Kotiseudullaan itäisen Pohjois-Amerikan lehtometsävyöhykkeen pohjoisosissa keltakoivu kasvaa 25–30-metriseksi puuksi, mutta Suomessa koristepuuksi viljeltynä se jää selvästi lyhyemmäksi. Mustilan vanhat keltakoivut ovat peräisin sotia edeltävältä ajalta ja menestyneet hyvin. Puita on jäljellä kaksi, sillä kolmas tuhoutui myrskyssä vuonna 2009. Nuorennosta on istutettu 1970-luvulla. Arboretumin siemenkeruumatkoilla 1996 ja 2002 kerättiin useita erinomaisia keltakoivualkuperiä lajin pohjoisimmilta kasvupaikoilta, ja niiltä odotetaan vielä parempaa menestymistä Suomessa. Keltakoivu on yksi niistä noin tusinasta amerikkalaisesta lehtipuusta, joita tulisi käyttää huomattavasti nykyistä runsaammin viherrakentamisessa.