Rohtokataja kasvaa luontaisena Euroopan kaakkoisosassa, Alpeilla ja Karpaateilla, itä-Siperiassa sekä keski-Aasiassa 1000–3300 metrin korkeudella. Sen kasvupaikkoja ovat vuoristojen metsänrajavyöhykkeet ja vuoristometsien pensaskerrokset. Itä-Aasiassa kasvaa rohtokatajan muunnos, koreanrohtokataja (J. sabina var. davurica), jonka täysikasvuisissa yksilöissä on myös neulasmaisia lehtiä. Eurooppalaisella rohtokatajalla on vain suomumaisia neulasia.
Rohtokataja on kasvutavaltaan matala, maanpinnan myötäiseksi levittäytyvä pensas, mutta se voi myös kasvaa jopa 3–5 metrin korkuiseksi puuksi. Se sietää suurta kuivuutta ja päivänpaahdetta, ja usein kasvaakin etelään viettävillä rinteillä, missä muut puut ja pensaat eivät pysty kilpailemaan sen kanssa. Muiden katajien tavoin se on kaksikotinen. Emipensaisiin kasvavat pienet, soikeat marjakävyt ovat sinisenmustia. Nimestään huolimatta rohtokataja on erittäin myrkyllinen. Lehdet ja oksat sisältävät myrkyllistä öljyä, joka kuumalla ilmalla tuoksuu voimakkaana maastossa, ja joka pelkästä kosketuksesta ärsyttää herkimpien ihoa. Koristekasvina rohtokataja on kuitenkin suosittu, ja siitä on myynnissä useita lajikkeita.