Быстрорастущий кустарник до 4–5 м высотой, с ажурной, веерообразно раскидистой кроной, с возрастом оголяющийся снизу, с зеленовато-серой или желтовато-зелёной гладкой корой ствола и зеленоватыми, с колючками, побегами.
Сложные листья около 10 см длиной состоят из нескольких пар мелких (до 1 см) яйцевидных листочков. Иногда листья желтеют осенью, но часто остаются зелёными. Весной, после того как листья развернулись, растение покрывается жёлтыми цветками, часто расположенными в пучках по несколько штук. Они держатся на растении около 2 недель. Карагана древовидная - хороший медонос.Позже появляются плоды — бобы, сначала зелёные, потом буреющие.
Т.к. корневая система караганы проникает в глубину до 2,5 м, поэтому ее высаживают для закрепления почвы склонов и оврагов.