杜牧被称为“小杜”，这个称呼来源于诗圣杜甫。杜牧非常擅长写七言绝句，被认为是晚唐时期写七绝的能手之一，他在诗歌上的成就非常高，能够与杜甫等人媲美，于是人们就把杜甫称为“老杜”，杜牧称为“小杜”。
在《新唐书·杜牧传》中写道：“牧於诗，情致豪迈，人号为‘小杜’，以别杜甫云。”杜牧和李商隐都被认为是晚唐诗人的代表人物，他二人也被合称为“小李杜”，区别于李白杜甫的“李杜”之称。所以一般后人提到“小杜”，大都是指诗人杜牧。
杜牧除了有“小杜”这个称呼之外，还被叫做“杜樊川”，他的作品就叫做《樊川文集》，这是因为杜牧曾经居住在樊川这个地方，他的号也是樊川居士。此外，人们也称呼杜牧为“杜紫薇”，杜牧写过一首《紫薇花》，诗中的紫薇花桀骜不驯，而杜牧也是风骨刚正，所以有了“杜紫薇”这个称号。