李渊的父亲叫李昞，是西魏、北周时期大臣。李昞出身陇西李氏，初仕西魏，封汝阳县开国伯，拜通直散骑常侍、车骑大将军。迎娶大司马独孤信之女，袭封陇西郡公，迁骠骑大将军、开府仪同三司、侍中。北周建立后，册封唐国公，授御正中大夫，出任柱国大将军、少保、都督八州诸军事、安州总管。北周建德元年，去世，葬于咸阳。
李渊家族出自陇西李氏，陇西李氏始祖是秦国的司徒李昙长子陇西郡郡守李崇，在秦代与汉代是著名的武将军人世家。这个家族涌现过西汉飞将军李广、秦国名将李信等著名将军。魏晋时期，陇西李氏在乱世中兴起，西凉王李暠是李氏第一位国君。南北朝时陇西李氏蝉联圭组，世为显著，门第高华，与赵郡李氏、清河崔氏、博陵崔氏、范阳卢氏、荥阳郑氏、太原王氏并称为中原五姓高门士族。陇西李氏李渊灭隋，建立唐朝，李氏成为皇族，唐朝时还连续出现了10位出自陇西李氏的宰相。南宋郑樵编著的《李氏源流》中说"言李者称陇西"。