李淵的祖父李虎，在西魏時官至太尉，是西魏八柱國之壹。李淵的父親李昞，北周時歷官禦史大夫、安州總管、柱國大將軍，襲封唐國公。
李淵是十六國西涼開國君主李暠後裔，祖父李虎是西魏太尉，父親李昞為北周禦史大夫，受封唐國公，母親是隋文帝皇後獨孤伽羅的姐姐孤獨氏。