蒙古人是在漠北形成的部落民族的統稱，不是單壹的民族。中國古代的先秦兩漢南北朝時期，蒙古高原主要居住著匈奴人，他們經常南下暴亂中原。為了保衛中原的正常發展，西漢武帝時期，衛青和霍去病被派往千裏漠北。
霍去病在當代蒙古許山大敗匈奴，衛青滅匈奴王庭。東漢時期，在竇固、耿丙、竇憲等人的夾擊下，北匈奴西遷，南匈奴吞並漢朝。匈奴衰落後，鮮卑人迅速進入蒙古高原。在中國古代，今天的蒙古、貝加爾湖和葉尼塞河上遊壹帶曾被劃入唐朝的版圖。
唐朝後期，蒙古先民逐漸與突厥人融合，對蒙古人的最終形成起到了決定性的作用。8-9世紀之交，原本遊牧在貝加爾湖東南部和黑龍江上遊埃爾貢河的石維部開始西遷，進入南河、切魯連河和圖拉河上遊，進而占領了東起貝加爾湖、西至額爾齊斯河、南至萬裏長城、北至西伯利亞的廣大高原地區。