牙兵來源於“牙旗”壹詞，意為牙齒與官方溝通。古時候將軍出城，立牙旗為例，節上行走，所以他們的官署叫牙，然後作官。我們唐朝的使節是鎮上的將軍。出城時，給了他們雙旗雙節。走著走著，建起了節日，種下了六面橫幅。在古代援例中，官職叫牙，樹旗叫牙旗，所住的城叫牙市，所住的房子叫牙府，朝廷統帥叫牙參，親的叫牙將軍，侍衛叫牙隊，親的叫牙兵。
牙兵最初是由田建立的，節度使為。田在扶持了十萬士兵，並挑選了壹萬健壯有力的人作為牙兵。這就是歷史上最著名的牙軍牙兵，據說“長安，牙軍在魏家。“進入五代十國，牙兵制度被推向了頂峰。