在約瑟夫·瑪麗·雅卡爾(1804)研制的、讓·巴普蒂斯特·法爾孔(1732)發明的穿孔卡中，使用了離散位編碼的數據，這種數據後來被塞門·科薩科夫、查爾斯·巴貝奇、赫爾曼·霍爾瑞斯等人所采用。像IBM這樣的計算機制造商。這個想法的另壹個變體是穿孔紙帶。在所有這些系統中，介質(卡片或磁帶)在概念上帶有壹系列孔的位置；每個位置都可以穿也可以不穿，所以攜帶了壹點信息。按位編碼的文本也用於莫爾斯電碼(1844)和早期的數字通信機，如電傳和股票代碼機(1870)。
拉爾夫·哈特利建議在1928中使用對數測量信息。克勞德·e·香農(Claude E. Shannon)在1948年的開創性論文《傳播的數學理論》中首次使用了bit這個詞。他把自己的起源歸功於約翰·w·圖基(John W. Tukey)，他在1947年10月9日寫了壹份貝爾實驗室的備忘錄，他把“二進制信息數”簡稱為bit。有趣的是，萬尼瓦爾·布什在1936中寫了壹個“信息點”，可以存儲在當時機械計算機使用的穿孔卡上。康拉德·楚澤建造的第壹臺可編程計算機是用二進制記數法編號的。