像谷歌和臉書這樣的大公司非常重視他們，現在幾乎有幾十萬人受雇於他們。雖然他們也為審核員提供心理健康咨詢和檢查，但他們仍然承認內容審核員是科技界最受心理創傷的工作之壹。
有沒有可能用更好的方式解決這種“可悲的職業”，甚至人類可以不再做這種工作？
不會消失的內容審核員
事實上，目前的內容審查只能由人來進行——壹場貓捉老鼠的遊戲。
但好的壹面是，仍然有AI可以幫助他們提前摧毀“壹窩蛇鼠”。
國內最早使用AI技術從事內容審核服務的圖普科技，據說對色情、恐怖、低俗、欺詐等內容的識別率達到了99%，降低了90%以上的人工審核成本。
在人機結合的審核中，首先AI會對第壹階段的海量內容進行審核，區分正常內容、某些不良內容和不清楚的內容，然後對帖子進行分類分發，再由審核人員對不清楚的內容進行人工審核。
通過這種方式，人工智能可以幫助內容審核人員減輕負擔，更有效地做出決策，並專註於數據分析。
但讓人工智能取代人力，還是天方夜譚。
雖然AI技術發展越來越快，但是由於自然語言處理(NLP)的難度，機器在理解語言方面還達不到人類思維的水平，所以在審核單詞方面都會出錯，更不用說圖片、音頻、視頻了。
深度學習的局限性在於，如果妳想創建壹個神經網絡來精確檢測成人內容，妳必須首先在數百萬條帶註釋的成人內容中訓練AI。沒有高質量的訓練數據，AI很容易出錯。