特雷弗項目的技術總監約翰·卡勒裏(John Callery)說:“我們認為,如果我們能夠根據最初的幾條信息和最終的風險評估來訓練算法,我們將發現許多人類無法檢測到但機器可以識別的東西,這可能有助於我們了解更多。”Callery補充說,顧問將繼續做出自己的評估。
算法在識別未知模式方面有著驚人的潛力,但要做壹個優秀的“看門人”,關鍵是要在問題出現時,勇往直前,及時介入。雖然我們在某些方面已經做到了,但這是不是我們真正想融入技術的,還是個未知數。加拿大和英國的公共衛生項目挖掘社交媒體數據來預測自殺風險。在臉書上,壹旦算法檢測到視頻中的自殘或暴力行為,它會迅速標記現場視頻並將其發送給警方。
我們在谷歌上搜索了“如何解酒”,醫療建議和“失戀如何恢復”。我們用谷歌了解壹切。搜索結果可能會夾雜無關信息,甚至誤導,但搜索本身不會對此做出判斷。
德克薩斯大學奧斯丁分校人類發展和家庭科學系主任斯蒂芬·拉塞爾說:“(學生們)回家去上網。他們可以將這些信息透露給世界上的任何人。”羅素幾十年來壹直在研究性少數群體群體,他的研究是開創性的。他說,雖然有心理問題的學生真的“不應該用谷歌來解決這些問題”,但現實生活中的所有守門人真的很難對性少數群體群體變得開放和積極,因為人們幾十年來壹直對這些群體抱有汙名化和偏見。他說:“即使在今天,我還能聽到壹些經理說,‘我們這裏沒有這樣的孩子。’這壹直是現實中的兩難問題。"