近日，美國(guó)紐約肖托夸縣的治安官Joseph Gerace看到過許多自殺行為，在他成為公職人員之前，他最好朋友的父親就以自殺結(jié)束了自己的生命。去年7月一位Facebook安全團(tuán)隊(duì)的成員打電話給911中心的調(diào)度員稱，當(dāng)?shù)匾晃痪用裥枰o急救助。Gerace稱：“這能夠幫助我們提升公共安全。我們不會(huì)干預(yù)人們的私生活，但是如果出現(xiàn)危險(xiǎn)我們就會(huì)介入。”

去年8月份肖托夸縣當(dāng)?shù)孛襟w報(bào)道的第一起自殺案例就是由Facebook追蹤到的，當(dāng)時(shí)公司收到舉報(bào)稱一位女性在她的Facebook上發(fā)出了自殺的信息。多年以來(lái)，F(xiàn)acebook都允許內(nèi)部審核人員對(duì)自殺內(nèi)容進(jìn)行審查，并且決定是否需要通過自殺預(yù)防熱線為用戶提供幫助，或者在緊急情況下讓公司的法律反應(yīng)團(tuán)隊(duì)介入。
隨著技術(shù)的不斷發(fā)展，對(duì)于Facebook來(lái)說必然存在一種工程學(xué)方案來(lái)應(yīng)對(duì)自殺行為。大約1年以前，F(xiàn)acebook增加了新技術(shù)，能夠自動(dòng)標(biāo)記涉及自殺意圖的帖子供公司審查員進(jìn)行分析。去年11月份，F(xiàn)acebook已經(jīng)證實(shí)這個(gè)新系統(tǒng)已經(jīng)獲得了成效。
據(jù)Facebook稱，這個(gè)新系統(tǒng)標(biāo)記的涉及自殺想法的帖子數(shù)量已經(jīng)提升了20倍，收到Facebook自殺預(yù)防系統(tǒng)幫助的人數(shù)也增加了兩倍。公司也一直在對(duì)系統(tǒng)的語(yǔ)言和Instagram的自殺預(yù)防系統(tǒng)進(jìn)行升級(jí)，但目前仍然處于研發(fā)的早期階段。周三時(shí)Facebook也公布了關(guān)于這項(xiàng)技術(shù)更多的細(xì)節(jié)。
雖然表現(xiàn)自殺想法的帖子很少，但自殺是一種很普遍的威脅。據(jù)美國(guó)疾病控制和預(yù)防中心的數(shù)據(jù)，自殺在美國(guó)死亡原因中排名前十，在年齡15到34歲之間的死亡原因中排名第二，僅次于意外傷害。
Facebook自2013年建立一座人工智能(AI)研究實(shí)驗(yàn)室并且雇傭著名的研究人員Yann LeCun作為負(fù)責(zé)人之后，就開始打造AI人才和技術(shù)。實(shí)驗(yàn)室已經(jīng)創(chuàng)造出許多令人印象深刻的技術(shù)，比如說借助用戶照片識(shí)別物體、將文本內(nèi)容轉(zhuǎn)變成其它語(yǔ)言等等。
包括亞馬遜、蘋果、谷歌和微軟在內(nèi)的所有科技巨頭都在AI領(lǐng)域投資升級(jí)自己的服務(wù)和平臺(tái)。但是自殺預(yù)防并非AI研究人員關(guān)注的熱門話題。曾在雅虎和微軟AI部門任職的一位Facebook研究科學(xué)家Umut Ozertem稱：“我從未聽說過自殺預(yù)防系統(tǒng)，但它讓我非常感興趣。自殺行為曾讓我失去了三位好朋友。”
Facebook對(duì)于自殺預(yù)防的探索已經(jīng)超過了10年，自殺預(yù)防也是谷歌和微軟正在進(jìn)行的事情。比如說，如果有人用谷歌搜索“我想自殺”，就會(huì)出現(xiàn)國(guó)家自殺預(yù)防熱線的電話號(hào)碼。微軟則會(huì)在搜索結(jié)果中顯示救助中心的信息，并且讓用戶在Xbox線上服務(wù)上報(bào)自殘信息。