科客點(diǎn)評(píng)：關(guān)鍵是真的能捕捉到暴力言論嗎？畢竟有些污言穢語(yǔ)懂得如何規(guī)避搜索的關(guān)鍵詞。

　　電影《搜索》描述了這樣一個(gè)畫(huà)面：高圓圓飾演的女主因?yàn)樵诠卉嚿蠜](méi)有給老人讓座，有人將這 段視頻傳到網(wǎng)絡(luò)，引發(fā)了廣大網(wǎng)友對(duì)她進(jìn)行人肉搜索。一時(shí)間，鋪天蓋地的辱罵、嘲諷、詛咒充斥著她的生活，最后女主選擇用跳樓來(lái)結(jié)束自己的生命。如今，這已經(jīng)不再只是電影中才出現(xiàn)的畫(huà)面。隨著互聯(lián)網(wǎng)滲入我們生活的方方面面，網(wǎng)絡(luò)暴力、道德綁架，越來(lái)越多的鍵盤俠們用不負(fù)責(zé)任的言語(yǔ)在網(wǎng)上肆意攻擊他人。

　　據(jù)國(guó)外媒體報(bào)道，美國(guó)網(wǎng)民在最早接觸網(wǎng)絡(luò)的同時(shí)，也最先受到網(wǎng)絡(luò)造謠誹謗之害。根據(jù)美國(guó)獨(dú)立民調(diào)機(jī)構(gòu)皮尤研究中心 2014 年的一份調(diào)查，每 10 個(gè)網(wǎng)民中就有4人遭遇過(guò)某種形式的網(wǎng)絡(luò)騷擾，近五分之一互聯(lián)網(wǎng)用戶遭遇過(guò)嚴(yán)重的網(wǎng)絡(luò)暴力，包括人身威脅、持續(xù)性的跟蹤騷擾。

　　網(wǎng)絡(luò)安全已經(jīng)成為我們不得不重視的一個(gè)問(wèn)題。面對(duì)互聯(lián)網(wǎng)海量的言論和信息，人工檢測(cè)網(wǎng)絡(luò)暴力信息的確費(fèi)時(shí)費(fèi)力，這時(shí)候，人工智能就派上用場(chǎng)了。

　　Facebook和Google等公司都開(kāi)始嘗試結(jié)合人工智能等技術(shù)來(lái)過(guò)濾網(wǎng)絡(luò)不良言論。就連一向以言論自由著稱的Twitter也開(kāi)始允許用戶設(shè)置一些關(guān)鍵詞來(lái)屏蔽騷擾信息：

　　Facebook機(jī)器學(xué)習(xí)小組使用機(jī)器學(xué)習(xí)技術(shù)監(jiān)測(cè)所有上載到 Facebook 的圖片的內(nèi)容，包括廣告的內(nèi)容，用來(lái)過(guò)濾其中色情、暴力等內(nèi)容。

　　Google的SafeSearch（安全檢索）功能使用了機(jī)器學(xué)習(xí)來(lái)識(shí)別色情圖片，可給未成年人提供健康正常的網(wǎng)絡(luò)瀏覽與檢索。

　　Twitter收購(gòu)了兩家視覺(jué)媒體內(nèi)容監(jiān)測(cè)創(chuàng)業(yè)公司Madbits和Whetlab，運(yùn)用它們的人工神經(jīng)網(wǎng)絡(luò)技術(shù)實(shí)現(xiàn)色情內(nèi)容監(jiān)控。

　　近日，谷歌又推出了一款人工智能技術(shù)支撐的全新工具，名為“Conversation AI”。這個(gè)新軟件能夠幫助用戶不受網(wǎng)絡(luò)有害言論的威脅。

　　Conversation AI通過(guò)機(jī)器學(xué)習(xí)技術(shù)，自動(dòng)捕捉網(wǎng)絡(luò)上的污言穢語(yǔ)，并給它的攻擊力評(píng)分——100分是最有害的，0 分是無(wú)害的。這個(gè)工具將會(huì)首先在《紐約時(shí)報(bào)》的注釋版塊進(jìn)行測(cè)試，維基百科也計(jì)劃將會(huì)使用這款應(yīng)用。不過(guò)據(jù)《有線》雜志稱，該公司并沒(méi)有透露測(cè)試的具體細(xì)節(jié)。

　　由于該技術(shù)最終將成為開(kāi)源的，所以在不久的將來(lái)，全球的網(wǎng)站和各類社交媒體平臺(tái)，都可以用它幫助用戶逃過(guò)暴力言論的傷害。《有線》表示，Conversation AI 可以“自動(dòng)識(shí)別出侮辱、騷擾的言論，甚至還能幫你刪除它。”

　　雖然 Conversation AI 在測(cè)試中被發(fā)現(xiàn)存在一些缺陷，但是谷歌透露，它的準(zhǔn)確度已達(dá)92% ，并且隨著時(shí)間的推移，功能將會(huì)不斷完善。關(guān)注科客網(wǎng)官方微信kekebat，獲取更多精彩資訊。（雷鋒網(wǎng)，原標(biāo)題《鍵盤俠太猖狂，谷歌用 AI 給網(wǎng)絡(luò)“攻擊力”打分》）