DeepText的優(yōu)缺點(diǎn)

盡管如此，這些努力還遠(yuǎn)不能夠完全阻止網(wǎng)絡(luò)霸凌。

謝菲爾德大學(xué)的博士生Zeerak Waseem專注于辱罵語言檢測(cè)和Twitter上的仇恨言論，他表示，“這些嘗試沒有效果”。

為什么？雖然Twitter和Facebook在抑制網(wǎng)絡(luò)霸凌方面都取得了長足進(jìn)展，但I(xiàn)nstagram是第一個(gè)使攻擊性評(píng)論自動(dòng)消失的社交網(wǎng)站。Systrom的博文和Wired都解釋了人工智能目前在Instagram帳戶上的運(yùn)行情況。如果用戶發(fā)布令人反感或騷擾的語言，DeepText會(huì)捕獲并立即刪除它。Wired報(bào)道說，為了防止霸凌者試圖戲弄該系統(tǒng)，攻擊性的言論仍然可以被犯罪者看到。用戶還可以手動(dòng)輸入要阻止的單詞或短語，通過阻止每個(gè)用戶設(shè)定的獨(dú)特的觸發(fā)詞，使DeepText更加有效。

然而，DeepText并不完美。

Instagram的機(jī)器學(xué)習(xí)算法自動(dòng)集成在平臺(tái)上，但一些不良言論仍然可以繞過該工具。Waseem說，隱含的侮辱，如昵稱或誹謗的代號(hào)會(huì)讓DeepText難以發(fā)現(xiàn)。而且，該功能可以輕松關(guān)閉。只要用手指點(diǎn)擊“隱藏攻擊評(píng)論”就可以切換關(guān)閉狀態(tài)，如果它的任務(wù)是消除網(wǎng)絡(luò)霸凌，這似乎是違反直覺的。言論自由與創(chuàng)造一個(gè)擺脫仇恨言論的環(huán)境之間的界線是不容易找到的。Davidson補(bǔ)充表示，“機(jī)器學(xué)習(xí)不是一個(gè)能夠阻止網(wǎng)絡(luò)霸凌或網(wǎng)絡(luò)不良言論的萬能藥�！睓C(jī)器學(xué)習(xí)可以幫助被欺負(fù)的用戶體驗(yàn)更好，但沒有技術(shù)會(huì)阻止個(gè)人說壞話。

Ditch the Label的首席執(zhí)行官Liam Hackett認(rèn)為，Instagram平臺(tái)上年輕用戶眾多，網(wǎng)絡(luò)霸凌的問題也最為嚴(yán)重。侮辱形形色色，從對(duì)照片的負(fù)面評(píng)論到霸凌者創(chuàng)造假帳戶來攻擊目標(biāo)人群都有。

Hackett贊揚(yáng)了Instagram的努力，并且認(rèn)為機(jī)器學(xué)習(xí)策略是多么明智，社交網(wǎng)絡(luò)應(yīng)該更多地投資于這項(xiàng)技術(shù)。他提到Instagram如何使用人工智能在反網(wǎng)絡(luò)霸凌的運(yùn)動(dòng)中取得了很大的進(jìn)步，人工智能真的在改變游戲。

并且，除了防止霸凌，DeepText還有其他功能可以幫助企業(yè)深入了解客戶的興趣。

問題的根源

機(jī)器學(xué)習(xí)在情感層面上邁出了正確的一步。然而，解決不良網(wǎng)民為什么會(huì)在這些平臺(tái)上持續(xù)不斷進(jìn)行言論攻擊是一個(gè)更大的問題。

Hackett表示，“互聯(lián)網(wǎng)使人類變得不那么人性化”，舒舒服服地躲在屏幕后面侮辱其他用戶比在面對(duì)面的時(shí)候說出這些侮辱性的言辭要容易得多。線下的人際關(guān)系具有隱含的行為準(zhǔn)則——這是一種不言而喻的社會(huì)規(guī)范。在互聯(lián)網(wǎng)上卻并不總是遵循同樣的準(zhǔn)則。

作為今年最受歡迎的社交媒體網(wǎng)絡(luò)之一，Instagram擁有7億的活躍用戶，并且用戶數(shù)還在快速增長，在四個(gè)月的時(shí)間內(nèi)即可獲得1億新用戶。然而，用戶數(shù)量的增加也同時(shí)帶來了傷害性內(nèi)容和冒犯性語言的增加。

Hackett指出，程序本身可能不是教導(dǎo)人們?cè)诰W(wǎng)上相互尊重的完全解決方案。