近期一則“人工智能已經(jīng)學會自動編寫虛假點評”的消息廣為流傳?！拔蚁矚g這個地方。我跟我哥一起去的，我們點了素食意大利面，很好吃。啤酒不錯，服務(wù)也很棒。推薦這個地方，是個吃早餐的好去處。地兒小但是買賣大”。這些看起來如假包換的評論如果以為是消費者評論的，那你就大錯特錯了。殊不知，這些評論都是AI操刀的點評，這種以假亂真的程度真是讓人咂舌。

消息源于趙燕斌等發(fā)表的一篇題為《在線點評系統(tǒng)中的自動眾包攻擊和防御》的論文。在研究中，趙燕斌團隊發(fā)現(xiàn)，人工智能可以被用來生成復雜的點評信息。這些虛假的點評不僅機器無法檢測出來，就連人類讀者也分辨不出來。

趙燕斌接受了第一財經(jīng)記者的采訪。他的實驗室一直在從事和網(wǎng)絡(luò)安全相關(guān)的課題。最新的研究歷時一年左右，是過去研究的延伸。“人工智能的技術(shù)很先進，好處也顯而易見，但是我們的目的是提前預測出人工智能對于社會潛在的威脅，因此當這些威脅真正來臨的時候，人們不會猝不及防?！壁w燕斌對第一財經(jīng)記者表示。

他進一步解釋道，在獲得了美國的“大眾點評網(wǎng)”Yelp的公開用戶評論數(shù)據(jù)后，團隊就開始做實驗。具體而言，是從亞馬遜上雇了600位用戶，讓他們對真人和人工智能編寫的點評進行辨別。

“結(jié)果是幾乎沒有人看得出來哪些是機器撰寫的點評?！壁w燕斌對第一財經(jīng)記者說道，“更讓我們吃驚的是，用戶不僅分辨不出真假，而且還覺得機器撰寫的這些點評對他們很有幫助?！?/p>

他表示：“目前這種技術(shù)仍較新，還無法做到十分精準。比如已經(jīng)在微博或者Twitter上出現(xiàn)的有些基于簡單模板產(chǎn)生的評論?！?/p>

人工智能相比人類水軍優(yōu)勢明顯

趙燕斌認為，雖然他們無從得知是否已經(jīng)有一些公司試圖大規(guī)模利用人工智能的編程軟件撰寫虛假評論，但是這無疑會成為不法分子未來的一個“必要選項”，因為人工智能相比人類水軍的優(yōu)勢非常明顯。

首先，人類“水軍”發(fā)送虛假評論的時間控制不了，因為“水軍”一見了工作都上去搶，所以很容易在被攻擊的網(wǎng)頁上發(fā)現(xiàn)異常，而人工智能發(fā)送消息的時間是可以控制的。其次，雇傭人類“水軍”撰寫評論的成本在增長，而人工智能可以反復頻繁地被使用。

“社交網(wǎng)站已經(jīng)開始利用人工智能技術(shù)發(fā)布一些虛假的消息或評論。”人工智能初創(chuàng)公司W(wǎng)orkFusion創(chuàng)始人、CEO揚格列維奇（MaxYankelevich）告訴第一財經(jīng)記者，“這些消息只有通過人工智能的手段才能加以制止。這不僅僅需要政府的努力，更需要科技公司和整個社會的努力?！?/p>

人工智能能夠識別“機器水軍”

好消息是，人工智能有可能識別出機器中的“水軍”。趙燕斌團隊研究發(fā)現(xiàn)，用計算機去分析字符的分布等特征，他們就會發(fā)現(xiàn)真假點評之間存在著細微的差異。

假點評是從真實點評里學出來的，在這個過程中，難免會有信息流失。假點評注重的是流暢、可信，但像字符分布這種平時沒人關(guān)注的特征，就做得不那么好了。

當然，攻擊者也可以騙過檢測。換好一點的硬件，做更復雜一點的神經(jīng)網(wǎng)絡(luò)就行。但這種檢測至少提高了攻擊的門檻，為攻擊者設(shè)置了障礙。趙燕斌對第一財經(jīng)記者表示：“這就是一種勝利，所有的安全工作都是這樣，提高攻擊的門檻?！?/p>

不過，趙燕斌強調(diào)，雖然越來越多的研究致力于防御“假新聞”，但是并不是一切問題都能夠用技術(shù)的手段來解決的?！拔覀冃枰嗟睾蜕鐣W科學家以及心理學家合作，尋求共同的解決方案?！壁w燕斌告訴第一財經(jīng)記者。

水軍橫行的互聯(lián)網(wǎng)可信度還剩多少

試想一下，如何像我們平常使用的網(wǎng)站，淘寶、京東、美團、餓了么等等本來就是靠用戶的點評作為參照的，一點上面的點評都是虛假的，那么你還會相信這些網(wǎng)站的真實性嗎？

所以，隨著人工智能的不斷發(fā)展，一旦AI水軍盛興，勢必會給整個互聯(lián)網(wǎng)帶來巨大的沖擊，致使網(wǎng)絡(luò)的可信度會大打折扣，這時我們就需要有正確的防范措施防止AI水軍。

更多資訊請關(guān)注工業(yè)機器人頻道