當(dāng)人工智能被蒙騙，人類的未來將會怎樣？5月13日，全球首次海上極客大賽GeekPwn年中賽在香港舉辦，組委會在舉辦地星夢郵輪“云頂夢號”上宣布：將以500萬的獎金池，啟動10月24日在上海和硅谷的人工智能安全挑戰(zhàn)賽的招募，接受全球頂尖AI安全極客的報(bào)名。同時(shí)GeekPwn還將與項(xiàng)目聯(lián)合發(fā)起方Next Idea(騰訊創(chuàng)新大賽)、獨(dú)家AI協(xié)辦機(jī)構(gòu)機(jī)器之心等合作伙伴，就AI安全的社會及專業(yè)議題展開前沿深入的探討。

　�。ǔ炚餕EEN公司CEO，GeekPwn大賽創(chuàng)辦人王琦）

　　遠(yuǎn)程操控特斯拉、用鼻尖解鎖手機(jī)、任意遠(yuǎn)程劫持世界任一用戶的通訊……創(chuàng)辦于2014年的國際安全極客大賽GeekPwn，白帽黑客們將他們的逆向思維、奇思妙想的腦洞發(fā)揮到了極致。在向世界秀出他們的才華的同時(shí)，也幫助了上百個(gè)廠商及產(chǎn)品去修復(fù)安全問題。GeekPwn創(chuàng)辦人、碁震KEEN公司創(chuàng)始人兼CEO王琦表示，從對抗的思路出發(fā)，創(chuàng)辦人工智能安全挑戰(zhàn)賽是為了尋找AI潛藏的風(fēng)險(xiǎn)并不斷幫助其完善，幫助人工智能安全健康成長。

　　如今，人工智能已經(jīng)廣泛應(yīng)用于生活的諸多場景中，包括實(shí)時(shí)語音翻譯、目標(biāo)識別、自動駕駛等等。率先關(guān)注到人工智能可能暴露出的諸多風(fēng)險(xiǎn)，GeekPwn實(shí)驗(yàn)室在2015年底開始了AI對抗的研究，并廣泛接觸和招募AI領(lǐng)域的頂尖人才，很快，在2016年的GeekPwn美國站上，生成對抗網(wǎng)絡(luò)(GANs)之父Ian Goodfellow就展示了“對抗性圖像”在現(xiàn)實(shí)物理世界欺騙機(jī)器學(xué)習(xí)的效果。原始圖像以60%的置信度判斷為“熊貓”，但是加入了微小的干擾，在人眼完全看不出差別的情況下卻以99%的執(zhí)行度歸為了長臂猿。

　　近期，有研究者發(fā)現(xiàn)，惡意攻擊者可以欺騙Google的CloudVision API，這將導(dǎo)致API對用戶提交的圖片進(jìn)行錯(cuò)誤地分類，網(wǎng)絡(luò)犯罪分子可以利用這種技術(shù)來傳播暴力圖片、色情圖片或恐怖主義宣傳圖片。

　　不需要學(xué)代碼 未來可能人人都是“黑客”

　　AI在圖像領(lǐng)域存在被欺騙的可能性，讓王琦預(yù)見到這種可能性在其他語音和行為智能等領(lǐng)域也會存在。AI被欺騙，看似人工智能的錯(cuò)誤和不完善，但其實(shí)在黑客眼里就有可能變成可以被利用的漏洞。隨著AI在交通、金融和醫(yī)療體系中運(yùn)用得愈加普遍，GeekPwn希望在惡意分子真正動手之前、找到對抗這些攻擊的方法。

　　王琦表示，在人工智能領(lǐng)域，深度學(xué)習(xí)依賴對大量樣本進(jìn)行學(xué)習(xí)，最后產(chǎn)生決策的過程，和安全領(lǐng)域里通過產(chǎn)生大量模糊測試樣本引發(fā)計(jì)算機(jī)異常，從而發(fā)掘出漏洞，最終執(zhí)行流程可以被改變，進(jìn)而導(dǎo)致安全危害的過程非常相似，如果說正確樣本能夠產(chǎn)生正確的決策，那么黑客通過離線模擬產(chǎn)生的AI攻擊樣本，則可能給人工智能帶來錯(cuò)誤的決策和行為。

　　微軟聊天機(jī)器人Tay上線不到一天，就向網(wǎng)友“成功學(xué)習(xí)”了新的聊天方式，從彬彬有禮的美國“姑娘”變得臟話不斷，言語中還充斥了種族主義、色情等“情感偏見”。王琦大膽預(yù)言：深度依賴學(xué)習(xí)樣本的人工智能，未來對它的攻擊可能甚至不需要編寫代碼，人人都可能成為“黑客”。

　　極棒向全球AI極客廣發(fā)英雄帖 與人工智能“決戰(zhàn)到底”

　　作為全球首個(gè)探索人工智能與安全的專業(yè)平臺， 2017年，GeekPwn(極棒)將人工智能安全挑戰(zhàn)賽列為全年重點(diǎn)項(xiàng)目。聯(lián)合發(fā)起方NEXT IDEA 2017年則以“未來想象”為主題，讓青年群體更多關(guān)注包括人工智能安全等與人類未來息息相關(guān)的領(lǐng)域，讓每一個(gè)年輕人的奇思妙想得到肆意生長。騰訊集團(tuán)市場與公關(guān)部總經(jīng)理許菁文認(rèn)為，安全專家對于未來的擔(dān)憂將引領(lǐng)年輕人思考人類未來的生產(chǎn)、生活遇到的問題和挑戰(zhàn)，讓更多的年輕人一起為人工智能安全貢獻(xiàn)一份力量。

　　無論你是想突破人臉識別手機(jī)解鎖，在 AI 開源框架中找到問題，還是想“創(chuàng)造”AI特工，讓它實(shí)現(xiàn)入侵，都可以報(bào)名參加。在這場即將到來的黑客與人工智能的對決中，黑客將利用AI 的錯(cuò)誤以及不完善，為人們帶來怎樣突破性的想象和超前的技術(shù)展示？這一切，將在10月24日GeekPwn2017嘉年華上海站及硅谷站的現(xiàn)場為全人類揭曉。

　　“我們現(xiàn)在是幫助人工智能成長，希望有朝一日，黑客可以成為保護(hù)人類的那群人。”王琦說。