一個(gè)連業(yè)余圍棋選手都下不過的“惡意”圍棋軟件擊敗了不可一世的人工智能圍棋冠軍KataGo。
2016年李世石在1：4慘敗給“阿爾法狗”的比賽中下出的“神之一手”，被職業(yè)圍棋界看作是人類“最后的倔強(qiáng)”和人類能夠挖掘的圍棋人工智能技術(shù)“最后的漏洞”。此后，圍棋人工智能技術(shù)的水平一騎絕塵，遙遙領(lǐng)先任何人類職業(yè)棋手，成了新的“圍棋之神”，人類正式進(jìn)入計(jì)算圍棋時(shí)代。
但是，近日一篇人工智能論文驚掉了計(jì)算圍棋界所有人的下巴，加州大學(xué)伯克利分校的研究人員們開發(fā)出一種對(duì)抗性樣本技術(shù)來摸索KataGo的盲點(diǎn)，并用基于該技術(shù)的菜鳥級(jí)圍棋程序（業(yè)余人類選手可輕松擊敗）打敗了KataGO（當(dāng)今最強(qiáng)的圍棋人工智能程序，實(shí)力遠(yuǎn)超當(dāng)年的阿爾法狗）。
據(jù)該論文的作者之一，加州大學(xué)伯克利分校的亞當(dāng)戈里夫博士介紹，擊敗KataGo的“對(duì)抗性政策”方法挖掘并利用了KataGo的盲區(qū)（漏洞）。
KataGo是一個(gè)強(qiáng)大的開源圍棋AI引擎，作為當(dāng)今世界頂級(jí)圍棋人工智能技術(shù)，實(shí)現(xiàn)了一系列超越阿爾法零算法的功能和技術(shù)，目前是韓國(guó)國(guó)家隊(duì)的陪練AI，同時(shí)也支持著多種流行圍棋軟件，例如阿Q圍棋、Anago等。
與谷歌的阿爾法零類似，KataGo通過與自己對(duì)戰(zhàn)數(shù)百萬盤比賽的海量數(shù)據(jù)來自我訓(xùn)練，但最新的論文成果表明，即便是KataGo這樣的高度成熟的人工智能模型依然存在盲區(qū)，存在導(dǎo)致意外行為的漏洞。
格里夫博士介紹了擊敗KataGo的對(duì)抗性策略的一個(gè)示例。在上圖中，執(zhí)黑棋的業(yè)余圍棋程序在棋盤的右上角圍住角地實(shí)空，其余的廣大空間則被KataGo牢牢控制。這讓KataGo判定自己已經(jīng)大獲全勝，且已經(jīng)收完最后一個(gè)單關(guān)，為了不“損空”選擇“停招”（停一手），期待對(duì)手（執(zhí)黑的業(yè)余圍棋程序）也停招，根據(jù)圍棋規(guī)則雙方停招將自動(dòng)結(jié)束比賽開始點(diǎn)目計(jì)算勝負(fù)。
但是，由于KataGo的圍空中的黑子尚有活力，按照圍棋裁判規(guī)則并未被判定為“死子”，因此KataGo的圍空中有黑子的地方都不能被計(jì)算為有效目數(shù)，導(dǎo)致KataGo被系統(tǒng)判負(fù)。
雖然這看上去是一個(gè)非常“賴皮”，“令人感到作嘔”的對(duì)抗性策略，但業(yè)余圍棋程序確實(shí)在公平規(guī)則下?lián)魯×薑ataGo，該程序唯一的設(shè)計(jì)目的就是“專治”KataGo，即便它的水平連普通業(yè)余愛好者的水平都達(dá)不到。
更為可怕的是，不僅僅是KataGo，幾乎所有深度學(xué)習(xí)人工智能技術(shù)，從人臉識(shí)別、自動(dòng)駕駛到網(wǎng)絡(luò)安全，都存在類似的盲區(qū)和脆弱性。
一些看似“無厘頭”或“人畜無害”的對(duì)抗性樣本，卻能夠擊垮對(duì)人類頂級(jí)選手保持100%勝率的最強(qiáng)健的人工智能程序。
格里夫博士指出，這個(gè)研究結(jié)果在圍棋比賽中很有趣，但是在安全關(guān)鍵系統(tǒng)中出現(xiàn)此類故障可能會(huì)帶來災(zāi)難性后果。
在人工智能戰(zhàn)勝人類頂級(jí)選手五年后，圍棋這款古老的游戲仍然在機(jī)器學(xué)習(xí)中發(fā)揮著重要作用。對(duì)圍棋人工智能技術(shù)漏洞的挖掘和分析，對(duì)關(guān)鍵人工智能應(yīng)用（自動(dòng)駕駛、智能助理、人臉識(shí)別、智能工廠、智慧城市）的安全性和攻防兩端技術(shù)的發(fā)展都有重要的警示和啟示作用。
根據(jù)Advesa的人工智能安全性報(bào)告，互聯(lián)網(wǎng)、網(wǎng)絡(luò)安全、生物識(shí)別和企業(yè)行業(yè)是人工智能網(wǎng)絡(luò)安全問題的重災(zāi)區(qū)，都是“對(duì)抗性樣本策略”的有效打擊目標(biāo)。
論文地址：https://arxiv.org/abs/2211.00241
來源：GoUpSec
在線咨詢
在線咨詢
0371-63319761