編者按 ●●
2024年5月18日，以“智繪安全 乘數(shù)而上”為主題的2024年第十二屆西湖論劍·數(shù)字安全大會(huì)在杭州國(guó)際博覽中心成功舉行。中國(guó)工程院院士吳世忠在《迎接人工智能的安全挑戰(zhàn)》的主題演講中提出，在人工智能時(shí)代，安全問(wèn)題呈現(xiàn)出前所未有的復(fù)雜性。它不僅涵蓋傳統(tǒng)的Security，即信息安全，還包含Safety，即系統(tǒng)運(yùn)行的穩(wěn)定性和可靠性，以及倫理安全，即技術(shù)應(yīng)用必須符合道德倫理標(biāo)準(zhǔn)。這三者交織融合，形成了全新的安全圖景。這是與傳統(tǒng)安全問(wèn)題的根本區(qū)別，對(duì)個(gè)人隱私保護(hù)、社會(huì)穩(wěn)定、國(guó)家發(fā)展和國(guó)際合作等方面都提出了新的挑戰(zhàn)和要求。因此，構(gòu)建一個(gè)安全、堅(jiān)韌、可信的人工智能發(fā)展生態(tài)，至關(guān)重要。這要求我們必須在推動(dòng)技術(shù)發(fā)展的同時(shí)，充分考慮到安全保障，實(shí)現(xiàn)發(fā)展與安全的統(tǒng)籌兼顧。以下為吳世忠院士現(xiàn)場(chǎng)發(fā)言內(nèi)容。
中國(guó)工程院院士吳世忠
尊敬的各位領(lǐng)導(dǎo)、專家，新老朋友們，大家上午好！
非常高興，在初夏來(lái)到美麗的西子湖畔、錢(qián)塘江邊，參加今天的西湖論劍大會(huì)，和大家一起探討“智繪安全 乘數(shù)而上”。
這是一個(gè)新題目，很難講，但又必須講。所以，我想分享三點(diǎn)淺顯的看法，講一些現(xiàn)實(shí)的問(wèn)題。
一、人工智能是新質(zhì)生產(chǎn)力
根據(jù)科技界的主流觀點(diǎn)，人工智能（AI）發(fā)展大致上可以分為三個(gè)時(shí)代，即機(jī)器學(xué)習(xí)的弱人工智能時(shí)代，機(jī)器智能的強(qiáng)人工智能時(shí)代和機(jī)器意識(shí)的超人工智能時(shí)代。經(jīng)過(guò)60多年的哺育，今天的AI正處在懵懂可愛(ài)的少年時(shí)期。深度學(xué)習(xí)大模型的應(yīng)用，造就了ChatGPT的勤學(xué)好答、Sora的文生圖景和GPT-4o的聲情并茂。中國(guó)有句老話，叫做“三歲見(jiàn)大，七歲見(jiàn)老”。經(jīng)過(guò)60多年的艱難探索，人工智能在十年內(nèi)突飛猛進(jìn)，在兩年內(nèi)爆發(fā)增長(zhǎng)，在近半年內(nèi)更是應(yīng)接不暇。這種成長(zhǎng)的加速度，在科技史上絕對(duì)空前的。這是否預(yù)示著人工智能發(fā)展到了一個(gè)關(guān)鍵期？是否預(yù)示著通用人工智能（AGI）會(huì)到來(lái)？讓我們拭目以待。
綜觀人工智能的發(fā)展態(tài)勢(shì)，我們能夠深切地感受到創(chuàng)新的強(qiáng)大動(dòng)能，感受到科技對(duì)傳統(tǒng)經(jīng)濟(jì)增長(zhǎng)和生產(chǎn)力發(fā)展的顛性覆影響，感受到技術(shù)進(jìn)步對(duì)生產(chǎn)效率和生活質(zhì)量的巨大貢獻(xiàn)。所以，英偉達(dá)創(chuàng)始人黃仁勛說(shuō)“算力就是權(quán)力”。美國(guó)更是直接將人工智能作為技術(shù)霸權(quán)的手段，對(duì)我們進(jìn)行斷供、卡壓；不斷推出的大模型一次又一次地拓展了智能的邊界，讓我們應(yīng)接不暇；即將耗盡的人類高質(zhì)量數(shù)據(jù)，又會(huì)孕育出怎樣的新能力，是否可能也會(huì)像最近推出的新應(yīng)用一樣超出我們的想象呢？特別是日新月異的新應(yīng)用正在不斷地重新定義經(jīng)濟(jì)發(fā)展板塊或政治勢(shì)力的范圍。從這個(gè)意義講，由算力、模型、數(shù)據(jù)、應(yīng)用共同成就的人工智能是真正的新質(zhì)生產(chǎn)力。
作為一個(gè)致力于民族復(fù)興的發(fā)展中大國(guó)，我國(guó)早已預(yù)見(jiàn)到以人工智能為主的這一輪科技革命的戰(zhàn)略機(jī)遇。從十年前的2015年至今，國(guó)家從專業(yè)規(guī)劃、技術(shù)攻關(guān)、市場(chǎng)培育、應(yīng)用引導(dǎo)等方面，先后發(fā)布了20多項(xiàng)政策文件。我理解，國(guó)家是希望在幾十年“互聯(lián)網(wǎng)+”的基礎(chǔ)上，激發(fā)數(shù)據(jù)要素的乘數(shù)效應(yīng)，進(jìn)而抓住人工智能的發(fā)展機(jī)遇，通過(guò)網(wǎng)、數(shù)、智統(tǒng)籌推進(jìn)，讓人工智能賦能百業(yè)千行，造福千家萬(wàn)戶。這是中國(guó)式現(xiàn)代化志在必得的一個(gè)歷史機(jī)遇，因?yàn)樵谌斯ぶ悄艿闹笖?shù)效應(yīng)下，AI會(huì)影響到每個(gè)個(gè)體，每個(gè)家庭，每個(gè)團(tuán)隊(duì)，每個(gè)學(xué)科，乃至每個(gè)行業(yè)和每個(gè)國(guó)家。
作為一名從事網(wǎng)絡(luò)信息安全的科技工作者，我也想到了人工智能會(huì)帶來(lái)安全挑戰(zhàn)。但是，正如鄔院士所說(shuō)，有很多沒(méi)有想到的，沒(méi)有預(yù)見(jiàn)到。確實(shí)，我個(gè)人沒(méi)有預(yù)見(jiàn)到人工智能的安全焦慮來(lái)得這么快，影響這么大。這兩年，從杰弗里·辛頓從谷歌辭職，到OpenAI內(nèi)部“宮斗”，再到眾多科學(xué)家、企業(yè)家、公眾人物公開(kāi)表達(dá)擔(dān)憂，僅在2023年一年，對(duì)人工智能安全的深度焦慮就從技術(shù)界蔓延到商業(yè)界到社會(huì)領(lǐng)域乃至全球。近70多個(gè)國(guó)家在五年內(nèi)出臺(tái)了人工智能安全治理方面的戰(zhàn)略對(duì)策和法律文件近百件。盡管各自的立場(chǎng)不同，但是各個(gè)國(guó)家都在關(guān)注人工智能的公平、向善、負(fù)責(zé)、信任、尊嚴(yán)、團(tuán)結(jié)、發(fā)展等。
聯(lián)合國(guó)框架下的多邊機(jī)制和技術(shù)、商業(yè)、網(wǎng)絡(luò)社區(qū)的多方機(jī)制，也都在大小會(huì)上研究探討，共同推進(jìn)人工智能安全與治理方面的研究，強(qiáng)化基礎(chǔ)設(shè)施的安全保障，推廣負(fù)責(zé)、安全、向善的人工智能應(yīng)用。前兩天中美之間就在進(jìn)行這方面的對(duì)話?？梢哉f(shuō)，人工智能安全治理已成為大國(guó)博弈的一個(gè)協(xié)調(diào)議題，成為國(guó)際治理的當(dāng)務(wù)之急。
這又驗(yàn)證了中國(guó)的一句老話，那就是“一利生必有一弊隨”。人工智能的橫空出世給人類帶來(lái)了無(wú)限生機(jī)和希望的同時(shí)，也送來(lái)了細(xì)思極恐的近憂和遠(yuǎn)慮。
谷歌公司前CEO埃里克·施密特組織了一批國(guó)際社會(huì)的名人雅士，滾動(dòng)歸納面向2050年人工智能可能面臨的世界性難題。這是最近他們列出的最新的十大難題，并在五年內(nèi)懸賞1.5億美元，誠(chéng)招天下豪杰，尋求解決之道。他們認(rèn)為，這些問(wèn)題不解決，人工智能發(fā)展不可能很順利。
當(dāng)前的十大問(wèn)題可以歸結(jié)為技術(shù)發(fā)展的安全、應(yīng)用發(fā)展的安全、社會(huì)發(fā)展的安全和人類發(fā)展的安全。仔細(xì)看這十大難題，相信大家會(huì)和我有一樣的感受，那就是，未來(lái)已來(lái)、時(shí)不我待。我們要抓住歷史性機(jī)遇，實(shí)現(xiàn)高質(zhì)量發(fā)展，就必須主動(dòng)應(yīng)對(duì)安全新挑戰(zhàn)，統(tǒng)籌好發(fā)展和安全。
二、人工智能的安全新挑戰(zhàn)
回顧互聯(lián)網(wǎng)出現(xiàn)以來(lái)的網(wǎng)絡(luò)信息安全發(fā)展歷程，我不敢像鄔院士一樣追溯到馮諾依曼，但可上溯到三十年前。根據(jù)這三十年的發(fā)展，也可以把網(wǎng)絡(luò)安全大致分為三個(gè)階段，前20年左右是IT驅(qū)動(dòng)階段，從局域網(wǎng)、城域網(wǎng)到廣域網(wǎng)，再到物聯(lián)網(wǎng)。萬(wàn)物互聯(lián)追求的是規(guī)模，安全的重點(diǎn)是邊界防護(hù)，就是剛才鄔院士講的那些盒子。后10年是DT驅(qū)動(dòng)時(shí)代，以大數(shù)據(jù)、云計(jì)算為特征，追求數(shù)據(jù)的流動(dòng)，激發(fā)數(shù)據(jù)的價(jià)值，就是數(shù)據(jù)“要素×”的概念。安恒信息就是這個(gè)階段成長(zhǎng)起來(lái)的公司。這一時(shí)期安全的重點(diǎn)是在內(nèi)容上。
而今，AI驅(qū)動(dòng)開(kāi)啟了一個(gè)新的階段，面對(duì)的是全新的對(duì)象。這個(gè)對(duì)象現(xiàn)在國(guó)際上有一個(gè)新詞，叫Homo Technologicus（科技智人）。它是與社會(huì)人相似又有不同的新物種，是鮮活的硅基生物，是像人從猿變成智人一樣的革命性飛躍。所以，從網(wǎng)絡(luò)信息安全方面講，它的風(fēng)險(xiǎn)，除了過(guò)去我們熟悉的外在風(fēng)險(xiǎn)之外，更重要的是，其所帶來(lái)的我們完全未知的內(nèi)在的自身風(fēng)險(xiǎn)。
導(dǎo)致或者推動(dòng)這一輪新的發(fā)展階段的基層技術(shù)是什么？就是以人工智能和合成生物學(xué)為主的一系列的顛覆性技術(shù)。去年，我認(rèn)真讀了美國(guó)兩大著名的人工智能頭部企業(yè)聯(lián)合創(chuàng)始人Mustafa Suleyman撰寫(xiě)的《巨浪將至》。我認(rèn)為它是能與《第三次浪潮》相提并論的講述科技革命的經(jīng)典。這本書(shū)指出，人類正處在一場(chǎng)史詩(shī)級(jí)技術(shù)革命的風(fēng)口浪尖，人工智能變革將與蒸汽機(jī)、電力或數(shù)字晶體管變革相媲美，必將創(chuàng)造空前巨大的繁榮，同時(shí)帶來(lái)前所未有的挑戰(zhàn)。書(shū)中歸納出新一輪技術(shù)浪潮的四個(gè)特點(diǎn)：一是能夠重塑權(quán)力并消除壁壘的不對(duì)稱性；二是在廣度和深度層面快速迭代的超級(jí)演化性；三是廣泛賦能多技術(shù)領(lǐng)域的通用性；四是遠(yuǎn)超控制或預(yù)測(cè)范圍的自主性。這些技術(shù)特點(diǎn)促成了本世紀(jì)人類面臨的安全困境，也就是說(shuō)，技術(shù)浪潮已經(jīng)勢(shì)不可擋，人類只能因勢(shì)利導(dǎo)。
人工智能的“巨浪”已極大地改變了安全問(wèn)題的內(nèi)涵和外延。過(guò)去，我們習(xí)慣把網(wǎng)絡(luò)信息安全（Security）叫做非傳統(tǒng)安全，現(xiàn)在即將成為傳統(tǒng)安全。由科技智人帶來(lái)的未知的難以預(yù)測(cè)的新型安全問(wèn)題已經(jīng)成為現(xiàn)實(shí)。還有，剛才鄔院士提到的人工智能技術(shù)應(yīng)用涉及的倫理安全問(wèn)題，會(huì)因?yàn)榉N族不同、文化差異、意識(shí)形態(tài)等變得更為復(fù)雜，有的甚至?xí)魬?zhàn)人類的天理或人倫。所以，人工智能時(shí)代的安全比過(guò)去更為復(fù)雜，至少是Security（既有安全），Safety（新興安全）和Ethics（倫理安全）交織交融的新圖景。這是安全問(wèn)題和以往的根本區(qū)別。
在傳統(tǒng)安全領(lǐng)域，AI已經(jīng)系統(tǒng)性融入網(wǎng)絡(luò)攻防的各個(gè)環(huán)節(jié)，賦予Security新的內(nèi)涵。我們舉兩個(gè)例子。
一是AI助力網(wǎng)絡(luò)防御。美國(guó)微軟公司推出了一款全新的網(wǎng)絡(luò)安全產(chǎn)品Security Copilot。它內(nèi)置了GPT4，并且與超過(guò)65萬(wàn)億個(gè)網(wǎng)絡(luò)安全威脅模型庫(kù)相結(jié)合，給用戶提供生成式、自動(dòng)化網(wǎng)絡(luò)安全人工智能服務(wù)。去年一年運(yùn)行成果表明，它可以將安全事件響應(yīng)、評(píng)估和防御，從過(guò)去的數(shù)小時(shí)到數(shù)天降低到分鐘級(jí)，防守之快不言而喻。二是人工智能助攻網(wǎng)絡(luò)攻擊。美國(guó)重要智庫(kù)Mitre，就是提出網(wǎng)絡(luò)韌性和彈性的這家公司，發(fā)布了一張人工智能系統(tǒng)對(duì)抗性威脅的場(chǎng)景圖，呈現(xiàn)了人工智能應(yīng)用于從偵查踩點(diǎn)、網(wǎng)絡(luò)滲透到維持控守、數(shù)據(jù)獲取，再到秘密傳遞、后場(chǎng)處理等網(wǎng)絡(luò)攻擊全生命周期的復(fù)雜場(chǎng)景。威力之大，可想而知?？梢哉f(shuō)，人工智能用于安全防護(hù)或用于網(wǎng)絡(luò)攻擊這兩方面，在國(guó)際社會(huì)發(fā)展迅猛?？上驳氖?，國(guó)內(nèi)安全行業(yè)也在積極投身于人工智能安全和人工智能賦能安全方面的研究。會(huì)前，我了解到安恒信息在這方面做了大量的工作，并在這兩年的重大安保活動(dòng)中小試牛刀，取得了不錯(cuò)的成績(jī)。
在新興的自身安全領(lǐng)域，人工智能隱含了不少新的隱患。由于神經(jīng)網(wǎng)絡(luò)、深度學(xué)習(xí)的算法或機(jī)理上具有不透明性和難解釋性，很多科學(xué)家擔(dān)心的技術(shù)失靈、智能失常甚至出現(xiàn)幻覺(jué)、涌現(xiàn)意外的功能等都可能出現(xiàn)。比如，特斯拉自動(dòng)駕駛出現(xiàn)的“墳場(chǎng)幽靈”；ChatGPT常常一本正經(jīng)地胡說(shuō)八道，永遠(yuǎn)說(shuō)正確的話，永遠(yuǎn)說(shuō)從眾的話。因此，雖然人工智能現(xiàn)在反應(yīng)很快，但不太聰明，甚至還有意想不到的感情表達(dá)。通過(guò)惡意提問(wèn)甚至可以污染數(shù)據(jù)，引導(dǎo)越獄，引發(fā)惡魔模式等。所以，在短短兩年內(nèi)，出現(xiàn)了很多人工智能應(yīng)用的怪象。這種硅基生命與生俱來(lái)的安全隱患，是一種全新的安全風(fēng)險(xiǎn)。我們對(duì)這方面過(guò)去了解太少，經(jīng)驗(yàn)不足，因而威脅更大，防范更難。
倫理方面的安全風(fēng)險(xiǎn)。馬克思說(shuō)過(guò)，人與動(dòng)物的根本區(qū)別在于會(huì)制造和使用工具。從石器時(shí)代一直到冷熱兵器時(shí)代，人類面臨的技術(shù)倫理由來(lái)已久。只不過(guò)人工智能時(shí)代倫理問(wèn)題更加驚世駭俗，就是因?yàn)樗?ldquo;活”了，所以需要從生命的角度考慮倫理問(wèn)題。比如，價(jià)值觀可能難以對(duì)齊人類，在數(shù)據(jù)訓(xùn)練中可能會(huì)學(xué)會(huì)偏見(jiàn)或欺騙，在處理沖突和困境的時(shí)候可能不會(huì)遵循人類的道德準(zhǔn)則。再比如，深度偽造類的技術(shù)作惡，技術(shù)武器化用于軍事，技術(shù)霸權(quán)加劇地緣政治沖突等。這些都是過(guò)去的技術(shù)手段難以達(dá)到的影響。
我讀過(guò)基辛格的《論世界秩序》。書(shū)里指出人工智能的危害比核武器還會(huì)超前一大步。核武器之所以能夠被控制，是因?yàn)槿祟惾绻紕?dòng)用它，可能會(huì)導(dǎo)致“同死”。對(duì)于人工智能，希望通過(guò)治理能夠達(dá)到“共生”。細(xì)細(xì)品味，這的確值得我們深思。為什么我專門(mén)強(qiáng)調(diào)這是一個(gè)新的安全問(wèn)題？因?yàn)檫@些風(fēng)險(xiǎn)可以泛化，它不僅是一個(gè)倫理問(wèn)題，它對(duì)個(gè)人、對(duì)種族、對(duì)國(guó)家甚至對(duì)人類都可能造成影響。所以，影響之廣，不得不防，難度之大，又防不勝防。這就是難題。
所以說(shuō)，人工智能的發(fā)展客觀上對(duì)安全保障提出了新的要求。我不敢說(shuō)是范式的改變，但至少提出了新的要求。從目前看，人工智能技術(shù)的推廣應(yīng)用是大勢(shì)所趨，也是人心所向。但是，個(gè)人應(yīng)用需要謹(jǐn)慎，社會(huì)推廣需要安全，國(guó)家發(fā)展需要對(duì)這些技術(shù)進(jìn)行防控，甚至國(guó)際治理也需要協(xié)調(diào)。剛才，趙厚麟先生特別從國(guó)際組織的角度講到協(xié)調(diào)的重要性。我想，這應(yīng)該是目前國(guó)際國(guó)內(nèi)的一個(gè)共識(shí)。因此，我們認(rèn)為，在智能化時(shí)代要確保個(gè)人隱私和安全，要維護(hù)社會(huì)和穩(wěn)定，要支撐國(guó)家的發(fā)展和安全利益，要維護(hù)國(guó)際合作和和平，就必須要有一個(gè)安全、堅(jiān)韌、可信的人工智能發(fā)展生態(tài)，也就是必須要統(tǒng)籌好發(fā)展和安全。
三、統(tǒng)籌發(fā)展與安全
大力發(fā)展人工智能是國(guó)家當(dāng)前的政策導(dǎo)向和戰(zhàn)略部署。以安全保發(fā)展，對(duì)我們科技界、產(chǎn)業(yè)界而言，既責(zé)無(wú)旁貸，又大有可為。要統(tǒng)籌好發(fā)展與安全，至少有四方面的工作，需要我們做實(shí)做好。
三觀要正。統(tǒng)籌發(fā)展與安全是習(xí)近平新時(shí)代中國(guó)特色社會(huì)主義思想的一個(gè)重要內(nèi)容，為我們搶抓人工智能發(fā)展機(jī)遇，應(yīng)對(duì)安全治理的嚴(yán)峻挑戰(zhàn)，提供了根本遵循，值得我們反復(fù)學(xué)習(xí)，深入領(lǐng)會(huì)。我理解，領(lǐng)會(huì)這個(gè)精神要牢固樹(shù)立以下三個(gè)觀念：一是辯證的信息安全觀?？倳?shū)記反復(fù)強(qiáng)調(diào)網(wǎng)絡(luò)信息安全要辯證地看，安全是相對(duì)的不是絕對(duì)的，是動(dòng)態(tài)的不是靜態(tài)的，是整體的不是局部的，尤其強(qiáng)調(diào)，是為發(fā)展服務(wù)的。二是要樹(shù)立總體國(guó)家安全觀。總書(shū)記講，沒(méi)有網(wǎng)絡(luò)安全就沒(méi)有國(guó)家安全，沒(méi)有信息化就沒(méi)有現(xiàn)代化，并創(chuàng)造性提出了總體國(guó)家安全觀，要求我們從系統(tǒng)、整體、全局的高度認(rèn)識(shí)和處理安全問(wèn)題，綜合考慮國(guó)家安全涉及的方方面面。三是全球安全治理觀?？倳?shū)記創(chuàng)造性提出的人類命運(yùn)共同體的主張，受到了世界各國(guó)的積極響應(yīng)。去年，也是在他的倡導(dǎo)下，發(fā)布了全球人工智能治理倡議，提出了共建共管、共治共享的主張，引起了世界各國(guó)的反響。我理解，這三種觀念是我們迎接人工智能挑戰(zhàn)的強(qiáng)大的思想武器。
技術(shù)要硬。人工智能的安全挑戰(zhàn)是可能出現(xiàn)的科技智人給我們提出的全新挑戰(zhàn)，顛覆性技術(shù)是對(duì)抗的焦點(diǎn)。一方面，國(guó)家與國(guó)家之間科技競(jìng)爭(zhēng)已經(jīng)是劍拔弩張，另一方面，現(xiàn)代人類和即將出現(xiàn)的科技智人暗地里的博弈也是驚心動(dòng)魄。我國(guó)在AI領(lǐng)域布局早、需求大，但是技術(shù)差距客觀存在，安全能力也亟待改變。比如，在關(guān)鍵技術(shù)卡脖子方面，我們需要更加自立自強(qiáng)；在基礎(chǔ)設(shè)施領(lǐng)域，需要實(shí)現(xiàn)可管可控；在技術(shù)應(yīng)用方面，需要提供更多安全便捷的手段；在社會(huì)發(fā)展上，需要讓人工智能變得可靠可信?？茖W(xué)技術(shù)是我們國(guó)家發(fā)展的支撐和底氣。國(guó)家在人工智能方面的技術(shù)需求目前是最為迫切的，這給我們科技界、學(xué)術(shù)界、產(chǎn)業(yè)界提出了攻堅(jiān)克難的奮斗方向，也提供了大展宏圖的用武之地。
能力要強(qiáng)。為人工智能的推廣應(yīng)用或健康發(fā)展創(chuàng)造一個(gè)更加安全、堅(jiān)韌、可信的發(fā)展生態(tài)，既是社會(huì)期盼，又是產(chǎn)業(yè)追求，更是國(guó)家的責(zé)任。要做到確保人工智能自身或人工智能服務(wù)的安全可靠，就需要我們安全行業(yè)做到與時(shí)俱進(jìn)，用鄔院士的話講，要實(shí)現(xiàn)范式轉(zhuǎn)變，不再局限于局部的安全防護(hù)或單一的技術(shù)應(yīng)對(duì)，不再糾一個(gè)漏洞、一個(gè)問(wèn)題，而是需要把Security、Safety、Ethics等各種問(wèn)題融為一體，構(gòu)建一個(gè)高度彈性或韌性的新型的安全保障體系。鄔院士剛剛提了一個(gè)問(wèn)題，就是怎么衡量彈性或韌性。我理解，衡量人工智能發(fā)展的安全韌性或者彈性要有三方面的指標(biāo)：一是風(fēng)險(xiǎn)承受能力；二是恢復(fù)發(fā)展的能力；三是適應(yīng)變革的能力。如果從這三個(gè)維度把能力提起來(lái)，對(duì)人工智能的發(fā)展應(yīng)該是有益的。
倫理要順。倫理安全是人工智能安全的新內(nèi)容。倫理順就是人工智能的發(fā)展需要順天理、合人倫，要以人為本。以人為本，技術(shù)要求叫做對(duì)齊。當(dāng)前，研究非常熱絡(luò)，Nature、Science雜志都越來(lái)越多發(fā)表這方面的文章。總體看，解決倫理問(wèn)題不單純是一個(gè)政治問(wèn)題，更是一個(gè)社會(huì)科學(xué)的問(wèn)題，同樣涉及技術(shù)問(wèn)題，需要技術(shù)和非技術(shù)的方法來(lái)解決。
學(xué)術(shù)界、技術(shù)界已經(jīng)提出一些基本的技術(shù)方法和非技術(shù)方法，因時(shí)間關(guān)系我不一一列舉。我想強(qiáng)調(diào)的一點(diǎn)就是，需要我們學(xué)術(shù)界、產(chǎn)業(yè)界共同努力，研究開(kāi)發(fā)相關(guān)的理論、方法或技術(shù)手段，使這樣的對(duì)齊更方便、更量化、更便捷、更有效。
各位領(lǐng)導(dǎo)、同志們，科技創(chuàng)新永無(wú)止境，人工智能正方興未艾，安全風(fēng)險(xiǎn)如影相隨，但美好的未來(lái)依然可期。我相信，人工智能一定會(huì)造福人類，而不會(huì)取代人類。但是，我也相信，會(huì)使用人工智能的人可能會(huì)取代不會(huì)使用人工智能的人。所以，我想用一句話結(jié)束我今天的分享。那就是，擁抱人工智能吧，但請(qǐng)注意安全。
謝謝大家。
原文來(lái)源：中國(guó)信息安全
在線咨詢
在線咨詢
0371-63319761