一、人工智能發(fā)展帶來(lái)一定安全風(fēng)險(xiǎn)

　　人工智能技術(shù)存在算法黑箱、技術(shù)濫用、侵犯隱私等安全問題，隨著人工智能與實(shí)體經(jīng)濟(jì)深度融合，這些風(fēng)險(xiǎn)將會(huì)進(jìn)一步疊加放大，給公共安全、道德倫理、社會(huì)治理等帶來(lái)挑戰(zhàn)。

　　技術(shù)內(nèi)生風(fēng)險(xiǎn)。深度學(xué)習(xí)作為運(yùn)用最為廣泛的人工智能技術(shù)，存在“算法黑箱”“不可解釋”等缺點(diǎn)，難以對(duì)其實(shí)施檢測(cè)檢查，一旦算法模型中存在漏洞，其產(chǎn)生的安全風(fēng)險(xiǎn)問題可能對(duì)社會(huì)安全產(chǎn)生重大威脅。華盛頓大學(xué)等高校的研究人員在一篇論文中披露，自動(dòng)駕駛汽車并不能“真正理解”指示牌上的圖案，而是通過一些特征來(lái)進(jìn)行識(shí)別，人們只需要在交通標(biāo)志上用貼紙進(jìn)行相應(yīng)處理，就可以讓系統(tǒng)錯(cuò)誤地將停車標(biāo)志識(shí)別為限速標(biāo)志。

　　技術(shù)濫用風(fēng)險(xiǎn)。技術(shù)發(fā)展是把雙刃劍，隨著人工智能應(yīng)用日益深入，出現(xiàn)了利用計(jì)算機(jī)視覺、智能語(yǔ)音等技術(shù)實(shí)現(xiàn)“換臉”“換音”的情形，不但侵犯?jìng)€(gè)人隱私，還可能被用于實(shí)施詐騙，產(chǎn)生嚴(yán)重后果。2019 年 3 月，《華爾街日?qǐng)?bào)》報(bào)道，有犯罪分子使用深度偽造技術(shù)成功模仿了英國(guó)某能源公司在德國(guó)母公司CEO的聲音，詐騙了220000歐元，造成嚴(yán)重的財(cái)產(chǎn)損失。

　　數(shù)據(jù)隱私風(fēng)險(xiǎn)。人工智能技術(shù)訓(xùn)練需要依靠大量數(shù)據(jù)，但當(dāng)前數(shù)據(jù)的獲取、使用的監(jiān)督管理尚不完善，存在隱私泄露、數(shù)據(jù)濫用等風(fēng)險(xiǎn)，同時(shí)數(shù)據(jù)作為重要資產(chǎn)，跨境流動(dòng)時(shí)處理不當(dāng)還可能對(duì)國(guó)家安全產(chǎn)生威脅。2020年2月，服務(wù)于600多家執(zhí)法機(jī)構(gòu)及安保公司的美國(guó)人臉識(shí)別創(chuàng)業(yè)公司Clearview AI稱其客戶面部信息數(shù)據(jù)庫(kù)被盜，據(jù)報(bào)道，Clearview AI從網(wǎng)絡(luò)社交媒體上抓取了超過30億張照片，這些數(shù)據(jù)在采集時(shí)并未明確獲得用戶的同意。

　　二、加大力度防控人工智能安全風(fēng)險(xiǎn)成為各國(guó)共識(shí)

　　為應(yīng)對(duì)人工智能潛在安全風(fēng)險(xiǎn)，各國(guó)紛紛加強(qiáng)人工智能安全問題的前瞻性研究，加大力度防控人工智能安全風(fēng)險(xiǎn)，制定了一系列治理準(zhǔn)則和規(guī)范指南。

　　美國(guó)發(fā)布規(guī)范應(yīng)用指南，兼顧人工智能安全監(jiān)管與創(chuàng)新發(fā)展。去年以來(lái)，美國(guó)對(duì)人工智能安全的關(guān)注度日益提升。一方面，美國(guó)白宮于2020年1月發(fā)布《人工智能應(yīng)用規(guī)范指南》，提出公眾信任、公平和非歧視、公開與透明、安全等10條人工智能監(jiān)管原則，從國(guó)家層面規(guī)范人工智能發(fā)展并避免嚴(yán)格監(jiān)管阻礙創(chuàng)新。2020年12月，美國(guó)白宮公布特朗普簽署的《在聯(lián)邦政府中促進(jìn)使用可信賴的人工智能》行政令，強(qiáng)調(diào)人工智能的使用必須符合合法、安全可靠和具有彈性、負(fù)責(zé)任和可追溯等原則。另一方面，國(guó)防、交通、衛(wèi)生等人工智能應(yīng)用場(chǎng)景的安全準(zhǔn)則日益完善。2020年2月，國(guó)防部采納國(guó)防創(chuàng)新委員會(huì)建議的負(fù)責(zé)任、公平、可追溯、可靠和可控管理等5項(xiàng)新人工智能道德原則，為國(guó)防部研發(fā)、部署和使用人工智能奠定道德基礎(chǔ)。同月，美國(guó)白宮和交通部共同發(fā)布自動(dòng)駕駛汽車準(zhǔn)則4.0，確立了自動(dòng)駕駛的三大類十大原則，其中指出優(yōu)先考慮安全、強(qiáng)調(diào)網(wǎng)絡(luò)安全、確保隱私和數(shù)據(jù)安全。2021年1月，衛(wèi)生部發(fā)布《人工智能戰(zhàn)略》，希望在整個(gè)部門大規(guī)模采用“值得信賴的人工智能”。

　　歐盟提出人工智能分類監(jiān)管設(shè)想，致力于構(gòu)建可信人工智能。歐盟一貫執(zhí)行嚴(yán)格的安全隱私和道德治理標(biāo)準(zhǔn)，始終是“可信人工智能”推動(dòng)者。2018年5月，《通用數(shù)據(jù)保護(hù)條例》生效實(shí)施，規(guī)范了數(shù)據(jù)的收集使用，保護(hù)公民免受隱私侵犯和數(shù)據(jù)泄露侵害。2019年4月，歐盟發(fā)布《可信人工智能倫理指南》，提出實(shí)現(xiàn)人類自主和監(jiān)督、確保技術(shù)穩(wěn)健和安全、重視隱私和數(shù)據(jù)治理、建立問責(zé)機(jī)制等七項(xiàng)可信人工智能發(fā)展要求。2020年2月，歐盟委員會(huì)發(fā)布《人工智能白皮書——通往卓越和信任的歐洲路徑》，提出對(duì)用于人才招聘、醫(yī)療保健、交通運(yùn)輸、能源和部分公共部門等高風(fēng)險(xiǎn)應(yīng)用場(chǎng)景的人工智能產(chǎn)品和服務(wù)開展強(qiáng)制性的合格評(píng)定，對(duì)非高風(fēng)險(xiǎn)的人工智能應(yīng)用采取自愿合格評(píng)定。2020年2，歐盟委員會(huì)發(fā)布《關(guān)于人工智能、物聯(lián)網(wǎng)、機(jī)器人對(duì)安全和責(zé)任的影響的報(bào)告》，介紹了當(dāng)前的歐盟產(chǎn)品安全制度，并探討了改進(jìn)措施。

　　我國(guó)高度重視安全治理工作，積極推動(dòng)人工智能健康有序發(fā)展。習(xí)近平總書記明確要求，“要加強(qiáng)人工智能發(fā)展的潛在風(fēng)險(xiǎn)研判和防范”“要確保人工智能安全、可靠、可控”“要整合多學(xué)科力量，加強(qiáng)人工智能相關(guān)法律、倫理、社會(huì)問題研究，建立健全保障人工智能健康發(fā)展的法律法規(guī)、制度體系、倫理道德?！?017年7月，國(guó)務(wù)院印發(fā)《新一代人工智能發(fā)展規(guī)劃》，提出必須高度重視可能帶來(lái)的安全風(fēng)險(xiǎn)挑戰(zhàn)。2019年2月，科技部宣布成立新一代人工智能治理專業(yè)委員會(huì)，同年6月，委員會(huì)發(fā)布《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》，明確發(fā)展與治理的關(guān)系，提出和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔(dān)責(zé)任、開放協(xié)作、敏捷治理等八條原則。2020年，數(shù)據(jù)安全法、個(gè)人信息保護(hù)法等法律草案相繼公布，為人工智能應(yīng)用過程中個(gè)人信息保護(hù)和數(shù)據(jù)安全構(gòu)筑了安全防線，我國(guó)保障人工智能健康發(fā)展的法律法規(guī)和倫理道德框架正逐漸完善。

　　三、多措并舉筑牢人工智能安全防線

　　我們應(yīng)清醒認(rèn)識(shí)到人工智能的“雙刃劍”作用，主動(dòng)應(yīng)對(duì)風(fēng)險(xiǎn)和挑戰(zhàn)，從加強(qiáng)頂層設(shè)計(jì)、推動(dòng)算法優(yōu)化、構(gòu)建數(shù)據(jù)規(guī)范、開展安全測(cè)評(píng)等方面規(guī)范人工智能技術(shù)，推動(dòng)我國(guó)人工智能更快更好發(fā)展。

　　加強(qiáng)頂層設(shè)計(jì)，構(gòu)建安全風(fēng)險(xiǎn)管理體系。開展人工智能安全風(fēng)險(xiǎn)相關(guān)問題的研究，盡快構(gòu)建重點(diǎn)突出、具有可操作性的安全風(fēng)險(xiǎn)管控體系，提升風(fēng)險(xiǎn)研判、防范和管控能力，促進(jìn)人工智能技術(shù)健康發(fā)展。

　　推動(dòng)算法優(yōu)化，增強(qiáng)人工智能應(yīng)用可靠性。開展人工智能前沿算法攻關(guān)，提升算法的可解釋性。加強(qiáng)數(shù)據(jù)脫敏、差分隱私等技術(shù)的研究，分區(qū)、分級(jí)、分領(lǐng)域構(gòu)建安全技術(shù)體系，保證人工智能產(chǎn)品符合一定的安全標(biāo)準(zhǔn)與道德規(guī)范。

　　構(gòu)建數(shù)據(jù)規(guī)范，加大隱私安全保護(hù)力度。完善數(shù)據(jù)合規(guī)應(yīng)用監(jiān)督和審計(jì)強(qiáng)化數(shù)據(jù)安全技術(shù)能力建設(shè)，建立統(tǒng)一高效、協(xié)同聯(lián)動(dòng)的安全管理體系，做好個(gè)人信息保護(hù)與數(shù)據(jù)安全管理。

　　完善標(biāo)準(zhǔn)體系，開展關(guān)鍵技術(shù)產(chǎn)品安全風(fēng)險(xiǎn)測(cè)評(píng)。加快制定人工智能相關(guān)技術(shù)發(fā)展及應(yīng)用的安全標(biāo)準(zhǔn)，圍繞人臉識(shí)別、語(yǔ)音識(shí)別等重點(diǎn)領(lǐng)域開展第三方安全風(fēng)險(xiǎn)評(píng)估檢測(cè)認(rèn)證，保障人工智能技術(shù)安全、產(chǎn)品安全、數(shù)據(jù)安全和應(yīng)用安全。