一、人工智能發(fā)展帶來一定安全風(fēng)險

　　人工智能技術(shù)存在算法黑箱、技術(shù)濫用、侵犯隱私等安全問題，隨著人工智能與實體經(jīng)濟深度融合，這些風(fēng)險將會進(jìn)一步疊加放大，給公共安全、道德倫理、社會治理等帶來挑戰(zhàn)。

　　技術(shù)內(nèi)生風(fēng)險。深度學(xué)習(xí)作為運用最為廣泛的人工智能技術(shù)，存在“算法黑箱”“不可解釋”等缺點，難以對其實施檢測檢查，一旦算法模型中存在漏洞，其產(chǎn)生的安全風(fēng)險問題可能對社會安全產(chǎn)生重大威脅。華盛頓大學(xué)等高校的研究人員在一篇論文中披露，自動駕駛汽車并不能“真正理解”指示牌上的圖案，而是通過一些特征來進(jìn)行識別，人們只需要在交通標(biāo)志上用貼紙進(jìn)行相應(yīng)處理，就可以讓系統(tǒng)錯誤地將停車標(biāo)志識別為限速標(biāo)志。

　　技術(shù)濫用風(fēng)險。技術(shù)發(fā)展是把雙刃劍，隨著人工智能應(yīng)用日益深入，出現(xiàn)了利用計算機視覺、智能語音等技術(shù)實現(xiàn)“換臉”“換音”的情形，不但侵犯個人隱私，還可能被用于實施詐騙，產(chǎn)生嚴(yán)重后果。2019 年 3 月，《華爾街日報》報道，有犯罪分子使用深度偽造技術(shù)成功模仿了英國某能源公司在德國母公司CEO的聲音，詐騙了220000歐元，造成嚴(yán)重的財產(chǎn)損失。

　　數(shù)據(jù)隱私風(fēng)險。人工智能技術(shù)訓(xùn)練需要依靠大量數(shù)據(jù)，但當(dāng)前數(shù)據(jù)的獲取、使用的監(jiān)督管理尚不完善，存在隱私泄露、數(shù)據(jù)濫用等風(fēng)險，同時數(shù)據(jù)作為重要資產(chǎn)，跨境流動時處理不當(dāng)還可能對國家安全產(chǎn)生威脅。2020年2月，服務(wù)于600多家執(zhí)法機構(gòu)及安保公司的美國人臉識別創(chuàng)業(yè)公司Clearview AI稱其客戶面部信息數(shù)據(jù)庫被盜，據(jù)報道，Clearview AI從網(wǎng)絡(luò)社交媒體上抓取了超過30億張照片，這些數(shù)據(jù)在采集時并未明確獲得用戶的同意。

　　二、加大力度防控人工智能安全風(fēng)險成為各國共識

　　為應(yīng)對人工智能潛在安全風(fēng)險，各國紛紛加強人工智能安全問題的前瞻性研究，加大力度防控人工智能安全風(fēng)險，制定了一系列治理準(zhǔn)則和規(guī)范指南。

　　美國發(fā)布規(guī)范應(yīng)用指南，兼顧人工智能安全監(jiān)管與創(chuàng)新發(fā)展。去年以來，美國對人工智能安全的關(guān)注度日益提升。一方面，美國白宮于2020年1月發(fā)布《人工智能應(yīng)用規(guī)范指南》，提出公眾信任、公平和非歧視、公開與透明、安全等10條人工智能監(jiān)管原則，從國家層面規(guī)范人工智能發(fā)展并避免嚴(yán)格監(jiān)管阻礙創(chuàng)新。2020年12月，美國白宮公布特朗普簽署的《在聯(lián)邦政府中促進(jìn)使用可信賴的人工智能》行政令，強調(diào)人工智能的使用必須符合合法、安全可靠和具有彈性、負(fù)責(zé)任和可追溯等原則。另一方面，國防、交通、衛(wèi)生等人工智能應(yīng)用場景的安全準(zhǔn)則日益完善。2020年2月，國防部采納國防創(chuàng)新委員會建議的負(fù)責(zé)任、公平、可追溯、可靠和可控管理等5項新人工智能道德原則，為國防部研發(fā)、部署和使用人工智能奠定道德基礎(chǔ)。同月，美國白宮和交通部共同發(fā)布自動駕駛汽車準(zhǔn)則4.0，確立了自動駕駛的三大類十大原則，其中指出優(yōu)先考慮安全、強調(diào)網(wǎng)絡(luò)安全、確保隱私和數(shù)據(jù)安全。2021年1月，衛(wèi)生部發(fā)布《人工智能戰(zhàn)略》，希望在整個部門大規(guī)模采用“值得信賴的人工智能”。

　　歐盟提出人工智能分類監(jiān)管設(shè)想，致力于構(gòu)建可信人工智能。歐盟一貫執(zhí)行嚴(yán)格的安全隱私和道德治理標(biāo)準(zhǔn)，始終是“可信人工智能”推動者。2018年5月，《通用數(shù)據(jù)保護條例》生效實施，規(guī)范了數(shù)據(jù)的收集使用，保護公民免受隱私侵犯和數(shù)據(jù)泄露侵害。2019年4月，歐盟發(fā)布《可信人工智能倫理指南》，提出實現(xiàn)人類自主和監(jiān)督、確保技術(shù)穩(wěn)健和安全、重視隱私和數(shù)據(jù)治理、建立問責(zé)機制等七項可信人工智能發(fā)展要求。2020年2月，歐盟委員會發(fā)布《人工智能白皮書——通往卓越和信任的歐洲路徑》，提出對用于人才招聘、醫(yī)療保健、交通運輸、能源和部分公共部門等高風(fēng)險應(yīng)用場景的人工智能產(chǎn)品和服務(wù)開展強制性的合格評定，對非高風(fēng)險的人工智能應(yīng)用采取自愿合格評定。2020年2，歐盟委員會發(fā)布《關(guān)于人工智能、物聯(lián)網(wǎng)、機器人對安全和責(zé)任的影響的報告》，介紹了當(dāng)前的歐盟產(chǎn)品安全制度，并探討了改進(jìn)措施。

　　我國高度重視安全治理工作，積極推動人工智能健康有序發(fā)展。習(xí)近平總書記明確要求，“要加強人工智能發(fā)展的潛在風(fēng)險研判和防范”“要確保人工智能安全、可靠、可控”“要整合多學(xué)科力量，加強人工智能相關(guān)法律、倫理、社會問題研究，建立健全保障人工智能健康發(fā)展的法律法規(guī)、制度體系、倫理道德?！?017年7月，國務(wù)院印發(fā)《新一代人工智能發(fā)展規(guī)劃》，提出必須高度重視可能帶來的安全風(fēng)險挑戰(zhàn)。2019年2月，科技部宣布成立新一代人工智能治理專業(yè)委員會，同年6月，委員會發(fā)布《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》，明確發(fā)展與治理的關(guān)系，提出和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔(dān)責(zé)任、開放協(xié)作、敏捷治理等八條原則。2020年，數(shù)據(jù)安全法、個人信息保護法等法律草案相繼公布，為人工智能應(yīng)用過程中個人信息保護和數(shù)據(jù)安全構(gòu)筑了安全防線，我國保障人工智能健康發(fā)展的法律法規(guī)和倫理道德框架正逐漸完善。

　　三、多措并舉筑牢人工智能安全防線

　　我們應(yīng)清醒認(rèn)識到人工智能的“雙刃劍”作用，主動應(yīng)對風(fēng)險和挑戰(zhàn)，從加強頂層設(shè)計、推動算法優(yōu)化、構(gòu)建數(shù)據(jù)規(guī)范、開展安全測評等方面規(guī)范人工智能技術(shù)，推動我國人工智能更快更好發(fā)展。

　　加強頂層設(shè)計，構(gòu)建安全風(fēng)險管理體系。開展人工智能安全風(fēng)險相關(guān)問題的研究，盡快構(gòu)建重點突出、具有可操作性的安全風(fēng)險管控體系，提升風(fēng)險研判、防范和管控能力，促進(jìn)人工智能技術(shù)健康發(fā)展。

　　推動算法優(yōu)化，增強人工智能應(yīng)用可靠性。開展人工智能前沿算法攻關(guān)，提升算法的可解釋性。加強數(shù)據(jù)脫敏、差分隱私等技術(shù)的研究，分區(qū)、分級、分領(lǐng)域構(gòu)建安全技術(shù)體系，保證人工智能產(chǎn)品符合一定的安全標(biāo)準(zhǔn)與道德規(guī)范。

　　構(gòu)建數(shù)據(jù)規(guī)范，加大隱私安全保護力度。完善數(shù)據(jù)合規(guī)應(yīng)用監(jiān)督和審計強化數(shù)據(jù)安全技術(shù)能力建設(shè)，建立統(tǒng)一高效、協(xié)同聯(lián)動的安全管理體系，做好個人信息保護與數(shù)據(jù)安全管理。

　　完善標(biāo)準(zhǔn)體系，開展關(guān)鍵技術(shù)產(chǎn)品安全風(fēng)險測評。加快制定人工智能相關(guān)技術(shù)發(fā)展及應(yīng)用的安全標(biāo)準(zhǔn)，圍繞人臉識別、語音識別等重點領(lǐng)域開展第三方安全風(fēng)險評估檢測認(rèn)證，保障人工智能技術(shù)安全、產(chǎn)品安全、數(shù)據(jù)安全和應(yīng)用安全。