對(duì)話動(dòng)機(jī)

人工智能、自主系統(tǒng)的出現(xiàn)，不但挑戰(zhàn)了人類對(duì)自然的認(rèn)識(shí)，也挑戰(zhàn)了人類對(duì)自己的認(rèn)識(shí)，其中就包括各種不可想象變?yōu)楝F(xiàn)實(shí)后的法律風(fēng)險(xiǎn)。人工智能離我們的生活有多遠(yuǎn)？人工智能時(shí)代，我們將面臨哪些風(fēng)險(xiǎn)？又該如何防范？圍繞這些話題，《法制日報(bào)》記者與業(yè)內(nèi)研究人士展開了對(duì)話。

對(duì)話人

騰訊研究院研究員曹建峰

人工智能是什么

記者：對(duì)于人工智能，很多人的了解還停留在科幻電影、阿爾法狗。從概念上說，人工智能是一種怎樣的存在？

曹建峰：通俗地理解，人工智能就是機(jī)器能完成人類需要智力才能完成的任務(wù)。

以往，我們認(rèn)為地球上只有人類才有智能，人類的智能包括理性思維、語言能力、邏輯推理和情感，可以解決問題，有自己的目標(biāo)，可以執(zhí)行行動(dòng)。當(dāng)然，“智能”這個(gè)詞的邊界尚有很多爭議，也在不斷變化。目前對(duì)“人工智能”（AI）和“自主系統(tǒng)”（AS）中的人工智能概念在科學(xué)界還沒有達(dá)成一個(gè)共識(shí)。

美國“人工智能教科書”以人類為參考，對(duì)人工智能有一個(gè)通常的定義，即像人一樣思考，像人一樣行動(dòng)，理性思考和理性行動(dòng)。對(duì)人工智能還有一些其他的定義，例如能自己設(shè)立目標(biāo)，然后制定一系列的計(jì)劃執(zhí)行出來。

人工智能內(nèi)在的技術(shù)或核心用到了一些深度算法，例如神經(jīng)網(wǎng)絡(luò)算法，模擬人的大腦結(jié)構(gòu)，從而模擬人類思維、決策的過程。還有深度學(xué)習(xí)、基因算法、進(jìn)化論等，深度算法技術(shù)支持著機(jī)器人進(jìn)行某種決策。

人工智能和以往的計(jì)算機(jī)程序的區(qū)別，就是它具有自主性，只需要給它一些最原始的數(shù)據(jù)，它自己可以推出一個(gè)結(jié)論，做出自己的決策和判斷，它有學(xué)習(xí)的能力，這就是自主性。

記者：我們接觸比較早也比較多的人工智能，應(yīng)該算是聊天機(jī)器人軟件。它會(huì)通過所有用戶的使用過程進(jìn)行語言學(xué)習(xí)，“進(jìn)化”自己，逐漸進(jìn)行更豐富的對(duì)話。當(dāng)然，聊天機(jī)器人軟件也會(huì)學(xué)到臟話，用戶在對(duì)話中告訴它“你說的是臟話”，它還會(huì)糾正自己。除了這種聊天機(jī)器人軟件，目前的日常生活里，我們還會(huì)遇到哪些人工智能應(yīng)用？

曹建峰：國外大軟件公司都在推出自己的聊天機(jī)器人，目前這種應(yīng)用還是比較初步的。此外，例如自動(dòng)駕駛汽車或輔助駕駛，駕駛員不需要按著方向盤，可以自主完成停車、變道、轉(zhuǎn)彎。人工智能應(yīng)用還有酒店服務(wù)機(jī)器人、救援機(jī)器人，個(gè)性化推薦等。

法律風(fēng)險(xiǎn)有哪些

記者：在影視劇中，我們會(huì)看到很多探討人工智能與人類倫理法律的問題。隨著人工智能技術(shù)的發(fā)展，我們在現(xiàn)實(shí)生活里是否也會(huì)遇到這些問題？

曹建峰：AI系統(tǒng)應(yīng)用日益廣泛，進(jìn)入了社會(huì)生活的很多方面。首先是安全問題，從法律角度看，就可以轉(zhuǎn)化為責(zé)任問題。例如無人駕駛會(huì)不會(huì)對(duì)我們的財(cái)產(chǎn)、人身安全造成傷害？司機(jī)坐在上面不需要自己開車，更像是一個(gè)乘客的角色。如果無人駕駛車輛出現(xiàn)故障，導(dǎo)致司機(jī)致人損害，司機(jī)是否能夠獲得賠償？在混合駕駛模式下，司機(jī)和車需要配合，發(fā)生了車禍，廠商是否需要擔(dān)責(zé)？司機(jī)和廠商的責(zé)任分配問題目前還比較模糊。

再比如，如何保證人工智能遵守社會(huì)規(guī)范和社會(huì)價(jià)值，它面對(duì)風(fēng)險(xiǎn)的時(shí)候怎么像人一樣決策。例如救援機(jī)器人，在老者和弱者之間怎么選擇，先救誰后救誰，這些都需要提前考慮。

還有隱私的問題。人工智能發(fā)展迅速，它做出決策需要大量的個(gè)人數(shù)據(jù)存在人工智能系統(tǒng)中。人工智能系統(tǒng)對(duì)我們進(jìn)行“畫像”，形成一個(gè)“感官的印象”。我們自己可能都無法知道我們被這些軟件或系統(tǒng)進(jìn)行了畫像，更無從知曉這些畫像是否真實(shí)?；蛘哒f，系統(tǒng)給我們打一些標(biāo)簽，我們可能不知道它給我們打的是什么樣的標(biāo)簽，這些標(biāo)簽是不是錯(cuò)誤或者有一些問題，這些標(biāo)簽轉(zhuǎn)移到其他場合的時(shí)候，會(huì)對(duì)我們的權(quán)利產(chǎn)生影響，比如可能影響我們申請貸款、找工作等。我們自己意識(shí)不到這個(gè)問題，因?yàn)樗褂玫男畔⑹遣还_不透明的。

記者：也就是說，人工智能系統(tǒng)搜集的可能是片面的信息，在將來會(huì)對(duì)人的權(quán)利產(chǎn)生影響。

曹建峰：人工智能系統(tǒng)收集什么信息、這個(gè)信息做怎樣的決策，我們自己是無法控制的，更多時(shí)候也是不知情的。

比如，國外一些公司在招聘時(shí)會(huì)用AI對(duì)應(yīng)聘者進(jìn)行人格測試，如果系統(tǒng)認(rèn)為應(yīng)聘者未來會(huì)患上某種疾病或懷孕，可能會(huì)造成應(yīng)聘者被拒，會(huì)違反禁止歧視的法律規(guī)定。

還有一個(gè)問題是算法歧視，這是一個(gè)比較迫切的問題。以前有很多工作都是人來完成的，現(xiàn)在被人工智能系統(tǒng)代替，例如個(gè)性化推薦。

風(fēng)險(xiǎn)該怎樣防控

記者：關(guān)于人工智能可能產(chǎn)生的法律問題，我們是否應(yīng)提前做好應(yīng)對(duì)？

曹建峰：現(xiàn)在討論有些問題可能還太早，比如人工智能的智力是否會(huì)超越人類、脫離人類控制等問題，目前來看還比較遠(yuǎn)。

不過，一些比較具體的問題還是需要提前關(guān)注。比如無人駕駛汽車、混合駕駛汽車，很快就會(huì)進(jìn)入我們的生活，其中涉及的法律問題需要提前考慮。

記者：在剛才所提到的一些問題中，還包括財(cái)產(chǎn)和安全的威脅、責(zé)任、遵守人類的法則、算法歧視等，這些是否也都應(yīng)成為法律關(guān)注點(diǎn)？

曹建峰：對(duì)，很多方面都是法律問題，可以用法律解決。事前的監(jiān)管主要是研發(fā)環(huán)節(jié)，如果不考慮人類社會(huì)的道德規(guī)范和價(jià)值規(guī)范，人工智能應(yīng)用投入市場之后，在面對(duì)危險(xiǎn)和事故時(shí)，可能做出一些有違人類期待的決策。

世界各國業(yè)界都很關(guān)心人工智能的研發(fā)環(huán)節(jié)，也就是說設(shè)計(jì)開發(fā)過程是否應(yīng)該有一些倫理守則，包括遵守人類的道德規(guī)范和價(jià)值規(guī)范、確保安全、公眾如何信任研發(fā)的AI系統(tǒng)。

首先，成文的法律是必須要遵守的，成文的法律寫入代碼需要一些方法論。還有面對(duì)危機(jī)的時(shí)候，人工智能應(yīng)該遵守哪些善惡、是非的選擇，這些共識(shí)性的道德規(guī)則、社會(huì)和一些團(tuán)體共同的價(jià)值觀要寫入代碼。

在研發(fā)過程中，程序員寫出來的程序可能在技術(shù)上沒有瑕疵，但可能存在社會(huì)領(lǐng)域的漏洞，一旦應(yīng)用可能產(chǎn)生歧視或安全隱患，這就需要建立倫理委員會(huì)的審查機(jī)制，從社會(huì)規(guī)范和價(jià)值的角度審查算法、邏輯是否與人類規(guī)范、價(jià)值是一致的，并從專業(yè)角度給予建議。

記者：通過剛才的對(duì)話可以看出，公開透明原則非常重要，但這一點(diǎn)該如何解決？

曹建峰：信息透明這個(gè)問題有幾種解決方式，一是人工智能開源運(yùn)動(dòng)。開源軟件，顧名思義大家都可以共享源代碼，可以對(duì)軟件進(jìn)行審查，可以及時(shí)發(fā)現(xiàn)一些問題。另一種方式是，人工智能系統(tǒng)可能不需要向每個(gè)人公開，但需要向?qū)徟谋O(jiān)管部門公開源代碼和其他的材料。

自動(dòng)輔助駕駛，車輛會(huì)自覺“守法”嗎

講述人：朱宏北京市民

2016年7月15日下午，我將車開上北京四環(huán)，開啟了自動(dòng)輔助駕駛功能。

在自動(dòng)輔助駕駛模式下，車輛方向盤會(huì)自動(dòng)根據(jù)道路方向轉(zhuǎn)動(dòng)，帶動(dòng)車輛轉(zhuǎn)彎。如果要并線，車主主動(dòng)打燈后，在間距允許時(shí)，車輛將自動(dòng)并線。泊車時(shí)，經(jīng)過一個(gè)空車位，停下掛倒擋，屏幕上會(huì)提示看到了車位，點(diǎn)擊“自動(dòng)泊車”按鈕，車輛自動(dòng)向后退進(jìn)入車位擺正。

在自動(dòng)輔助駕駛模式下，車與駕駛者的交互，主要呈現(xiàn)在駕駛者視線正前方的儀表盤上。當(dāng)車已經(jīng)識(shí)別出車道線，或者識(shí)別出前車跟隨后，駕駛者就可以打開“限速行駛”。限速是指車的攝像頭探測到道路邊的限速牌標(biāo)示的數(shù)字。車會(huì)馬上提速，以盡可能快又不撞上前車的速度行駛，此后，駕駛者就可以啟動(dòng)自動(dòng)輔助駕駛模式了。進(jìn)入自動(dòng)輔助駕駛模式時(shí)，屏幕會(huì)提示“請保持雙手不離開方向盤”。

繞四環(huán)近70公里路程，我分了兩段。第一段，我從四元橋出發(fā)，到四惠附近的一家交互設(shè)計(jì)公司。第二段，我從四惠出發(fā)往南，繞四環(huán)回到酒仙橋。再說一下路況，我在四惠、學(xué)院橋、望京橋遭遇明顯擁堵，西四環(huán)暢通。這次繞四環(huán)總共耗時(shí)一個(gè)多小時(shí)，還算比較順利。

在自動(dòng)輔助駕駛繞四環(huán)一圈過程中，我被嚇出冷汗兩次。第一次是有車輛不文明駕駛惡意并線，當(dāng)時(shí)輔助駕駛察覺到了旁邊的車突然加塞進(jìn)來，車已經(jīng)開始減速，我還是親自“上陣”。

第二次是我從四惠橋出四環(huán)開向京通快速路時(shí)，幾條道匯合的地方有十來根半米高的塑料小欄桿，自動(dòng)輔助駕駛中的車似乎沒檢測出這些塑料小欄桿，直接往小欄桿上開，我察覺到之后馬上主動(dòng)剎車。

這趟四環(huán)“開”下來，為了按交通規(guī)則安全并線，我強(qiáng)行打斷自動(dòng)輔助駕駛近10次；遇到其他車輛不文明行駛強(qiáng)行并線，我強(qiáng)行剎車20多次；出現(xiàn)其他感知到的危險(xiǎn)情況，我主動(dòng)打斷自動(dòng)輔助駕駛近10次。

其間，我頭一次認(rèn)真觀察周圍的那些車，才發(fā)現(xiàn)有那么多車違反交通規(guī)則壓著線占兩車道行駛。在自動(dòng)輔助駕駛模式下，車輛會(huì)分析道路白線；當(dāng)有前車可以跟隨時(shí)，會(huì)優(yōu)先以前車為準(zhǔn)，白線為參考。當(dāng)遇到前車隨意壓線時(shí)，自動(dòng)輔助駕駛模式下的車輛也會(huì)跟著隨意壓線，緊跟前車的交通違法節(jié)奏。

車在自動(dòng)輔助駕駛時(shí)是跟隨車道而行，自動(dòng)輔助駕駛模式在車道線清晰的大路上會(huì)很理想，在小路和施工路段上不太可靠。

平時(shí)，我開車?yán)@四環(huán)一圈是不需要休息的。打開自動(dòng)輔助駕駛模式，反而因精力太集中需要緩解精神，我停車在路邊休息了3次。

關(guān)于自動(dòng)輔助駕駛，我的感受是這項(xiàng)功能可用，但是駕駛者不能分神。自動(dòng)輔助駕駛也需要駕駛者與機(jī)器有一個(gè)互相信任的過程。

更多資訊請關(guān)注工業(yè)機(jī)器人頻道