（原標(biāo)題：代表委員提醒： 重視AI換臉背后的倫理隱憂）

本報(bào)記者 張蓋倫

前段時(shí)間，一則短視頻火了。網(wǎng)友用人工智能技術(shù)，將電視劇《射雕英雄傳》中演員朱茵的臉換成了楊冪。這個(gè)楊冪版“黃蓉”毫不違和，古靈精怪，嬌俏可人，你甚至都看不出視頻有被處理過(guò)的痕跡。

技術(shù)非常好玩，讓人躍躍欲試。而且，現(xiàn)在還有相關(guān)程序，只要你有足夠的素材，有一臺(tái)配置不錯(cuò)的電腦，就能完成一段“變臉視頻”。

所以，眼見(jiàn)也不一定為實(shí)。

其他問(wèn)題同樣就在眼前：智能駕駛車已經(jīng)充分利用了人工智能技術(shù)，有一定的自主能力。商用后，如果發(fā)生了意外，出現(xiàn)了事故，責(zé)任人是誰(shuí)，法律主體怎么認(rèn)定？是制造商、算法的開(kāi)發(fā)商，還是使用者本人？全國(guó)人大代表、騰訊公司董事會(huì)主席兼首席執(zhí)行官馬化騰將他的顧慮一一道來(lái)。他告訴科技日?qǐng)?bào)記者，新技術(shù)帶來(lái)的科技倫理問(wèn)題越來(lái)越熱，但現(xiàn)在都沒(méi)有明確規(guī)則，“因?yàn)樘铝?rdquo;。

人工智能正在滲透進(jìn)你我的生活。它向你推薦餐廳，它為你進(jìn)行搭配，它幫你篩選新聞，它還能替你選擇伴侶……現(xiàn)在，它根據(jù)你的需求，能為你定制一段并不存在的視頻。正如全國(guó)人大代表、天津大學(xué)黨委書(shū)記李家俊所說(shuō)，人工智能對(duì)數(shù)據(jù)的收集和挖掘，有可能侵害個(gè)人隱私甚至危害公共安全；而從宏觀局面來(lái)說(shuō)，人工智能技術(shù)的發(fā)展，還可能引發(fā)新產(chǎn)業(yè)革命和經(jīng)濟(jì)結(jié)構(gòu)調(diào)整。

如何讓這柄“雙刃劍”在社會(huì)治理中發(fā)揮正向作用？馬化騰給出的藥方是，強(qiáng)化科技倫理的制度化建設(shè)。

在國(guó)家層面，他建議針對(duì)相關(guān)新技術(shù)制定倫理準(zhǔn)則，對(duì)新技術(shù)應(yīng)用進(jìn)行引導(dǎo)和規(guī)范。馬化騰說(shuō)，行業(yè)主管部門(mén)可以與行業(yè)主體、學(xué)術(shù)團(tuán)體、社會(huì)公眾等多利益相關(guān)方合作，制定相關(guān)倫理準(zhǔn)則，并支持行業(yè)自律，包括建立倫理審查制度、成立自律組織、制定行業(yè)標(biāo)準(zhǔn)等。在國(guó)際層面，應(yīng)積極推動(dòng)新技術(shù)領(lǐng)域的全球治理，參與國(guó)際標(biāo)準(zhǔn)、規(guī)則的制定，推動(dòng)建立人工智能研發(fā)與應(yīng)用的全球共同倫理框架，確保人工智能持續(xù)造福全人類和全世界的發(fā)展。

更具體一些來(lái)說(shuō)，則要為相關(guān)人工智能應(yīng)用建立安全標(biāo)準(zhǔn)，打擊和人工智能相關(guān)的新型犯罪，為人工智能應(yīng)用探索制定恰當(dāng)合理的規(guī)則。

和馬化騰一樣，李家俊也建議建立相關(guān)倫理規(guī)約體系。在他看來(lái)，不同的主體，應(yīng)發(fā)揮好各自的作用。

首先，是決策者立德。李家俊建議，由中國(guó)科協(xié)組織人工智能及相關(guān)領(lǐng)域?qū)＜覍W(xué)者制定我國(guó)的《人工智能倫理章程》，設(shè)置人工智能的倫理框架、道德準(zhǔn)則，其次，由國(guó)家市場(chǎng)監(jiān)管總局牽頭，做好人工智能技術(shù)、產(chǎn)品的倫理審查，從技術(shù)層面做好人工智能的道德預(yù)設(shè)，“而研發(fā)者也要承擔(dān)自己的責(zé)任”。今年政府工作報(bào)告中指出，要加強(qiáng)科研倫理。李家俊說(shuō)，可以由科技部牽頭，組建人工智能倫理委員會(huì)，對(duì)科研人員的社會(huì)責(zé)任、職業(yè)規(guī)范提供監(jiān)督指導(dǎo)，并從制度上為人工智能研發(fā)明確禁區(qū)、劃定邊界、樹(shù)立底線。

深度學(xué)習(xí)算法常被稱作“黑匣子”，連算法設(shè)計(jì)者自己也不知其如何運(yùn)作，更別說(shuō)對(duì)其給出的運(yùn)算結(jié)果進(jìn)行解釋。李家俊強(qiáng)調(diào)，應(yīng)該提升人工智能算法的可解釋性和可預(yù)測(cè)性，強(qiáng)化人機(jī)互動(dòng)間的反饋信度、理解精度和執(zhí)行效度，維護(hù)健康有序的人機(jī)關(guān)系，構(gòu)建社會(huì)公序良俗。

“所有行業(yè)的高級(jí)發(fā)展、終極模式，最終都要跟AI結(jié)合。”馬化騰表示，對(duì)人工智能發(fā)展中的倫理問(wèn)題，可以先從研究和倡議開(kāi)始。“這是第一步，但現(xiàn)在做得也還遠(yuǎn)遠(yuǎn)不夠。”

【來(lái)源：科技日?qǐng)?bào)社-中國(guó)科技網(wǎng)】