科技日?qǐng)?bào)記者 劉垠

4月29日，科技部官網(wǎng)公布《虛擬現(xiàn)實(shí)技術(shù)研發(fā)倫理指引》（以下簡(jiǎn)稱《指引》），意在著力構(gòu)建虛擬現(xiàn)實(shí)技術(shù)研發(fā)的倫理框架，規(guī)范相關(guān)技術(shù)創(chuàng)新路徑，防控潛在倫理風(fēng)險(xiǎn)。

這份由國(guó)家科技倫理委員會(huì)人工智能倫理分委員會(huì)制定的文件明確，從事虛擬現(xiàn)實(shí)技術(shù)的主體應(yīng)主動(dòng)開(kāi)展倫理評(píng)估（審查），設(shè)置相應(yīng)審查機(jī)構(gòu)（機(jī)制），產(chǎn)品或技術(shù)應(yīng)按照國(guó)家有關(guān)規(guī)定獲得倫理審查通過(guò)后方能上市。

“虛擬現(xiàn)實(shí)技術(shù)正成為全球科技競(jìng)爭(zhēng)的一個(gè)戰(zhàn)略制高點(diǎn)。其核心價(jià)值不僅在于拓展人類感知維度與認(rèn)知邊界，更承載著推動(dòng)產(chǎn)業(yè)升級(jí)、重構(gòu)社會(huì)形態(tài)的巨大潛能。”清華大學(xué)蘇世民書院院長(zhǎng)薛瀾教授在接受科技日?qǐng)?bào)記者采訪時(shí)說(shuō)，但虛擬現(xiàn)實(shí)技術(shù)的深度應(yīng)用伴生多維倫理挑戰(zhàn)。

值得關(guān)注的是，由于沉浸式體驗(yàn)、角色扮演、感官剝奪和技術(shù)依賴，虛擬現(xiàn)實(shí)技術(shù)使得行為主體容易出現(xiàn)道德意識(shí)虛化、自我意識(shí)弱化、價(jià)值認(rèn)同偏移等價(jià)值異化的倫理問(wèn)題；虛擬現(xiàn)實(shí)技術(shù)因其虛擬環(huán)境的設(shè)計(jì)、交互機(jī)制和技術(shù)手段，存在行為操控、行為依賴等倫理風(fēng)險(xiǎn)；虛擬現(xiàn)實(shí)技術(shù)的誤用、濫用，將加劇社會(huì)安全、社會(huì)責(zé)任等問(wèn)題。

為此，《指引》明確了虛擬現(xiàn)實(shí)技術(shù)研發(fā)的基本原則、倫理要求、倫理問(wèn)題、倫理評(píng)估（審查）等，提出了虛擬現(xiàn)實(shí)技術(shù)研究與應(yīng)用的一般要求：合法合規(guī)、知情同意、隱私保護(hù)和個(gè)人信息保護(hù)、風(fēng)險(xiǎn)防控、責(zé)任明晰、群體保護(hù)、警示標(biāo)識(shí)。

在薛瀾看來(lái)，《指引》的特點(diǎn)表現(xiàn)為體現(xiàn)共識(shí)度、注重覆蓋面、力求操作性。“文件覆蓋虛擬現(xiàn)實(shí)技術(shù)從研發(fā)、產(chǎn)品化到場(chǎng)景落地的主要類型與重要環(huán)節(jié)，特別強(qiáng)化對(duì)社交娛樂(lè)、教育培訓(xùn)等高頻率民生場(chǎng)景的規(guī)范要求，以及對(duì)兒童等特殊群體的專項(xiàng)保護(hù)。”他說(shuō)。

針對(duì)虛擬現(xiàn)實(shí)技術(shù)研發(fā)，《指引》構(gòu)建了覆蓋虛擬現(xiàn)實(shí)技術(shù)全生命周期的倫理評(píng)估（審查）機(jī)構(gòu)（機(jī)制）。具體而言，虛擬現(xiàn)實(shí)技術(shù)倫理評(píng)估（審查）需進(jìn)行全流程閉環(huán)管理，重點(diǎn)針對(duì)虛擬場(chǎng)景中的身份混淆、行為成癮、價(jià)值觀偏移等特有風(fēng)險(xiǎn)進(jìn)行預(yù)判。與此同時(shí)，需采用多維度手段對(duì)虛擬現(xiàn)實(shí)產(chǎn)品或技術(shù)進(jìn)行審查，檢測(cè)虛擬環(huán)境對(duì)認(rèn)知決策的潛在影響；需對(duì)虛擬現(xiàn)實(shí)產(chǎn)品或技術(shù)采取動(dòng)態(tài)化評(píng)估方法，建立用戶年齡分級(jí)、使用時(shí)長(zhǎng)預(yù)警等適配性審查標(biāo)準(zhǔn)等。

當(dāng)前，以生成式人工智能、多模態(tài)交互為代表的人工智能技術(shù)深度融入虛擬現(xiàn)實(shí)領(lǐng)域，為虛擬現(xiàn)實(shí)技術(shù)研究和應(yīng)用帶來(lái)新機(jī)遇。然而，技術(shù)融合也帶來(lái)認(rèn)知滲透、社會(huì)關(guān)系重構(gòu)等新型倫理挑戰(zhàn)：生成式人工智能和虛擬現(xiàn)實(shí)的結(jié)合可能模糊虛實(shí)邊界，導(dǎo)致用戶產(chǎn)生持續(xù)性認(rèn)知偏差；算法推薦機(jī)制在虛擬環(huán)境中形成的“信息繭房”，可能加劇價(jià)值觀極化；虛擬身份的多重映射特性，更易引發(fā)網(wǎng)絡(luò)欺詐、數(shù)據(jù)濫用等社會(huì)問(wèn)題……

薛瀾表示，為此，《指引》依據(jù)“合理控制風(fēng)險(xiǎn)”與“維護(hù)個(gè)人權(quán)益”原則，從“風(fēng)險(xiǎn)防控”與“警示標(biāo)識(shí)”兩大維度作出針對(duì)性部署：要求實(shí)現(xiàn)可審核、可監(jiān)督、可追溯、可信賴，提升安全評(píng)估和管控能力，確保人始終能可靠控制虛擬現(xiàn)實(shí)技術(shù)，采取有效措施避免和預(yù)防虛擬現(xiàn)實(shí)技術(shù)的誤用、濫用、惡用。

《指引》還要求虛擬現(xiàn)實(shí)產(chǎn)品在設(shè)備、界面、交互場(chǎng)景及說(shuō)明書中以文字、語(yǔ)音、音頻或者通用符號(hào)等顯性標(biāo)識(shí)形式醒目提示潛在風(fēng)險(xiǎn)，明確說(shuō)明技術(shù)應(yīng)用可能誘發(fā)的健康風(fēng)險(xiǎn)、行為異化、自我意識(shí)干擾等問(wèn)題，并注重警示標(biāo)識(shí)的動(dòng)態(tài)性、可識(shí)別性。