這份由國家科技倫理委員會(huì)人工智能倫理分委員會(huì)組織編寫的文件，意在指導(dǎo)駕駛自動(dòng)化技術(shù)研究開發(fā)和應(yīng)用的規(guī)范開展，防范駕駛自動(dòng)化技術(shù)研究開發(fā)與應(yīng)用過程中的科技倫理風(fēng)險(xiǎn)，推動(dòng)該領(lǐng)域健康發(fā)展，確保駕駛自動(dòng)化技術(shù)研發(fā)和推廣符合社會(huì)公眾利益。

對生命安全的尊重和保護(hù)擺在首位

“駕駛自動(dòng)化系統(tǒng)具有技術(shù)和社會(huì)‘雙重’屬性，相關(guān)技術(shù)創(chuàng)新和產(chǎn)業(yè)化過程必須充分考慮社會(huì)公眾的價(jià)值追求和倫理考量。”國家科技倫理委員會(huì)人工智能倫理分委員會(huì)委員、中國新一代人工智能發(fā)展戰(zhàn)略研究院執(zhí)行院長龔克表示，提出符合我國國情的倫理指引，是為了規(guī)范駕駛自動(dòng)化技術(shù)研發(fā)和推廣行為，防范和化解相關(guān)領(lǐng)域倫理風(fēng)險(xiǎn)。

《指引》的適用對象是與駕駛自動(dòng)化技術(shù)相關(guān)的責(zé)任主體，包括技術(shù)研發(fā)主體、生產(chǎn)制造主體、使用主體等，適用的客體化載體為具有駕駛自動(dòng)化功能的汽車，既適用于具有先進(jìn)駕駛輔助功能的汽車，也適用于裝載了自動(dòng)駕駛系統(tǒng)的汽車。

《指引》提出了四個(gè)基本原則——以人為本、增進(jìn)福祉；安全優(yōu)先、尊重生命；公平公正、避免偏見；知情保障、信息公開。同時(shí)，《指引》提出了合法合規(guī)、效益提升、控制風(fēng)險(xiǎn)、及時(shí)調(diào)整、隱私保護(hù)等五項(xiàng)一般要求。

在龔克看來，《指引》呈現(xiàn)四大特點(diǎn)：倡導(dǎo)安全性、體現(xiàn)共識性、遵循漸進(jìn)性、強(qiáng)調(diào)可應(yīng)用性。比如，將駕駛安全置于突出地位，提出駕駛自動(dòng)化技術(shù)研究開發(fā)和應(yīng)用必須充分考慮安全性，其中既包括駕駛自動(dòng)化參與者的生命主體安全，也包括道路交通環(huán)境安全和數(shù)據(jù)、算法等技術(shù)安全。

《指引》明確，駕駛自動(dòng)化系統(tǒng)的研究開發(fā)和應(yīng)用要在注重技術(shù)提升效益的同時(shí)，更加強(qiáng)調(diào)相關(guān)風(fēng)險(xiǎn)的防范和責(zé)任落實(shí)。

“在風(fēng)險(xiǎn)防范方面，高度重視駕駛自動(dòng)化系統(tǒng)對生命安全的尊重和保護(hù)，明確提出在不可避免的交通事故和極端行車環(huán)境中，應(yīng)最大限度降低對人的傷害。”龔克認(rèn)為，《指引》還注重防范數(shù)據(jù)隱私、算法歧視、算法解釋等因素可能對相關(guān)主體造成的風(fēng)險(xiǎn)。

不同類型駕駛自動(dòng)化系統(tǒng)皆“有規(guī)可循”

在綜合借鑒國際標(biāo)準(zhǔn)、國家政策和地方實(shí)踐的基礎(chǔ)上，基于《汽車駕駛自動(dòng)化分級標(biāo)準(zhǔn)》等文件，《指引》將駕駛自動(dòng)化劃分為先進(jìn)駕駛輔助階段、有限制階段的自動(dòng)駕駛、無限制階段的自動(dòng)駕駛?cè)N類型，對不同類型駕駛自動(dòng)化的責(zé)任主體進(jìn)行劃分。

先進(jìn)駕駛輔助階段是指2級及以下的駕駛自動(dòng)化，其責(zé)任主體通常是人類駕駛員；有限制階段的自動(dòng)駕駛包括3級和4級駕駛自動(dòng)化，責(zé)任主體因具體運(yùn)行場景而異，用戶和自動(dòng)駕駛系統(tǒng)都可能成為責(zé)任主體；無限制階段的自動(dòng)駕駛包括5級駕駛自動(dòng)化，除非特殊情況下用戶主動(dòng)介入操作，無限制階段自動(dòng)駕駛的責(zé)任主體一般以自動(dòng)駕駛系統(tǒng)為主。

《指引》明確，當(dāng)自動(dòng)駕駛系統(tǒng)作為自動(dòng)駕駛責(zé)任主體時(shí)，應(yīng)當(dāng)能夠根據(jù)有關(guān)法律法規(guī)、技術(shù)標(biāo)準(zhǔn)向相關(guān)自然人主體或法人主體（包括但不限于自動(dòng)駕駛系統(tǒng)開發(fā)者、自動(dòng)駕駛系統(tǒng)生產(chǎn)商、自動(dòng)駕駛汽車權(quán)利人、自動(dòng)駕駛系統(tǒng)用戶）清晰追責(zé)。

《指引》在“科普宣傳”部分指出，在發(fā)布重大研究成果時(shí)，相關(guān)主體應(yīng)堅(jiān)持客觀準(zhǔn)確、實(shí)事求是，避免片面夸大、隱匿風(fēng)險(xiǎn)，不得編造、傳播與駕駛自動(dòng)化系統(tǒng)實(shí)際功能和效果不相符的虛假信息。

“由于受到專業(yè)知識限制，社會(huì)公眾容易陷入對駕駛自動(dòng)化技術(shù)的認(rèn)知鴻溝，造成對相關(guān)產(chǎn)品的錯(cuò)誤認(rèn)知和使用。”龔克告訴記者，在商業(yè)競爭誘導(dǎo)下，技術(shù)開發(fā)商和汽車生產(chǎn)商可能夸大技術(shù)能力或隱匿風(fēng)險(xiǎn)，誘發(fā)駕駛自動(dòng)化系統(tǒng)相關(guān)事故導(dǎo)致的技術(shù)恐慌和信任危機(jī)。為了推動(dòng)駕駛自動(dòng)化技術(shù)健康發(fā)展，構(gòu)建廣泛的社會(huì)信任和倫理共識，《指引》單獨(dú)列出了相關(guān)主體在“科普宣傳”方面需遵循的倫理規(guī)范。

后續(xù)，《指引》將根據(jù)技術(shù)迭代、應(yīng)用場景拓展，以及社會(huì)反饋動(dòng)態(tài)修訂并適時(shí)發(fā)布。

關(guān)鍵詞：