科技日報記者 劉垠

7月23日，科技部官網公布了《駕駛自動化技術研發倫理指引》（以下簡稱《指引》），針對不同類型的駕駛自動化系統分別提出相應的倫理規范。

這份由國家科技倫理委員會人工智能倫理分委員會組織編寫的文件，意在指導駕駛自動化技術研究開發和應用的規范開展，防范駕駛自動化技術研究開發與應用過程中的科技倫理風險，推動該領域健康發展，確保駕駛自動化技術研發和推廣符合社會公眾利益。

不同類型駕駛自動化系統皆“有規可循”

“駕駛自動化系統具有技術和社會‘雙重’屬性，相關技術創新和產業化過程必須充分考慮社會公眾的價值追求和倫理考量。”國家科技倫理委員會人工智能倫理分委員會委員、中國新一代人工智能發展戰略研究院執行院長龔克表示，提出符合我國國情的倫理指引，是為了規范駕駛自動化研發和推廣行為、防范和化解相關領域倫理風險。

《指引》的適用對象是與駕駛自動化技術相關的責任主體，包括技術研發主體、生產制造主體、使用主體等，適用的客體化載體為具有駕駛自動化功能的汽車，既適用于具有先進駕駛輔助功能的汽車，也適用于裝載了自動駕駛系統的汽車。

在龔克看來，《指引》呈現四大特點：倡導安全性、體現共識性、遵循漸進性、強調可應用性。比如，將駕駛安全置于突出地位，提出駕駛自動化技術研究開發和應用必須充分考慮安全性，其中，既包括駕駛自動化參與者的生命主體安全，也包括道路交通環境安全和數據、算法等技術安全。

《指引》提出了四個基本原則——以人為本、增進福祉，安全優先、尊重生命，公平公正、避免偏見，知情保障、信息公開。同時，提出了五項一般要求：合法合規、效益提升、控制風險、及時調整、隱私保護。

對生命安全的尊重和保護擺首位

《指引》明確，駕駛自動化系統的研究開發和應用要在注重技術提升效益的同時，更加強調相關風險的防范和責任落實。

“在風險防范方面，高度重視駕駛自動化系統對生命安全的尊重和保護，明確提出在不可避免的交通事故和極端行車環境中，應最大限度降低對人的傷害。”龔克認為，《指引》還注重防范數據隱私、算法歧視、算法解釋等因素可能對相關主體造成的風險。

聚焦責任落實，在綜合借鑒國際標準、國家政策和地方實踐的基礎上，基于《汽車駕駛自動化分級標準》等文件，《指引》將駕駛自動化劃分為先進駕駛輔助階段、有限制階段的自動駕駛、無限制階段的自動駕駛三種類型，對不同類型駕駛自動化的責任主體進行劃分。

先進駕駛輔助階段是指2級及以下的駕駛自動化，其責任主體通常是人類駕駛員；有限制階段的自動駕駛包括3級和4級駕駛自動化，責任主體因具體運行場景而異，用戶和自動駕駛系統都可能成為責任主體；無限制階段的自動駕駛包括5級駕駛自動化，除非特殊情況下用戶主動介入操作，否則，無限制階段自動駕駛的責任主體一般以自動駕駛系統為主。當自動駕駛系統作為自動駕駛責任主體時，應當能夠根據有關法律法規、技術標準向相關自然人主體或法人主體（包括但不限于自動駕駛系統開發者、自動駕駛系統生產商、自動駕駛汽車權利人、自動駕駛系統用戶）清晰追責。

值得關注的是，《指引》在“科普宣傳”部分指出，在發布重大研究成果時，相關主體應堅持客觀準確、實事求是，避免片面夸大、隱匿風險，不得編造、傳播與駕駛自動化系統實際功能和效果不相符的虛假信息。

“由于受到專業知識限制，社會公眾容易陷入對駕駛自動化技術的認知鴻溝，造成對相關產品的錯誤認知和使用。”龔克告訴記者，在商業競爭誘導下，技術開發商和汽車生產商可能夸大技術能力或隱匿風險，誘發駕駛自動化系統相關事故導致的技術恐慌和信任危機。為了推動駕駛自動化技術健康發展，構建廣泛的社會信任和倫理共識，《指引》單獨列出了相關主體在“科普宣傳”方面需遵循的倫理規范。

后續，《指引》將根據技術迭代、應用場景拓展，以及社會反饋動態修訂并適時發布。