芝能智芯出品

輔助駕駛和自動駕駛技術全面加速，人工智能系統(tǒng)已經(jīng)逐漸成為車輛功能決策鏈條中的關鍵部分。不同于過去以傳統(tǒng)規(guī)則邏輯為主的車載系統(tǒng)，人工智能因其數(shù)據(jù)驅動、非確定性與難以完全解釋的特性，給車輛安全帶來了前所未有的挑戰(zhàn)。

傳統(tǒng)的功能安全體系，如 ISO 26262，以及針對預期功能安全的 ISO 21448，奠定了汽車安全體系的基礎，卻難以直接覆蓋人工智能模型的特性。

2024 年正式發(fā)布的 ISO/PAS 8800 才真正成為行業(yè)首次嘗試為車載 AI 系統(tǒng)建立具體安全論證框架的標準。

這份標準并不旨在提供嚴格的定量門檻或規(guī)定統(tǒng)一的流程，通過框架化結構，讓不同車企、供應鏈環(huán)節(jié)和AI開發(fā)者能夠共同構建“項目特定”的安全論證體系，基于 ISO/PAS 8800 的整體內容，并結合其與現(xiàn)有體系的關聯(lián)、工程實踐中的難點，以及行業(yè)正在嘗試的解決路徑。

Part 1ISO/PAS 8800  安全關鍵應用的困境到可信AI框架

汽車電氣電子架構師越來越復雜，AI 系統(tǒng)在車輛中的角色正在發(fā)生結構性變化，AI 大多被用于體驗型、非安全關鍵場景，例如語音識別、車內個性化調節(jié)或簡單的圖像分類。

這類應用的準確率通常只要達到 90% 以上即可滿足體驗需求，偶有錯誤也不會造成安全后果。當AI 開始進入自動駕駛、智能剎車、行人識別、避撞決策等領域時，傳統(tǒng)的準確率指標顯然就不再足夠。

一個 95% 準確率的交通標志識別模型，在體驗上看似可靠，卻可能意味著每 20 次識別就有 1 次誤判，在高速場景中就可能帶來致命風險。

正是因為這種本質性差異，AI 從非關鍵場景進入安全關鍵場景之后，整個技術體系發(fā)生了結構性斷裂。

傳統(tǒng)工程體系依賴規(guī)則邏輯、可驗證的狀態(tài)機、可追蹤的信號鏈路、精確的定量指標，以及明確的故障模式。而 AI 系統(tǒng)則由統(tǒng)計模型、概率輸出和數(shù)據(jù)驅動行為構成，參數(shù)量巨大、行為難以完全解釋，傳統(tǒng)驗證方法幾乎無法直接應用。

從2022年起，國際工程界開始嘗試建立一套面向安全關鍵人工智能應用的工作方法，包括黃金法則體系、AI 全生命周期規(guī)則與架構設計指導，歐盟 AI 法案于 2025 年開始實施，從監(jiān)管層明確了 AI 的風險分級與透明度要求，尤其是對高風險 AI 的監(jiān)管框架，為車輛 AI 標準化奠定了基礎。

ISO/PAS 8800 的發(fā)布可視為行業(yè)“第一次試圖系統(tǒng)性回答車載 AI 應如何被證明為安全”，核心定位不是替代現(xiàn)有標準，而是成為連接人工智能與汽車安全體系之間的橋梁。

標準明確了 AI 系統(tǒng)在車輛安全架構中的角色，描述了構建安全論證時需回答的一系列關鍵問題，并指出系統(tǒng)架構、數(shù)據(jù)集管理、模型訓練、驗證與確認、運行監(jiān)控等生命周期環(huán)節(jié)應如何納入安全工程體系。

從標準本身來看，這是一個“安全論證框架”，明確 AI 系統(tǒng)必須給出功能規(guī)范、運行設計域、輸入輸出定義、安全目標、冗余策略、數(shù)據(jù)合理性驗證、模型可解釋性、過擬合控制、不確定性度量、標簽偏差控制等要求，但并不給出工程量化指標。

這種結構的原因在于，AI 的使用場景差異極大，難以通過統(tǒng)一指標覆蓋所有情況，尤其是神經(jīng)網(wǎng)絡模型在不同車輛、不同任務和不同傳感器下表現(xiàn)差別明顯。

在實踐層面，ISO/PAS 8800 引導開發(fā)者從系統(tǒng)工程角度重新審視 AI 的角色。

例如，在車輛感知系統(tǒng)中，模型的輸出不再只是準確率，而需要在工程邏輯中回答：在不同光照、極端天氣、邊界條件下，系統(tǒng)是否能夠給出可靠結果？模型的不確定性是否可以被監(jiān)測？輸入數(shù)據(jù)是否可能出現(xiàn)非合理信號？邊界行為是否得到分析？對于誤分類，是否采用了安全權重體系？所有這些都必須最終體現(xiàn)在可驗證的安全論證中。

這也引出了 ISO/PAS 8800 最重要的價值：將人工智能納入“可討論、可驗證、可管理”的工程體系。

標準也暴露出行業(yè)仍未解決的根本難題。由于缺乏數(shù)學上的嚴格定義和完整的定量化框架，AI 安全論證仍然依賴項目具體情況，不同車企或供應鏈之間的工程方法可能會出現(xiàn)差異。

而深度神經(jīng)網(wǎng)絡作為 AI 系統(tǒng)的核心，因其不透明性與不可完全預測性，在標準中仍然缺少深入描述，這也意味著行業(yè)還需要更多方法來彌補該部分空白。

Part 2AI安全工程的關鍵問題與可行路徑

要真正理解 ISO/PAS 8800 的意義，就必須從工程實現(xiàn)的角度理解 AI 系統(tǒng)安全的核心難題。

在車輛中，一個 AI 模型從定義到部署，至少需要經(jīng)歷功能定義、架構設計、數(shù)據(jù)集構建、模型訓練、測試驗證、系統(tǒng)集成、運行監(jiān)控等多個環(huán)節(jié)，而每一個環(huán)節(jié)都可能影響其最終安全性。

功能定義與運行設計域。

與傳統(tǒng)系統(tǒng)可以通過規(guī)則精確限定行為不同，AI 系統(tǒng)的功能往往由數(shù)據(jù)隱式?jīng)Q定，因此必須在安全工程上額外定義非常嚴格的預期使用場景、輸入類型、目標行為和邊界情況。

ISO/PAS 8800 將這些內容納入安全論證的首要部分，要求工程團隊必須清晰劃定 AI 模型應在何種場景發(fā)揮作用，并在架構上采用必要的保護機制，例如規(guī)則型判斷、投票機制、冗余模型或置信度閾值，以避免 AI 在超出其能力時仍輸出高風險結果。

數(shù)據(jù)集的問題。

深度學習模型的能力受到數(shù)據(jù)決定，而數(shù)據(jù)集本身可能存在偏差、缺失、標簽錯誤、稀有場景不足等問題。

ISO/PAS 8800 對數(shù)據(jù)集提出明確要求，包括極端案例的收集和系統(tǒng)性識別、標簽過程的驗證、偏差控制、數(shù)據(jù)增強策略、環(huán)境變化下的更新機制等。

對于工程團隊而言，這意味著數(shù)據(jù)管理將成為安全工程的重要組成部分，而不僅僅是模型訓練的前期準備。

在模型層面，ISO/PAS 8800 要求開發(fā)者提供可解釋性分析、可復現(xiàn)性驗證、過擬合控制、不確定性度量等內容，并要求在安全論證中給出對應的工程控制方法。

尤其是可復現(xiàn)性，對于大型深度神經(jīng)網(wǎng)絡來說，訓練過程中的種子、硬件差異、并行計算方式都會導致輸出差異，標準要求開發(fā)者必須控制模型訓練的確定性，并在必要時提供硬件一致性分析和配置記錄。

最難的問題來自驗證與確認環(huán)節(jié)。

傳統(tǒng)軟件可以通過代碼審查、路徑覆蓋、邊界分析實現(xiàn)高置信度驗證，但 AI 模型無法通過這些方式進行完備性驗證。

因此 ISO/PAS 8800 采用指標化驗證思路，將驗證指標分為性能相關、安全相關和系統(tǒng)相關三類。

但標準仍未給出最終定量指標，這使得安全論證必須結合 ISO 21448 的風險評估方法，如 GAMAB、ALARP 或 MEM 來進行定量化推導。

在 SAE L5 級車輛的交通標志識別中，ASIL C 要求模型的誤識別概率必須低于特定門檻，意味著系統(tǒng)需要達到接近 99.99% 的安全相關準確率。顯然，這一數(shù)字在大多數(shù)工業(yè)系統(tǒng)中仍然難以實現(xiàn)。

行業(yè)開始探索新的解決方案，基于誤分類風險權重的神經(jīng)網(wǎng)絡訓練方法，可以使模型在訓練過程中不僅追求整體準確率，還重點減少安全關鍵型誤分類的發(fā)生，從而提供可用于安全論證的指標體系。

解決方案來自 AI 架構本身。

通過引入透明可驗證的架構，目標分組分類器、基于特征分解的并行分類體系、置信度拒絕策略等，降低模型的難解釋性，提高工程可控性。

這類架構將復雜分類問題拆解為多個獨立子問題，每個子分類器針對單一結構特征，從而提高整體系統(tǒng)可解釋性與可驗證性，最終讓安全論證更加透明。

標準體系仍面臨巨大挑戰(zhàn)。

不同規(guī)范。SO 26262、SOTIF、網(wǎng)絡安全標準、人工智能相關技術報告——在功能、流程和風險定義上差異明顯，當開發(fā)分布在 OEM、Tier 1、Tier 2 等多個層級時，不同團隊可能同時采用不同規(guī)范，甚至出現(xiàn)規(guī)范遺漏。

ISO/PAS 8800 雖試圖將 AI 納入整體流程，但缺乏明確的集成指導，這導致行業(yè)必須自行構建跨規(guī)范的整合型開發(fā)流程，將車輛、系統(tǒng)、組件各層級的任務重新對齊，確保 AI 安全活動貫穿整個生命周期。

AI 安全不是單一團隊能夠完成的任務，而是一個貫穿架構、安全工程、數(shù)據(jù)工程、模型工程、測試工程、系統(tǒng)集成工程的跨學科體系。

小結

從系統(tǒng)工程的角度看，ISO/PAS 8800 并不是一個能夠立即落地的成熟標準，行業(yè)關于車載人工智能安全論證的第一次正式嘗試，使得 AI 系統(tǒng)能夠被納入可分析、可驗證、可追蹤的工程體系中，也為 OEM 與供應鏈建立共同語言。

       原文標題 : 車載AI安全規(guī)范ISO/PAS 8800：驗證汽車人工智能安全的嘗試