TüV AI@ TüV SüD 專欄第十一期：歐盟新機械法規關于人工智能的相關要求

中國/廣州   歐盟人工智能法案將于2024年強制執行， 為協助中國人工智能相關企業提前應對即將到來的國際監管，TÜV南德意志集團（以下簡稱“TÜV南德”）已推出人工智能評估服務：AI 質量架構評估方案。

本文為Trust AI@TÜV SÜD的系列專欄的第十一篇，介紹歐盟新機械法規中關于人工智能相關機械的要求。

AI 質量架構評估方案

在本系列專欄第三期關于“歐盟人工智能法案的政策選項”的文章中，已經介紹了人工智能的治理與監管的橫向主題與縱向主題。縱向主題是在不同領域，由各領域的特定法案覆蓋的監管內容。除了橫向的人工智能法案，歐盟的各領域法規也在進行立法工作的更新，以應對人工智能和其他前沿技術帶來的挑戰。

圖一，AI的橫向主題與縱向（領域)主題

在機械與制造領域，機械指令2006/42/EC已經執行超過15年。新機械法規經過兩年的研究與討論，2023年5月22日經歐盟理事會批準，于6月29日正式發布新法規EU 2023/1230，并在20個自然日后自動生效。新機械法規將有42個月的過渡期，如無意外，將于2027年1月起強制執行。

EU 2023/1230相比2006/42/EC，從指令上升為法規，無需經過各成員國的批準和采納程序即可在所有成員國適用，增加了法律的確定性。
新機械法規EU 2023/1230的一個重要目標是應對前沿技術，如人工智能，物聯網和機器人的廣泛應用對于機械安全的沖擊。在新機械法規中，人工智能被稱作“自我進化行為”(self-evolving behaviour)。

新機械法規的另一個重大變更是增加了必須通過公告機構強制認證的產品清單（附錄I，A部分）和可以由公告機構認證（非強制）的產品清單（附錄I，B部分）。而在強制認證的產品清單中,有兩項與人工智能相關：

5.通過機器學習實現完全或部分自我進化行為，以保障安全功能的安全元件。

6.通過機器學習實現完全或部分自我進化行為，以保障安全功能的機械。這些安全功能是通過機械的嵌入式系統來實現的。嵌入式系統不會獨立投放市場。

歐盟機械產品公告機構TÜV SÜD Product Service GmbH的公告號0123

機械產品的制造商必須執行風險評估以保證其機械產品滿足機械法規的核心健康與安全要求（EHSR)。新機械法規的EHSR（附錄III）增加了對人工智能危險的評估要求。

“風險評估與風險降低流程須包括機械及相關產品在投放市場后整個生命周期的可預見的危險，包括通過完全或部分自我進化的行為或邏輯，以實現不同程度自主性的機械及相關產品。風險評估與風險降低流程須覆蓋由于集成的機械之間的協同工作所引入的風險。”

除此以外，在EHSR的人體工學條款（1.1.6）中也增加了人工智能的要求：

(f) 可以適應不同操作者的可預見特性的、可調整的人機界面，包括通過完全或部分自我進化的行為或邏輯，以實現不同程度自主性的機械及相關產品的人機界面。
(g) 自適應的機器，通過完全或部分自我進化的行為或邏輯，以實現不同程度的自主性，充分響應人類的命令（例如語音，姿勢，面部表情或人體的移動），以及與操作者就計劃的任務進行溝通（例如要做什么及為什么）。
在EHSR的控制系統的安全與穩定性條款，增加了以下要求：

通過完全或部分自我進化的行為或邏輯，以實現不同程度自主性的機械或相關產品的控制系統應以以下方式設計和構造：

（a）它們不可以導致機械或相關產品執行超出其限定任務和移動范圍的動作；
（b）在機械和相關產品投放市場后，對于確保安全功能的軟件，記錄與安全相關的決策過程的數據。這些數據至少保留一年，并在歐盟成員國國家機構的合理要求下展示機械及其產品的符合性；
（c）它們可以在任何時候更正機械或相關產品的動作，以維持機械的本質安全。

綜上所述，如果機械及相關產品具有人工智能相關的組成部分，制造商則必須執行風險評估，以確定機械及相關產品所嵌入的人工智能滿足新機械法規中規定的核心健康與安全要求，包括安全功能、控制系統和人體工學的相關要求。如果嵌入的人工智能所執行的功能涉及安全，則機械及相關產品再投入歐盟市場前必須經過歐盟公告機構的強制認證，獲得型式檢驗證書，并在銘牌的CE標志后標注公告機構的公告號。

 
作者:

Frank Zhu  Frank.zhu@tuvsud.com
Lingze Meng  lingze.meng@tuvsud.com
Yao Cheng yao.cheng@tuvsud.com

關于TÜV南德人工智能服務

對于人工智能的開發企業和應用企業，人工智能的風險以及質量都是至關重要的。除了性能以外，人工智能在自主性、公平性、透明性與可解釋性、數據保護、信息安全、可靠性與魯棒性等個方面的風險都要得到有效的評估和控制。人工智能的風險管理應貫穿于從概念，開發，部署，運營直到退役的全生命周期。

TÜV南德作為全球領先的TIC (Testing, Inspection, Certification) 機構，在人工智能的審計領域也有著堅實的基礎。TÜV南德全球數字服務中心首席技術官Martin Saebeck博士是ISO與IEC的聯合技術委員會JTC 1/SC 42標準工作組的核心成員，并正在主持多項人工智能國際標準的起草工作。此外TÜV南德全領域的專家深入參與了各垂直領域，如醫療設備、自動駕駛、機械安全等國際法規與標準的起草工作。 

在大中華區，TÜV南德也組建了專業的人工智能評估團隊，該團隊由TÜV南德大中華區高級副總裁Robert Puto先生領導，旨在幫助中國企業高質量的應用人工智能技術，開發并提供可信賴的人工智能相關產品與服務，經由TÜV南德的合規性檢查及技術評估達到國際市場準入標準，并提供全生命周期的保障服務。