中國/廣州 歐盟人工智能（Artificial Intelligence，簡稱AI。）法案將于2024年強制執行， 為協助中國人工智能相關企業提前應對即將到來的國際監管，TÜV南德意志集團（以下簡稱“TÜV南德”）已推出人工智能評估服務：AI 質量架構評估方案。
本文為Trust AI@TÜV SÜD系列專欄的第八篇：人工智能在工業4.0中的應用及其安全問題。
（AI 質量架構評估方案）
隨著電子商務的發展，傳統以產品為導向的工業生產形式正在被以解決方案和以客戶為導向的理念所取代。工廠收到的生產訂單批量越來越小，差異越來越大，直至完全的個性化生產。但是由于成本、速度、精度等因素，或者問題的解決超出人類能力范圍，完全的個性化生產需要生產過程具有更高水平的自主性，而這需要提升生產系統的認知能力，只能通過AI技術來實現。以定制化的客戶需求為出發點，生產系統將從“自動”轉為“自主”，生產和物流策略將在AI的幫助下進行自我優化。
AI的使用旨在提高工業流程的效率和有效性。從工業的角度來看，AI技術可以被理解為能夠幫助制造系統感知環境、處理所感知的事物、獨立解決問題、尋找解決問題的新方法、做出決策的方法和程序，尤其是從經驗中學習，以便制造系統更熟練地完成動作和任務。過程中對人工干預的需求減少了。
在工業4.0的語境下，在工業流程中實施AI的關鍵是資產管理殼(Asset Administration Shell)，它可以連接數據源、學習機制、系統邊界和人工干預。工業4.0的參考模型架構 (RAMI 4.0) 的結構化網絡組件和標準化功能接口也為將 AI 技術集成到工業生產過程中提供了基礎。
AI在工業環境中廣泛應用的一個領域是對傳感器數據的分析和解釋，這些數據分布在機器和生產設施中。 它記錄機器各個不同方面的狀態，并據此執行動作。其核心目的是識別不明顯的相關性，比如實現預測性維護工作。AI還可以用于工業生產過程中的流程、物流和能耗優化，例如，為了響應環境中的波動，必須調整復雜的相互關聯的機械設定參數。“物聯網”，即分布式數據提供者和數據用戶的相互通信，是AI的基礎。
AI包括一系列應用程序和技術。這些應用程序和技術能夠使系統實現自主功能，并使資產增值。“自主”的能力必須控制在人類定義的系統邊界內。由人類定義整體系統要達到哪一等級的自主能力，并決定允許AI運行的區域和功能。一個系統的自主程度不一定由AI的技術限制決定，還可能受到法律框架、人類行為的預估或數據保護要求等方面的影響。
自主等級定義了所使用的AI技術的系統邊界，即允許執行哪些任務。舉一個大眾更加熟悉的例子，自主等級 3 的自動駕駛汽車可以獨立在高速公路上行駛，但不能獨立的離開高速公路。等級3 以上的自主系統必須能夠獨立感知環境并在指定的系統邊界內做出“真正的”自主決策，而無需進一步的人工干預。這引發了重要的法律問題，例如關于決策的責任和可理解性。這些是整個社會需要討論的問題，超越了工業和政治領域，無論是自動駕駛還是工業生產過程中AI的使用。
與簡單自動化過程的經典程序相比，在流程更復雜、決策要求更高的情況下，AI的使用意味著不能每次都獲得完全相同的結果。這是因為學習過程使用了大量的數據和信息。 使用AI追求的是不斷優化流程并在出現問題時做出“正確”的決策。 允許 AI 系統提出的并非完全符合預期的方案建議， 但是做出的決定必須始終是合理的，并且盡可能符合預期。
AI對工業過程的沖擊可以分為兩個階段：決策（規則創建/設計）和執行（規則執行），可以認為分別是決策所需的技能（在編程時確定）和執行決策的動作（在執行時產生影響）。在采用了AI輔助技術的工業系統設計中，系統通過初始學習過程進行訓練，并與部分經典編程一起執行工業過程。在初始“設計”階段，扮演“監督者”角色的人類需要提前決定學習過程的許可程度，即哪些數據可以用于第一個學習階段。以及允許 AI 系統在過程控制期間接收哪些數據以進行進一步的學習。盡管優化過程需要數據，但必須避免過擬合。這是因為數據分析的過擬合會對現有的問題解決模型產生負面影響。規則的執行可以按自主等級分類。如下圖所示。
（圖示：學習能力等級與自主等級）
工業生產，特別是工業 4.0 中使用AI，有很多倫理方面的問題，但是一般來說“強人工智能”不在討論范圍。可以一般性的認為，用于工業過程的AI旨在通過自動化流程擴展人類的能力。工業AI應用在本質上主要是技術性的應用程序，不會對人類生活產生重大沖擊。然而，這并不意味著這些應用程序不用受制于工業法規，例如職業安全法規或功能安全法規。這些法規，無論是在歐洲或世界各地，都是基于人類社會長期發展而來的基本的倫理原則。
關于“自主原則”，值得一提的是，機器的決策傳統上是基于預先編程的算法做出的，因而是確定性的。但是盡管深度神經網絡可以被人類將參數設定在非常狹小的范圍內，仍然可能以不確定的方式行動。因此，現代AI研究人員將“可解釋性”視為人類增強對自主AI的信任的重要領域之一。
隨著AI，物聯網和機器人技術的發展，越來越多的不依賴于人類操作員的先進機械投放市場。特別是協作機器人，由于可以在環境中學習新的動作而變得更加自主。這些先進機械可以實時處理信息，自學習，自主規劃移動路線，根據環境動態調整或改進動作，因此給傳統的基于考慮“最壞可能”的風險評估并固定安全保護設置的機械安全理念提出了新的挑戰。
新版機械指令草案對于采用AI的機械產品及其控制系統增加了很多具體的要求:例如：
在核心職業健康安全要求(EHSR)中，制造商或其歐盟代理需要執行的風險分析和風險降低流程的c)條修改如下:
確定機械產品生命周期內可能產生的危險及其關聯的危險場景，包括在機器投放市場的時刻起可以預見的，機器設計達到的自主等級決定的，全部或部分介入的行為或邏輯可能產生危險。就此而言，當機械產品集成了AI系統，機械產品的風險評估必須考慮為滿足歐洲議會和歐盟理事會提出的AI法案所執行的風險評估。
高風險機械產品清單中增加了兩項與AI相關的產品(軟件):
24. 保證安全功能的軟件，包括AI系統
25. 嵌入了保證安全功能的AI系統的機械
由于電子產業的飛速發展，AI的應用也逐漸邊緣化（邊緣計算）。大部分AI只有在訓練的時候需要大量計算能力，而在使用時，小型設備即可滿足其運算要求，比如手機。在工業4.0中，AI的應用也逐漸從云中轉移到公司內部運行維護，這樣也可減少遠程的成本和風險。但是，雖然在邊緣計算中的AI應用可以極大地提高產業效率和智能化，但同時其本身也存在信息安全風險，需要以最新的標準來創建和維護基于AI的產品可信度。
“Zero Trust Concept”--零信任理念的提出和使用是為了構建可信任的、安全的AI系統應用。這一理念是在大量迅速且不斷變化的數據通信中，這些參與者最初應被分配零信任值，隨后在信任評分系統中“贏得”其他參與者的信任，任何組件都將在數據訪問之前先檢查所涉及的身份認證和授權。
同時，AI的設計也應提高互操作性，這樣在整個工業4.0的流程中獲得更快的速度和更高的穩定性。
AI也可以為公司價值鏈提供重要貢獻，可以評估價值鏈參與者的各方面，如交付可靠性，支付行為，公司狀態，產品質量，市場定位，定價策略，經濟形勢，環境保護，等等。在所有生產參與者運行期間，杜絕任何異常情況，迅速采取行動并更換參與者。但在此類大數據互聯互通的過程中，各數據鏈參與者的數據訪問以及數據保護的問題便顯露出來。嚴格的數據分離才可以提高此部分的安全性：嚴格的設置權限，只有確切相關方才可以訪問或修改數據。
在工業4.0中，會有大量分布式的智能設備參與共建整體智能制造的生產流程。也由于這些去中心化的架構，設備數字身份的分配和管理也變得復雜。在大規模生產中，出于成本原因，可能很難要求每個產品或組件在整個價值鏈中都有唯一不可偽造的身份證明。但是AI可以通過一些其他的數據來評估安全身份，如：使用軟硬件、工牌、生物特征來確認身份真實性；要求通信參與者的安全通信屬性（如加密和通信的方式和級別）；數據的可審查性和可追溯性。AI也可以通過學習行為模式來檢測偽造身份的攻擊，如：溝通頻率的變化，通信時的安全屬性區別，響應速度的區別，網絡地址的異常，數據非常規變化等。
目前工業4.0相關工作組仍在討論應如何建造全球AI信任基礎設施（Trust infrastructure）。但這個信任基礎設施是對全球價值鏈安全運行的先決條件，可以提供必要的安全功能從而使各價值鏈來建立安全的身份認證和通信，同時保護網絡攻擊。在現有設施，如PKI （Public Key Infrastructures）和CA（Certificate Authorities）中，AI 可以通過識別異常通信來保護此類設施，如：非常規通信路徑，異常證書組合，首次認證后的異常行為等。
可以對每個組件設置在不同生產狀態下基于不同條件的規則集（如時間、數據類型、天氣、溫濕度、功耗轉速、依賴關系等）。對于如此龐大的規則集，使用AI可以對其模擬進行復雜測試，并在使用過程中迭代更新，而且可以實時監控分析出現的任何異常情況。
協同狀態監控(Collaborative Condition Monitoring)可以應用在以上組件的協作場景。在一條價值鏈中，兩個安全組件通過安全通信相互溝通，基于信任基礎設施確保認證安全，并通過基于特性的訪問控制讀取數據。AI可以在其中檢測未經授權或異常的訪問和任何異常數據流，監控人員也可以通過AI的匯總報告檢索所有信息。
資產管理殼在工業4.0中的應用是極其重要的，不只因為其負責了整體系統的信息安全，更因為它包含了各種生產數據和商業機密。AI在監控數據間諜活動和數據篡改操縱方面非常有用，而人類很難對這些不同屬性的龐大數據進行實時分析和管理。但AI的分析結果很難用同一AI軟件進行解釋，因此也同時需要輔助工具，以便人類對其警報進行最終分析和做出決定。
AI的應用可以極大的提高工廠的智能化程度，如：自動化、驅動控制、生產維護、生產優化、異常及殘次品檢測。但同時AI方案在工廠的應用中也有很多局限性因素：不能達到100%的覆蓋率，很難分析錯誤原因，數據質量難以保證，在實施中太過專業性，先進機械日益提升的自主性和協作性給機械安全帶來的挑戰，邊緣計算帶來的信息安全等問題。
在選擇適合工業4.0的AI應著重考慮以下屬性：基于產線機械及傳感器數據的應用；使用遷移學習的方法以更容易適應新工廠環境；適用復雜的傳感器數據網絡；易用性；信息安全。
對于日益采用AI實現自主和協作功能的智能機械設備，其制造商，系統集成商和終端業主都必須執行全面的，覆蓋機械安全和信息安全的風險評估，并向歐盟公告機構申請合規性評定。
Working paper of Platform INDUSTRIE 4.0: Technology Scenario ‘Artificial Intelligence in Industrie 4.0’, Publisher: German Federal Ministry for Economic Affairs and Energy (BMWi), 03.2019
Result paper of Platform INDUSTRIE 4.0: Artificial Intelligence (AI) in Security Aspects of Industrie 4.0, Publisher: German Federal Ministry for Economic Affairs and Energy (BMWi), 02.2019
Result paper of Platform INDUSTRIE 4.0: Industrial security and the development of AI applications in the edge, Publisher: German Federal Ministry for Economic Affairs and Energy (BMWi), 05/2022
Proposal for a REGULATION OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL on machinery products, 2021/0105(COD)
Proposal for a REGULATION OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL LAYING DOWN HARMONISED RULES ON ARTIFICIAL INTELLIGENCE (ARTIFICIAL INTELLIGENCE ACT) AND AMENDING CERTAIN UNION LEGISLATIVE ACTS, 2021/0106 (COD)
Report on the safety and liability implications of Artificial Intelligence, the Internet of Things and robotics, EUROPEAN COMMISION, COM(2020)64
Site Selector
Global
Americas
Asia
Europe
Middle East and Africa
