規避人工智能風險的實用方法

“人們要積極塑造人工智能應用的體系、流程和環境，使人工智能造福人類。相較于創建風險極低且以人為本的人工智能所需的道德標準和技術要求，現行的法規顯得略有滯后。雖然我對眾多利益相關者所進行的廣泛交流持樂觀態度，但相關組織目前所做的還遠遠不夠。TÜV南德集團致力于以跨學科方法管理人工智能，并設計明確的流程來幫助企業對人工智能的質量和可信度進行可靠的評估。”

人工智能（AI）已經 通過各種方式滲透到日常生活的方方面面。該技術應用于手機中的智能虛擬助手、完成當日交付的倉庫管理、救死扶傷的預防性診斷等。普華永道¹稱：截至2030年，人工智能將為全球經濟增值15萬億美元，為個人、企業和政府帶來前所未有的新機遇。

世界各地的組織機構逐漸意識到人工智能蘊藏著革命性潛力。去年12月，歐盟發布了一項高達1.5億歐元的新型融資工具，以支持早期創業和正處于發展階段的人工智能企業²— 旨在刺激區塊鏈、物聯網等突破性應用和相關技術的發展。

組織機構也緊跟人工智能的發展潮流。2018年，已有86%的企業報告了其發展階段或高級階段的人工智能部署，將該技術視為未來業務運營的主要促進因素³。諸多證據都可以支持這一立場。雖然人工智能的潛力因國家和行業而異，但其將會產生的積極影響是毋庸置疑的，此類影響包括降低成本、提高勞動生產率、增強商業智能化和完善客戶體驗⁴。

人工智能管理：其倫理和法律意義何在？

盡管人工智能可以帶來客戶利益和商業價值，但組織機構同樣要意識到其所帶來的特殊風險。領導者有責任意識到人工智能所帶來的的社會及組織風險——否則人工智能帶來的風險將會迫使他們為技術錯誤買單。

有些人預測超級智能的出現會使失控的人工智能機器人征服世界。這些觀念看似無稽之談，但也不無道理。歧視和不明確決策等意想不到的結果有可能對組織機構的聲譽和個人利益造成損害。微軟的人工智能聊天機器人Tay受在線用戶的驅使，發表了種族主義言論⁵。

在另一個案例中，IBM的Watson在接受了不可靠的小數據集訓后，提出了缺乏安全性且錯誤的癌癥治療建議⁶。

還有一些擔憂則是圍繞著人工智能的使用能否合乎道德而展開。該技術很容易落入惡人之手或遭到惡意開發。大型私營企業掌握的人工智能造成了對于監視和審查的恐慌。而當事情出錯時—誰來承擔知識產權、社會影響等方面的法律責任？

這些擔憂部分來自于所謂的人工智能 “黑匣子”。傳統的系統開發是將一套系統必須遵循的規則正式化，而人工智能系統開發則完全不同。機器學習算法從給定的數據集中歸納和推演出規則——使得規則具有不透明性，開發人員也未必能完全掌握。

在強調人工智能應用的復雜性時，Saerbeck博士（TÜV南德數字服務首席技術官）說：“目前的機器學習模型是將功能編入數十萬甚至數百萬個參數當中。目前，我們還未擁有強有力的框架來了解每個-值的作用和影響。這樣就出現了不確定性。我們-不清楚某個特定模型會在何種條件下出現故障。目前，人工智能管理是抑制人工智能風險的唯一有效途徑。我們需要通過更新流程，來實現可靠地測量和量化諸如穩健性、準確性、可預測性等人工智能質量評估指標。”

成功的人工智能建立在信任的基礎上

組織機構已了解人工智能帶來的風險——這種認識也在阻止其利用該技術的潛在優勢。缺乏透明度就是風險之一，它阻礙了AI的應用⁷。正如Saerbeck博士所說：“可信度對于人工智能在關鍵任務中的應用及其獲取全部潛在效益至關重要”。

這種難以琢磨的“可信度”，主要依賴三大支柱：

• 該技術經過專門設計和驗證，按照規范標準創建。
• 其重視所有利益相關者，隱含對投入、產出和潛在后果的理解。
• 良好的治理和監督，有明確界定的責任人和問責人

建立對人工智能的信任是一個復雜的過程：TÜV SÜD南德智能立面檢測案例研究

定義: TÜV南德的智能立面檢測系統使用人工智能檢測建筑立面材料的老化和潛在問題。TÜV南德采用嚴格的人工智能質量管理框架，規避人工智能風險，以呈現精確、實用的檢查報告。

機遇

• 通過處理數以千計的掃描結果，節省時間、金錢和勞動力成本
• 基于行業標準和最佳實踐案例實現最新合規性
• 通過高分辨率可視化圖像和熱掃描，以及自動化數字工作流程和數據基準，提高檢測質量及覆蓋面
• 通過立面和建筑整體的數據表現，更好地了解情況

風險

• 隱私泄露：人工智能算法可能無法充分檢測和保護私人信息，導致隱私泄漏。
• 安全失誤：人工智能算法可能無法檢測到缺陷，導致傷亡。
  

(建筑掃描三維重建)

操作流程:

使用無人機沿著建筑物立面拍攝圖像。人工智能協助檢查人員分析所收集的數據。此類算法有助于：

1.通過檢測并掩蓋無意中被無人機拍到的人員，維護隱私

2.識別立面缺陷，按類型、嚴重程度進行分類，甚至可以給出修復建議。檢查人員審查結果并給出反饋，便于不斷改進人工智能算法。

意義: 該案例研究強調了人工智能建立信任極具挑戰性。雖然智能立面檢測中，機遇大于風險，該應用中的失誤——推而廣之到整個人工智能——會使企業面臨經濟和聲譽的雙重損失。此類風險能夠也必須通過強有力的人工智能管理方法進行管理。

目前的組織性人工智能框架——猜一猜游戲？

“人工智能管理對于管理高風險應用中的人工智能質量至關重要。受限于能力和經費，如立面檢查這個案例中通過人工審核報告等單一控制手法來抑制風險是不夠的。特別是如果所犯錯誤是可避免的，企業將很難為不完善的管理計劃辯解。”

– Martin Saerbeck博士，TÜV南德數字服務首席技術官

企業仍在全力對人工智能質量進行充分管理，采取的措施包括改進管理、減少偏見及監測模型性能。為縮小這一差距，各國正在制定相關準則，如歐盟委員會于2021年4月發布的關于人工智能的新法律框架⁸—《人工智能道德準則》、亞洲首個人工智能治理框架模型⁹以及新加坡的《組織實施和自我評估指南》（ISAGO）¹⁰。

Saerbeck博士解釋道，這些準則框架雖好，但缺乏實用性建議，無法增強人工智能應用落實的信心。他們定義了零歧視、公平等高層目標，但沒有詳細說明實現目標的途徑。例如，怎樣將這些目標轉化為算法選擇，需要建立怎樣的測試流程，采取什么衡量標準。這些都需企業來弄清楚。

TÜV南德提出了實現人工智能優良性能的實用步驟

為了填補這一空白，TÜV南德開發了一套人工智能質量管理系統。該公司在宏觀層面上通過人工智能數據、算法和模型等關鍵問題對組織機構進行指導。深入研究后，再仔細描繪人工智能的生命周期，幫助企業預測人工智能開發和應用過程中各階段的風險及陷阱，實現當前治理框架所規定的要求。

對致力于為實現安全、道德和透明的人工智能應用而建立專家級自主研發團隊的組織機構而言，TÜV南德創建了人工智能質量管理體系培訓班。培訓班學員將了解五大質量支柱（安全、保障、道德、法律、性能）、支柱特點、專門的風險評估以及在人工智能系統的整個生命周期內解決此類問題的策略。其目的在于為人工智能的應用提供實用步驟，并根據組織具體情況進行調整。

提高人工智能可信度的道路是曲折的，不會一蹴而就。Saerbeck博士解釋道：“人們對人工智能中的信任不是靠某個人或在系統生命周期中的某個階段就可以實現的。從人工智能系統的概念化直至其退出歷史舞臺，各利益相關者都在達到和保持所需質量的問題上發揮著重要的作用。不能單從技術層面解決對人工智能的信任問題，還涉及到整個企業層面。”

加入競賽亦或是出局——這就是企業和人工智能面對的現狀。雖然法規仍然滯后，但領導者必須馬上采取行動，利用實用的人工智能管理準則和原則使自己的企業踏上正軌。

Martin Saerbeck博士簡介

Martin Saerbeck博士在擔任TÜV南德意志集團數字服務首席技術官，領導人工智能、機器人和物聯網技術的新型數字測試解決方案的戰略研究和開發計劃。Martin博士擁有計算機科學學位和工業設計博士學位，在業界和學術界擁有超過15年技術方案開發經驗。

¹至2030年，1人工智能可為全球經濟增值15萬億美元，普華永道經《工業周刊》

²高達1.5億美元的新型歐盟融資工具，用以支持歐洲人工智能企業，歐盟委員會

³人工智能時代的領導力，Infosys

⁴深入：人工智能2019，AI Statista

⁵微軟2016年種族主義聊天機器人揭示了在線對話的危險，光譜網

⁶IBM Watson人工智能醫療名不副實表現在哪些方面，Spectrum

⁷CEO的20年心路歷程，普華永道

⁸歐洲適應數字時代：歐盟委員會就人工智能的優良性能及可信度出臺新規則及新行動，,歐盟委員會

⁹新加坡的人工智能管理方法，PDPC

¹⁰新加坡在世界經濟論壇推出新的人工智能倡議，OpenGov