TÜV SÜD故事

推動革命性的進步

推動革命性的進步

規避人工智慧風險的實用方法

“人們要積極塑造人工智慧應用的系統、流程和環境,使人工智慧造福人類。相較於創建風險極低且以人為本的人工智慧所需的道德標準和技術要求,現行的法規顯得略有滯後。雖然我對眾多利益相關者所進行的廣泛交流持樂觀態度,但相關組織目前所做的還遠遠不夠。TÜV SÜD集團致力於以跨學科方法管理人工智慧,並設計明確的流程來幫助企業對人工智慧的品質和可信度進行可靠的評估。”

– Axel Stepken教授,TÜV SÜD管理委員會主席


人工智慧(AI)已經透過各種方式滲透到日常生活的方方面面。該技術應用於手機中的智慧虛擬助手、完成當日交付的倉庫管理、救死扶傷的預防性診斷等。普華永道1稱:截至2030年,人工智慧將為全球經濟增值15萬億美元,為個人、企業和政府帶來前所未有的新機遇。

世界各地的組織機構逐漸意識到人工智慧蘊藏著革命性潛力。去年12月,歐盟發佈了一項高達1.5億歐元的新型融資工具,以支援早期創業和正處於發展階段的人工智慧企業2 — 旨在刺激區塊鏈、物聯網等突破性應用和相關技術的發展。


組織機構也緊跟人工智慧的發展潮流。2018年,已有86%的企業報告了其發展階段或進階階段的人工智慧部署,將該技術視為未來業務營運的主要促進因素3。諸多證據都可以支持這一立場。雖然人工智慧的潛力因國家和行業而異,但其將會產生的積極影響是毋庸置疑的,此類影響包括降低成本、提高勞動生產率、增強商業智慧化和完善客戶體驗4

人工智慧管理:其倫理和法律意義何在?

儘管人工智慧可以帶來客戶利益和商業價值,但組織機構同樣要意識到其所帶來的特殊風險。領導者有責任意識到人工智慧所帶來的的社會及組織風險 — 否則人工智慧帶來的風險將會迫使他們為技術錯誤買單。

有些人預測超級智慧的出現會使失控的人工智慧機器人征服世界。這些觀念看似無稽之談,但也不無道理。歧視和不明確決策等意想不到的結果有可能對組織機構的聲譽和個人利益造成損害。微軟的人工智慧聊天機器人Tay受線上用戶的驅使,發表了種族主義言論5。 

在另一個案例中,IBM的Watson在接受了不可靠的小資料集訓後,提出了缺乏安全性且錯誤的癌症治療建議6

還有一些擔憂則是圍繞著人工智慧的使用能否合乎道德而展開。該技術很容易落入惡人之手或遭到惡意開發。大型私營企業掌握的人工智慧造成了對於監視和審查的恐慌。而當事情出錯時—誰來承擔智慧財產權、社會影響等方面的法律責任?

這些擔憂部分來自於所謂的人工智慧 “黑盒子”。傳統的系統開發是將一套系統必須遵循的規則正式化,而人工智慧系統開發則完全不同。機器學習演算法從給定的資料集中歸納和推演出規則 — 使得規則具有不透明性,開發人員也未必能完全掌握。

在強調人工智慧應用的複雜性時,Saerbeck博士(TÜV SÜD數位服務首席技術官)說:“目前的機器學習模型是將功能編入數十萬甚至數百萬個參數當中。目前,我們還未擁有強有力的框架來了解每個值的作用和影響。這樣就出現了不確定性。我們不清楚某個特定模型會在何種條件下出現故障。目前,人工智慧管理是抑制人工智慧風險的唯一有效途徑。我們需要通過更新流程,來實現可靠地測量和量化諸如穩健性、準確性、可預測性等人工智慧品質評估指標。”

成功的人工智慧建立在信任的基礎上

組織機構已瞭解人工智慧帶來的風險 — 這種認識也在阻止其利用該技術的潛在優勢。缺乏透明度就是風險之一,它阻礙了AI的應用7。正如Saerbeck博士所說:“可信度對於人工智慧在關鍵任務中的應用及其獲取全部潛在效益至關重要”。

這種難以琢磨的“可信度”,主要依賴三大支柱:

  • 技術經過專門設計和驗證,按照規範標準創建。
  • 重視所有利益相關者,隱含對投入、產出和潛在後果的理解。
  • 良好的治理和監督,有明確界定的責任人和問責人

建立對人工智慧的信任是一個複雜的過程:TÜV SÜD智慧立面檢測案例研究

定義:TÜV SÜD的智慧立面檢測系統使用人工智慧檢測建築立面材料的老化和潛在問題。TÜV SÜD採用嚴格的人工智慧品質管制框架,規避人工智慧風險,以呈現精確、實用的檢查報告。

機遇

  • 透過處理數以千計的掃描結果,節省時間、金錢和勞動力成本
  • 基於行業標準和最佳實踐案例實現最新合規性
  • 透過高解析度視覺化圖像和熱掃描,以及自動化數位工作流程和資料基準,提高檢測品質及覆蓋面
  • 透過立面和建築整體的資料表現,更好地了解情況

風險

  • 隱私洩露:人工智慧演算法可能無法充分檢測和保護私人資訊,導致隱私權洩露。
  • 安全失誤:人工智慧演算法可能無法檢測到缺陷,導致傷亡。


(建築掃描三維重建)

操作流程:
使用無人機沿著建築物立面拍攝圖像。人工智慧協助檢查人員分析所收集的資料。此類演算法有助於:

  1. 透過檢測並掩蓋無意中被無人機拍到的人員,維護隱私
  2. 識別立面缺陷,按類型、嚴重程度進行分類,甚至可以給出修復建議。檢查人員審查結果並給出回饋,便於不斷改進人工智慧演算法。

意義: 該案例研究強調了人工智慧建立信任極具挑戰性。雖然智慧立面檢測中,機遇大於風險,該應用中的失誤 — 推而廣之到整個人工智慧 — 會使企業面臨經濟和聲譽的雙重損失。此類風險能夠也必須通過強有力的人工智慧管理方法進行管理。


目前的組織性人工智慧框架 — 猜一猜遊戲?

“人工智慧管理對於管理高風險應用中的人工智慧品質至關重要。受限於能力和經費,如立面檢查這個案例中透過人工審核報告等單一控制手法來抑制風險是不夠的。特別是如果所犯錯誤是可避免的,企業將很難為不完善的管理計畫辯解。”

– Martin Saerbeck博士,TÜV SÜD數位服務首席技術官

企業仍在全力對人工智慧品質進行充分管理,採取的措施包括改進管理、減少偏見及監測模型性能。為縮小這一差距,各國正在制定相關準則,如歐盟委員會於2021年4月發佈的關於人工智慧的新法律框架8—《人工智慧道德準則》、亞洲首個人工智慧治理框架模型9以及新加坡的《組織實施和自我評估指南》(ISAGO)10

Saerbeck博士解釋道,這些準則框架雖好,但缺乏實用性建議,無法增強人工智慧應用落實的信心。他們定義了零歧視、公平等高層目標,但沒有詳細說明實現目標的途徑。例如,怎樣將這些目標轉化為演算法選擇,需要建立怎樣的測試流程,採取什麼衡量標準。這些都需企業來弄清楚。

TÜV SÜD提出了實現人工智慧優良性能的實用步驟

為了填補這一空白,TÜV SÜD開發了一套人工智慧品質管理系統。該公司在宏觀層面上透過人工智慧資料、演算法和模型等關鍵問題對組織機構進行指導。深入研究後,再仔細描繪人工智慧的生命週期,幫助企業預測人工智慧開發和應用過程中各階段的風險及陷阱,實現當前治理框架所規定的要求。

對致力於為實現安全、道德和透明的人工智慧應用而建立專家級自主研發團隊的組織機構而言,TÜV SÜD創建了人工智慧品質管理系統培訓班。培訓班學員將瞭解五大品質支柱(安全、保障、道德、法律、性能)、支柱特點、專門的風險評估以及在人工智慧系統的整個生命週期內解決此類問題的策略。其目的在於為人工智慧的應用提供實用步驟,並根據組織具體情況進行調整。


 

提高人工智慧可信度的道路是曲折的,不會一蹴而就。Saerbeck博士解釋道:“人們對人工智慧中的信任不是靠某個人或在系統生命週期中的某個階段就可以實現的。從人工智慧系統的概念化直至其退出歷史舞臺,各利益相關者都在達到和保持所需品質的問題上發揮著重要的作用。不能單從技術層面解決對人工智慧的信任問題,還涉及到整個企業層面。”

加入競賽亦或是出局 — 這就是企業和人工智慧面對的現狀。雖然法規仍然滯後,但領導者必須馬上採取行動,利用實用的人工智慧管理準則和原則使自己的企業踏上正軌。


Martin Saerbeck博士簡介


Martin Saerbeck博士在擔任TÜV SÜD集團數位服務首席技術官-,領導人工智慧、機器人和物聯網技術的新型數位測試解決方案的戰略研究和開發計畫。Martin博士擁有電腦科學學位和工業設計博士學位,在業界和學術界擁有超過15年技術方案開發經驗。


至2030年,1人工智慧可為全球經濟增值15萬億美元,普華永道經《工業週刊》
2高達1.5億美元的新型歐盟融資工具,用以支持歐洲人工智慧企業,歐盟委員會
3人工智慧時代的領導力,Infosys 
4深入:人工智慧2019,AI Statista 
5微軟2016年種族主義聊天機器人揭示了線上對話的危險,Spectrum
6IBM Watson人工智慧醫療名不副實表現在哪些方面,Spectrum
7CEO的20年心路歷程,普華永道
8歐洲適應數位時代:歐盟委員會就人工智慧的優良性能及可信度出臺新規則及新行動,歐盟委員會
9新加坡的人工智慧管理方法,PDPC
10新加坡在世界經濟論壇推出新的人工智慧倡議,OpenGov

更多

Select Your Location