推動革命性的進步
推動革命性的進步
人們要積極塑造人工智慧應用的系統、流程和環境,使人工智慧造福人類。相較於創建風險極低且以人為本的人工智慧所需的道德標準和技術要求,現行的法規顯得略有滯後。雖然我對眾多利益相關者所進行的廣泛交流持樂觀態度,但相關組織目前所做的還遠遠不夠。TÜV SÜD集團致力於以跨學科方法管理人工智慧,並設計明確的流程來幫助企業對人工智慧的品質和可信度進行可靠的評估。
人工智慧(AI)已經透過各種方式滲透到日常生活的方方面面。該技術應用於手機中的智慧虛擬助手、完成當日交付的倉庫管理、救死扶傷的預防性診斷等。普華永道1稱:截至2030年,人工智慧將為全球經濟增值15萬億美元,為個人、企業和政府帶來前所未有的新機遇。
世界各地的組織機構逐漸意識到人工智慧蘊藏著革命性潛力。去年12月,歐盟發佈了一項高達1.5億歐元的新型融資工具,以支援早期創業和正處於發展階段的人工智慧企業2 — 旨在刺激區塊鏈、物聯網等突破性應用和相關技術的發展。
組織機構也緊跟人工智慧的發展潮流。2018年,已有86%的企業報告了其發展階段或進階階段的人工智慧部署,將該技術視為未來業務營運的主要促進因素3。諸多證據都可以支持這一立場。雖然人工智慧的潛力因國家和行業而異,但其將會產生的積極影響是毋庸置疑的,此類影響包括降低成本、提高勞動生產率、增強商業智慧化和完善客戶體驗4。
儘管人工智慧可以帶來客戶利益和商業價值,但組織機構同樣要意識到其所帶來的特殊風險。領導者有責任意識到人工智慧所帶來的的社會及組織風險 — 否則人工智慧帶來的風險將會迫使他們為技術錯誤買單。
有些人預測超級智慧的出現會使失控的人工智慧機器人征服世界。這些觀念看似無稽之談,但也不無道理。歧視和不明確決策等意想不到的結果有可能對組織機構的聲譽和個人利益造成損害。微軟的人工智慧聊天機器人Tay受線上用戶的驅使,發表了種族主義言論5。
在另一個案例中,IBM的Watson在接受了不可靠的小資料集訓後,提出了缺乏安全性且錯誤的癌症治療建議6。
還有一些擔憂則是圍繞著人工智慧的使用能否合乎道德而展開。該技術很容易落入惡人之手或遭到惡意開發。大型私營企業掌握的人工智慧造成了對於監視和審查的恐慌。而當事情出錯時—誰來承擔智慧財產權、社會影響等方面的法律責任?
這些擔憂部分來自於所謂的人工智慧 “黑盒子”。傳統的系統開發是將一套系統必須遵循的規則正式化,而人工智慧系統開發則完全不同。機器學習演算法從給定的資料集中歸納和推演出規則 — 使得規則具有不透明性,開發人員也未必能完全掌握。
在強調人工智慧應用的複雜性時,Saerbeck博士(TÜV SÜD數位服務首席技術官)說:“目前的機器學習模型是將功能編入數十萬甚至數百萬個參數當中。目前,我們還未擁有強有力的框架來了解每個值的作用和影響。這樣就出現了不確定性。我們不清楚某個特定模型會在何種條件下出現故障。目前,人工智慧管理是抑制人工智慧風險的唯一有效途徑。我們需要通過更新流程,來實現可靠地測量和量化諸如穩健性、準確性、可預測性等人工智慧品質評估指標。”
組織機構已瞭解人工智慧帶來的風險 — 這種認識也在阻止其利用該技術的潛在優勢。缺乏透明度就是風險之一,它阻礙了AI的應用7。正如Saerbeck博士所說:“可信度對於人工智慧在關鍵任務中的應用及其獲取全部潛在效益至關重要”。
這種難以琢磨的“可信度”,主要依賴三大支柱:
定義:TÜV SÜD的智慧立面檢測系統使用人工智慧檢測建築立面材料的老化和潛在問題。TÜV SÜD採用嚴格的人工智慧品質管制框架,規避人工智慧風險,以呈現精確、實用的檢查報告。
機遇
風險
(建築掃描三維重建)
操作流程:
使用無人機沿著建築物立面拍攝圖像。人工智慧協助檢查人員分析所收集的資料。此類演算法有助於:
意義: 該案例研究強調了人工智慧建立信任極具挑戰性。雖然智慧立面檢測中,機遇大於風險,該應用中的失誤 — 推而廣之到整個人工智慧 — 會使企業面臨經濟和聲譽的雙重損失。此類風險能夠也必須通過強有力的人工智慧管理方法進行管理。
“人工智慧管理對於管理高風險應用中的人工智慧品質至關重要。受限於能力和經費,如立面檢查這個案例中透過人工審核報告等單一控制手法來抑制風險是不夠的。特別是如果所犯錯誤是可避免的,企業將很難為不完善的管理計畫辯解。”
– Martin Saerbeck博士,TÜV SÜD數位服務首席技術官
企業仍在全力對人工智慧品質進行充分管理,採取的措施包括改進管理、減少偏見及監測模型性能。為縮小這一差距,各國正在制定相關準則,如歐盟委員會於2021年4月發佈的關於人工智慧的新法律框架8—《人工智慧道德準則》、亞洲首個人工智慧治理框架模型9以及新加坡的《組織實施和自我評估指南》(ISAGO)10。
Saerbeck博士解釋道,這些準則框架雖好,但缺乏實用性建議,無法增強人工智慧應用落實的信心。他們定義了零歧視、公平等高層目標,但沒有詳細說明實現目標的途徑。例如,怎樣將這些目標轉化為演算法選擇,需要建立怎樣的測試流程,採取什麼衡量標準。這些都需企業來弄清楚。
為了填補這一空白,TÜV SÜD開發了一套人工智慧品質管理系統。該公司在宏觀層面上透過人工智慧資料、演算法和模型等關鍵問題對組織機構進行指導。深入研究後,再仔細描繪人工智慧的生命週期,幫助企業預測人工智慧開發和應用過程中各階段的風險及陷阱,實現當前治理框架所規定的要求。
對致力於為實現安全、道德和透明的人工智慧應用而建立專家級自主研發團隊的組織機構而言,TÜV SÜD創建了人工智慧品質管理系統培訓班。培訓班學員將瞭解五大品質支柱(安全、保障、道德、法律、性能)、支柱特點、專門的風險評估以及在人工智慧系統的整個生命週期內解決此類問題的策略。其目的在於為人工智慧的應用提供實用步驟,並根據組織具體情況進行調整。
提高人工智慧可信度的道路是曲折的,不會一蹴而就。Saerbeck博士解釋道:“人們對人工智慧中的信任不是靠某個人或在系統生命週期中的某個階段就可以實現的。從人工智慧系統的概念化直至其退出歷史舞臺,各利益相關者都在達到和保持所需品質的問題上發揮著重要的作用。不能單從技術層面解決對人工智慧的信任問題,還涉及到整個企業層面。”
加入競賽亦或是出局 — 這就是企業和人工智慧面對的現狀。雖然法規仍然滯後,但領導者必須馬上採取行動,利用實用的人工智慧管理準則和原則使自己的企業踏上正軌。
Martin Saerbeck博士簡介
![]() |
Martin Saerbeck博士在擔任TÜV SÜD集團數位服務首席技術官-,領導人工智慧、機器人和物聯網技術的新型數位測試解決方案的戰略研究和開發計畫。Martin博士擁有電腦科學學位和工業設計博士學位,在業界和學術界擁有超過15年技術方案開發經驗。 |
至2030年,1人工智慧可為全球經濟增值15萬億美元,普華永道經《工業週刊》
2高達1.5億美元的新型歐盟融資工具,用以支持歐洲人工智慧企業,歐盟委員會
3人工智慧時代的領導力,Infosys
4深入:人工智慧2019,AI Statista
5微軟2016年種族主義聊天機器人揭示了線上對話的危險,Spectrum
6IBM Watson人工智慧醫療名不副實表現在哪些方面,Spectrum
7CEO的20年心路歷程,普華永道
8歐洲適應數位時代:歐盟委員會就人工智慧的優良性能及可信度出臺新規則及新行動,歐盟委員會
9新加坡的人工智慧管理方法,PDPC
10新加坡在世界經濟論壇推出新的人工智慧倡議,OpenGov
A practical guide to gain the required knowledge to master AI quality
Learn More
Select Your Location
Global
Americas
Asia
Europe
Middle East and Africa