A PRACTICAL APPROACH TO SIDESTEP AI RISKS
AI가 인류에게 이득이 되게 하려면, 우리는 AI 애플리케이션 시스템, 프로세스 및 환경을 능동적으로 만들어나가야 합니다. 현 규정들은 최소한의 리스크로 사람 중심 AI를 구축하는 데 필요한 윤리적, 기술적 요구사항을 충족하지 못하고 있습니다. 우리는 여러 이해관계자들 사이의 광범위한 의견 교환을 긍정적으로 보고 있지만, 이제 고객은 더 많은 것을 요구하고 있습니다. TÜV SÜD는 여러 학문 분야를 망라하여 AI 관리방식에 접근하는 일에 전념하고 있으며, 기업이 AI의 품질과 신뢰성을 확실히 평가할 수 있도록 지원하는 명확한 프로세스를 창안하였습니다.
인공지능(AI)은 크고 작은 면에서 우리의 삶 안으로 들어왔습니다. 인공지능은 휴대폰이 제공하는 스마트 가상 비서, 당일 배송을 위한 창고 관리, 생명을 살리는 예측 진단 등 여러 시스템에 사용되고 있습니다. PwC(1)에 따르면, AI는 2030년까지 세계 경제 규모를 15조 달러 더하여 개인, 기업 및 정부에 전례 없는 기회를 제공할 수 있습니다.
전 세계 조직들은 AI의 혁신적인 잠재력을 깨닫고 있습니다. EU는 작년 12월 블록체인, 사물 인터넷과 같은 획기적인 애플리케이션 및 관련 기술에 박차를 가하기를 희망하면서 초기 및 성장 단계 AI 기업을 지원하기 위해 최대 1억5천만 유로의 새로운 자금 조달 수단을 발표했습니다.(2)
기업들 역시 AI 트렌드에 합류하고 있습니다. 2018년, 이미 86%의 회사들이 AI를 미래 사업 운영의 주된 촉진제로 판단하여 중간 또는 상위 단계의 AI를 도입하고 있다고 보고했습니다(3). 이 외에도 이러한 현상을 뒷받침하는 많은 증거가 있습니다. AI의 잠재력은 나라 또는 산업에 따라 다르겠지만, 비용 절감, 노동 생산성 향상, 비즈니스 인텔리전스 및 고객 경험 향상을 포함하여 긍정적인 영향이 클 것으로 예상됩니다. (4)
AI가 고객에게 혜택과 기업 가치를 많이 창출할수록 조직들은 그로 인해 발생하는 고유한 리스크를 파악해야 합니다. 관련 리더는 AI의 사회, 조직적 리스크 또는 기술이 잘못 사용될 경우 대처해야 할 리스크에 대한 지식을 연마할 책임이 있습니다.
일부 예측가들은 초지능, 즉 폭주하는 인공지능 로봇이 세계를 장악할 것이라고 상상합니다. 이러한 생각은 억지스럽지만 일리가 있다는 점도 부인할 수 없습니다. 차별 (알고리즘의 편향성 등) 및 불확실한 의사결정과 같은 의도하지 않은 결과로 인하여 기업 평판이 손상되고 개인이 피해를 입을 가능성이 있습니다. 일부 온라인 사용자들은 마이크로소프트의 AI 챗봇 Tay를 조작하여 인종차별적 발언을 퍼뜨렸습니다(5).
또 다른 예로 IBM의 Watson은 작고 신뢰할 수 없는 데이터 세트를 학습한 후, 안전하지 않고 잘못된 암 치료 권장사항을 내놓았습니다(6).
AI의 윤리적 사용과 관련된 다른 우려도 있습니다. 이 기술은 쉽게 나쁜 사람들 손에 들어가거나 악의적인 의도로 개발될 수 있습니다. 정부와 대형 민간 기업의 손아귀에 있는 AI는 감시와 검열의 수단으로 악용될 수 있습니다. 만약 일이 잘못될 경우 누가 지적재산권 또는 사회적 영향과 같은 일에 법적으로 책임을 질 것입니까?
이러한 우려는 부분적으로 AI의 ‘블랙 박스’라고 하는 것에서 나옵니다. 일련의 규칙이 공식화되어 시스템에 제공되는 기존 시스템 개발과 달리 AI 시스템 개발은 기존의 방법론을 뒤집습니다. 기계학습 알고리즘은 주어진 데이터 세트로부터 규칙을 일반화하고 추론하여 개발자조차도 세부사항을 다 알 수 없는 불투명한 규칙이 생겨납니다.
새어벡(Saerbeck) 박사(TÜV SÜD 디지털 서비스 CTO)는 AI 애플리케이션의 복잡성을 강조하면서 이렇게 말했습니다. “현 기계학습 모델은 수백만 개의 매개변수는 아니더라도 수십만 개의 기능을 인코딩합니다. 현재로서는 이러한 각 값의 역할과 영향을 이해하기 위한 강력한 프레임워크가 부족합니다. 이는 불확실성을 초래하지요. 우리는 어떤 조건에서 주어진 모델이 실패하는지 알 수가 없습니다. 현재로서는 기존의 AI 관리방식이 AI 리스크를 관리하는 데 필요한 유일하고 효과적인 경감책입니다. 그래서 우리는 AI에 대한 견고성, 정확성 및 예측 가능성과 같은 품질 지표를 측정하고 정확하게 정량화할 수 있도록 프로세스를 업데이트해야 합니다.”
조직들은 이미 AI와 관련된 리스크를 알고 있으며 이 리스크는 조직이 AI 기술의 잠재적 이점을 누리는 데 걸림돌이 되고 있습니다. 이러한 리스크 중에는 AI를 채택하기 어렵게 만드는 투명성 결여 문제가 있습니다(7). 새어백(Saerbeck) 박사가 말한 것처럼, “미션 크리티컬(무중단 서비스가 요구되는 산업, 중요 기간 산업 등) 애플리케이션에 AI를 적용하거나 AI의 잠재력을 최대한 활용하기 위해서 신뢰성이 필수입니다.”
반드시 다음 세 가지 축으로 ‘신뢰성’을 지원해야 합니다:
정의: TÜV SÜD’의 스마트 파사드 검사는 AI를 활용하여 건물 파사드(외관)의 재료 저하 및 근원적인 문제를 확인하는 시스템입니다. TÜV SÜD는 AI 리스크를 회피하면서 정확하고 실행 가능한 검사 보고서를 제공하기 위해 엄격한 AI 품질 관리 프레임워크를 채택하고 있습니다.
기회/이점
리스크
(3D Reconstruction of building scan)
작동 방식:
건물 외관을 따라 이미지를 촬영하기 위해 드론을 활용합니다. AI는 수집된 데이터의 분석에서 검사관을 지원합니다. 알고리즘은 아래 사항을 지원합니다.
의미: 이 사례 연구는 AI에서 신뢰 구축의 문제를 강조하고 있습니다. 스마트 파사드 검사를 활용하면 리스크보다 이점이 더 많지만, 이 애플리케이션 및 일반적으로 AI 사용 사례 전반에 오류가 발생하면 회사의 평판이나 재정에 손해가 될 수 있습니다. 이러한 리스크는 엄격한 AI 관리방식을 통해 관리할 수 있고 또 그렇게 해야 합니다
“AI 관리방식은 리스크가 많은 애플리케이션에서 AI를 관리하기 위해 필수입니다. 외관 검사 사례처럼 사람이 보고서를 확인하는 것과 같은 한 가지 방법을 통한 경감책은 자원과 관련 비용의 제한으로 인해 충분하지 않습니다. 특히 피할 수 있었던 실수가 발생한 경우, 회사는 어떤 이유로 불완전한 관리방식 계획이 수립되었는지 논쟁하는 데 힘든 시간을 보내야 할 것입니다.”
– TÜV SÜD 디지털 서비스 CTO 새어벡(Saerbeck) 박사
많은 회사들이 관리방식을 향상하거나 편향성을 줄이고 모델 성능을 모니터링하는 방법을 통해 AI 품질을 적절히 관리하려고 여전히 노력하고 있습니다. 이러한 격차를 좁히기 위한 노력의 일환으로, 유럽 위원회가 2021년 4월에 발표한 AI에 관한 새로운 법적 프레임워크(8), 신뢰할 수 있는 AI에 대한 윤리 지침, 아시아 최초의 AI 관리방식 프레임워크(9), 조직을 위한 실행 및 자가 평가 가이드(싱가포르의 ISAGO10) 등 여러 지침이 현재 개발되고 있습니다.
새어벡(Saerbeck) 박사가 말한 것처럼, 이러한 지침은 훌륭한 프레임워크를 제공하고 있으나, AI 애플리케이션을 자신 있게 실행하는 데 실제적인 도움이 되기에는 부족합니다. 차별 방지, 공정과 같은 상위 수준의 목표를 정하고 있으나 그 목표를 달성하려면 어떻게 해야 하는지 상세히 설명하지 않고 있습니다. 예를 들어, 그러한 목표를 이루기 위해 알고리즘을 선택하고 준비된 테스트 프로세스를 만들고 선정할 지표로 어떻게 전환해야 하는지 파악하는 것은 모두 기업의 몫입니다.
이 격차를 메꾸기 위해, TÜV SÜD는 AI 품질 관리 시스템을 개발하였습니다. 상위 수준에서, 이 시스템은 AI 데이터, 알고리즘 및 모델을 포괄하는 핵심 질문을 통해 조직을 안내합니다. 심도 있는 반복 훈련을 통해, 시스템은 현 관리방식 프레임워크 안에 계획되어 있는 요구사항을 달성하기 위해 AI 개발과 실행의 매 단계에서 AI 수명주기를 도식화하여 기업이 리스크와 위험을 예상할 수 있게 도와줍니다.
안전하고 윤리적이며 투명한 AI를 구현할 수 있는 사내 전문가 팀 양성을 희망하는 조직을 위하여, TÜV SÜD는 AI 품질 관리 시스템에 대한 훈련 워크숍을 제공합니다. 참가자들은 다섯 가지의 주된 품질의 축(안전성, 보안성, 윤리성, 적법성, 성능)과 각각의 특성, 해당되는 리스크 평가 및 AI 시스템 수명주기 전반에 걸쳐 이를 해결하기 위한 전략에 대해 배우게 됩니다. 목표는 조직의 고유한 맥락에 부합하는 AI 시스템 구현을 위해 실행 가능한 단계를 제공하는 것입니다.
신뢰할 수 있는 AI 시스템으로 가는 여정은 쉽지 않으며 단 한 번의 노력으로 끝나지 않습니다. Saerbeck 박사는 이렇게 설명합니다. “AI에 대한 신뢰는 한 개인이 또는 시스템 수명주기의 한 단계에서 바로 달성할 수 있는 그런 속성이 아닙니다. 개념화 단계에서 AI 시스템의 폐기에 이르기까지 각 이해관계자는 필요한 품질의 달성과 유지를 보장하기 위해 중요한 역할을 담당합니다. AI에 대한 신뢰는 기술적 접근만으로는 해결될 수 없고 회사 전체가 관여해야 가능 합니다.”
현재 기업과 AI 간은 경주쟁에 참여하거나 지느냐 밖에 없습니다. 규제가 비록 뒤쳐지고 있지만, 중요한 것은 각 조직의 리더가 지금 바로 시작하여 실질적인 AI 관리방식 지침과 원칙에 바탕을 두고 기업을 올바른 방향으로 이끌어가는 일입니다
마틴 새어백 박사 (Dr. Martin Saerbeck)
 |
TÜV SÜD의 디지털 서비스 CTO인 마틴 새어벡(Martin Saerbeck) 박사는 AI, 로봇 및 IoT 기술에서 전략 연구와 디지털 테스트 솔루션에 대한 개발 계획을 이끌고 있습니다. Martin 박사는 산업 및 학계를 위한 기술 솔루션 개발 분야에서 15년 이상의 경험을 바탕으로 컴퓨터 공학 학위와 산업 디자인 박사 학위를 보유하고 있습니다. |
1AI could add $15 trillion to the global economy by 2030, PwC via Industry Week
2New EU financing instrument of up to $150 million to support European AI companies, European Commission
3Leadership in the age of AI, Infosys
4In-depth: Artificial Intelligence 2019, AI Statista
5In 2016 Microsoft’s Racist Chatbot Revealed the Dangers of Online Conversation, Spectrum
6How IBM Watson Overpromised and Underdelivered on AI Health Care, Spectrum
720 years inside the mind of the CEO, PwC
8Europe fit for the digital age: Commission proposes new rules and actions for excellence and trust in AI, European Commission
9Singapore’s approach to AI governance, PDPC
10Singapore launches new AI initiatives at World Economic Forum, OpenGov
Establish trust, stay relevant, and utilise the full potential of AI
자세히 알아보기
Site Selector
Global
Americas
Asia
Europe
Middle East and Africa
