AI 시험 기술과 신뢰성 높은 검증 근거를 결합한 파트너십
TÜV SÜD와 QuantPi, AI 안전성 확보를 위한 협력 추진
뮌헨/프랑크푸르트 TÜV SÜD와 QuantPi가 AI 시스템의 시험 및 평가를 위해 협력합니다. QuantPi는 TÜV SÜD의 전 세계 최초 CARAT 파트너 시험소로서 통계적으로 검증된 AI 시험 기술을 제공할 예정입니다. 양사는 이번 협력을 통해 AI 기반 제품의 적합성 평가 및 인증에 필요한 객관적이고 검증 가능한 시험 근거를 체계적으로 확보할 수 있는 기반을 마련합니다. 특히 피지컬 AI와 자율주행 기계 분야에 중점을 둘 계획입니다.
EU AI법(EU AI Act)과 새로운 EU 기계류 규정(Regulation (EU) 2023/1230)에 따라 AI 기반 기능의 안전성을 입증하기 위한 요구사항이 강화되고 있습니다. 제조업체는 AI가 안전 부품으로 사용되거나 안전 기능을 수행하는 경우를 중심으로 AI 시스템이 신뢰성 있게 작동한다는 사실을 입증해야 합니다. EU AI법은 규제 대상 제품에 적용되는 AI 시스템의 적합성 평가에 관한 요구사항을 규정하고 있습니다.
이 과정에서 중요한 과제는 신뢰할 수 있고 추적 가능한 시험 근거를 확보하는 것입니다. 현재 AI 기반 시스템의 시험 결과를 적합성 평가에 활용하기 위해 필요한 통계적 유효성, 시험 방법의 재현성, 전 과정에 걸친 추적성을 모두 충족하는 표준화된 시험 절차는 제한적입니다. 한편, 인공지능과 기능안전의 통합을 위한 국제표준 개발도 지속되고 있습니다. 대표적으로 안전이 중요한 분야에서 AI 활용에 관한 요구사항과 지침을 제시하는 ISO/IEC 22440 시리즈가 있습니다.
QuantPi와 TÜV SÜD의 협력은 이러한 과제를 해결하는 데 초점을 맞추고 있습니다. QuantPi 플랫폼은 통계적 보장과 명확하게 정의된 신뢰한계를 바탕으로 AI 시스템의 동작 특성을 평가할 수 있습니다. 이를 통해 기존의 벤치마크 결과나 정성적 평가를 넘어 AI 시스템의 성능에 관한 정량적이고 재현 가능한 정보를 제공합니다.
이 시험 방법은 특정 AI 모델에 종속되지 않으며, 모델 내부의 매개변수나 학습 데이터에 접근할 필요도 없습니다. QuantPi는 ISO/IEC 17025:2017에 부합하도록 설계된 품질경영시스템에 따라 플랫폼을 운영하고 있습니다. 이를 통해 시험 과정과 결과의 추적 및 감사가 가능합니다. 통계적 유효성과 감사 가능한 시험 절차를 결합함으로써 시험 결과를 적합성 평가 및 인증을 위한 신뢰성 높은 근거 자료로 활용할 수 있는 기반을 제공합니다.
TÜV SÜD의 기계 안전 부문 책임자인 베네딕트 풀버(Benedikt Pulver)는 “QuantPi는 AI 시험 분야에서 높은 품질과 과학적 신뢰성을 갖춘 결과를 제공할 수 있는 역량을 입증했습니다. 이러한 역량은 TÜV SÜD의 AI 시험 및 인증 프로그램을 완벽하게 보완합니다”라며, “이번 협력을 통해 양사의 전문성을 결합함으로써 매우 복잡한 AI 시스템까지 평가하고, 고객이 향후 인증 및 적합성 평가를 준비할 수 있도록 명확한 방향을 제시할 것입니다”라고 말했습니다.
QuantPi의 CEO이자 공동 창립자인 필립 아다미디스(Philipp Adamidis)는 “규제 시장이나 안전이 중요한 분야를 대상으로 AI 기반 제품과 서비스를 개발하는 기업들은 공통적인 과제에 직면해 있습니다. 시스템이 의도한 대로 작동하더라도 인증기관의 요구사항을 충족하는 신뢰성 높은 검증 근거를 확보하기 어렵다는 점입니다”라며, “기계류 규정을 담당하는 인증기관(Notified Body)이 QuantPi의 검증 근거를 공식적으로 인정함에 따라, 기업들은 이제 AI 시스템을 체계적으로 시험하고 그 결과를 적합성 평가에 활용할 수 있는 명확하고 실질적인 방법을 확보하게 되었습니다”라고 설명했습니다.
새로운 시험 방법론은 특히 피지컬 AI, 자율주행 기계 및 로봇 분야에서 중요성이 높습니다. 휴머노이드 로봇, 자율이동로봇(AMR) 및 기타 AI 기반 기계는 끊임없이 변화하는 환경에서 작동하며 사람과 상호작용합니다. 따라서 이러한 시스템이 작동할 수 있는 모든 환경을 완벽하게 모델링하고 시험하기는 어렵습니다.
통계적 방법론은 정해진 횟수의 시험을 통해 시스템의 동작 특성에 관한 신뢰할 수 있는 결론을 도출하는 데 중요한 기반이 될 수 있습니다. 자율 시스템의 활용이 확대됨에 따라 이러한 접근법의 중요성도 더욱 커지고 있습니다.
동시에 인공지능과 기능안전을 체계적으로 통합하기 위한 새로운 국제적 접근법도 등장하고 있습니다. 현재 개발 중인 ISO/IEC 22440 시리즈는 안전이 중요한 기능에 AI를 적용하기 위한 요구사항과 지침 등을 다루고 있습니다.
베네딕트 풀버는 “피지컬 AI로의 전환은 안전 요구사항을 근본적으로 변화시키고 있습니다. AI 시스템이 물리적 환경과 직접적으로 연결된 작업을 수행하는 사례가 점점 늘어나고 있습니다”라며, “이에 따라 제조업체가 전체 평가 과정에서 안전성을 측정 가능하고 추적 가능하며 신뢰할 수 있는 방식으로 입증하는 것이 매우 중요해질 것입니다”라고 강조했습니다.
QuantPi와 TÜV SÜD는 이번 협력을 통해 각자의 전문성을 결합하고, AI 시스템을 효율적이고 신뢰성 높으며 투명하고 추적 가능한 방식으로 평가할 수 있는 포괄적인 프레임워크를 구축합니다. 이 프레임워크는 AI 시험의 체계적인 수행뿐 아니라 후속 적합성 평가 및 인증에 활용할 수 있도록 시험 결과를 정리하고 준비하는 과정까지 지원합니다.
초기에는 피지컬 AI와 규제 대상 산업 분야에 중점을 둘 예정입니다. 이 분야에서는 AI 기반 제품과 로봇 기술의 시장 도입이 본격화되는 동시에 안전성과 검증 근거 관리에 대한 요구 수준도 특히 높아지고 있습니다.
이번 협력은 확대되고 있는 글로벌 피지컬 AI 안전 생태계와도 연계됩니다. TÜV SÜD와 QuantPi는 모두 NVIDIA Halos 생태계의 회원사입니다. Halos는 피지컬 AI를 위한 종합 안전 플랫폼으로, AI Systems Inspection Lab을 통해 ANAB의 인정을 받은 피지컬 AI 기능안전 검사 프로그램을 제공합니다. 이를 통해 안전 시스템의 평가를 표준화하고 독립적인 제3자 시험을 위한 기반을 마련하는 것을 목표로 합니다.
이러한 협력을 바탕으로 AI 시스템의 개발과 체계적인 시험, 시험 결과의 통계적 검증, 후속 독립 평가를 위한 준비까지 연결되는 통합적인 생태계가 점차 구축되고 있습니다.
AI의 활용이 확대되면서 안전성과 신뢰의 문제는 제품의 기술적 기반을 검증하는 방향으로 발전하고 있습니다. 이에 따라 제조업체가 신뢰할 수 있는 데이터를 바탕으로 AI 시스템의 성능과 동작 특성을 입증하는 것이 더욱 중요해지고 있습니다.
TÜV SÜD와 QuantPi는 이를 실현하기 위한 구체적인 접근법을 개발하고 있습니다. AI 안전성을 측정하고 추적할 수 있도록 함으로써 규제 시장에서도 AI 기술을 보다 폭넓게 활용할 수 있는 기반을 마련하는 것입니다. 이는 특히 AI 기반 제품을 국제 시장에 안전하고 규정을 준수하는 방식으로 출시하고, 사업을 확장하려는 유럽 제조업체에 중요한 의미를 가질 것으로 기대됩니다.
QuantPi는 기업용 AI를 위한 검증 솔루션을 제공하는 기업입니다. QuantPi 플랫폼은 AI 모델의 내부 구조에 접근하지 않고도 모델 유형이나 데이터 형식에 관계없이 에이전트형 AI와 피지컬 AI를 포함한 다양한 AI 시스템의 실제 동작을 검증하고, 그 결과에 대한 신뢰 수준을 정량화합니다.
기존 벤치마크의 정보 유출이나 평가 순위의 변별력 저하와 같은 한계를 넘어, 고객의 자체 환경 내에서 수행한 시험 결과마다 통계적 신뢰구간을 제공합니다. QuantPi는 독일 CISPA 헬름홀츠 정보보안센터(CISPA Helmholtz Center for Information Security)에서 분사한 기업으로, 세계적인 시험·검사·인증(TIC) 기관들과 협력하고 있습니다.
Site Selector
Global
Americas
Asia
Europe
Middle East and Africa
