‘AI 워싱(AI Washing)’에 대한 관심 증가

자율성에 대한 기대에서 검증 가능한 성능에 대한 요구로 변화하면서, AI 시스템은 점점 더 ‘무엇을 할 수 있다고 주장하는가’가 아니라 ‘실제로 무엇을 입증할 수 있는가’로 평가되고 있습니다. 최근 몇 년간 기업들이 자사 제품과 서비스를 ‘AI 기반’으로 홍보하는 사례가 늘어나면서, 이른바 ‘AI 워싱’ 관련 소송도 증가하는 추세입니다.
 

‘AI 워싱(AI Washing)’이란 제품, 서비스, 또는 기업 활동 전반에서 인공지능 역량을 과장하거나 왜곡하는 전략적 행위를 의미합니다.
실질적으로는 기존 소프트웨어, 수작업 프로세스 또는 상당한 인적 노동에 의존하고 있음에도 불구하고, 마치 자율성이 확보된 것처럼 보이도록 만드는 ‘자율성의 환상’을 형성하는 것이 핵심입니다.

AI 워싱은 기업이 기술의 성능이나 정교함을 과장하는 방식의 오해 소지가 있는 마케팅을 통해 발생합니다. 이러한 행위는 실제보다 더 발전된 AI 기술을 사용하는 것처럼 보이게 하며, 소비자, 투자자, 규제기관에게 비현실적인 기대를 형성하게 만듭니다. 이러한 관행은 AI 기술 전반에 대한 신뢰를 약화시킬 수 있으며, 특히 모바일 쇼핑 앱과 같은 일상적인 디지털 도구를 통해 형성된 사용자 인식의 영향을 크게 받습니다. 또한 사용자 집단 간의 특성 차이(세대, 디지털 이해도 등)에 따라 잘못된 신뢰가 형성될 가능성도 높습니다. 따라서 소비자가 AI 기술을 정확히 이해하고 평가할 수 있도록 명확한 정보 공개와 투명성 확보가 필수적입니다.  

EU 인공지능법(EU Artificial Intelligence Act)에 따르면, AI 시스템은 다양한 수준의 자율성을 가지고 작동할 수 있으며, 제한적이거나 전혀 인간의 직접적인 개입 없이도 의사결정과 작업 수행이 가능합니다. 이러한 특성은 기업의 책임 구조에도 변화를 가져옵니다. AI는 더 이상 완전히 예측 가능한 정적인 소프트웨어로 간주될 수 없으며, 시스템의 자율적 판단과 결과에 대한 책임이 기업에 보다 크게 요구됩니다.

이에 따라 규제기관은 AI 워싱을 방지하기 위해 엄격한 정보 공개 의무와 입증 요구를 강화하고 있습니다. 기업은 투자자 및 소비자에게 AI 관련 주장을 할 경우, 실제로 해당 기술이 존재하는지, 주장한 성능을 실제로 구현하는지, 사업 운영 및 성과에 실질적인 영향을 미치는지를 입증할 수 있어야 합니다. 이를 위해 보증 및 심사 체계를 통한 검증 요구가 점점 강화되고 있습니다.

국제적으로, EU의 AI Act는 AI 워싱에 대응하는 글로벌 기준을 설정하는 것으로 널리 평가되고 있습니다. 미국에서는 텍사스의 TRAIGA와 캘리포니아의 SB 53과 같은 주(州) 단위의 이니셔티브가 존재합니다.

​영국에서는 2024년 DMCC 법(DMCC Act 2024)에 따라 전 세계 매출의 최대 10%에 달하는 벌금이 부과될 수 있습니다. UAE에서는 두바이의 “AI Seal” 과 같은 이니셔티브가 평판 기반의 집행 메커니즘을 형성하고 있습니다. 동아시아에서는 대만 공정거래위원회와 같은 규제 기관이 AI 기반이라는 기만적 주장을 허위 또는 오해의 소지가 있는 광고로 간주합니다. 

AI 워싱의 위험을 줄이고 새롭게 등장하는 규제 기준을 준수하기 위해, 조직은 AI 시스템의 개발, 분류 및 커뮤니케이션과 관련된 명확한 내부 거버넌스 조치를 채택해야 합니다. 효과적인 거버넌스는 AI 시스템의 기술적 작동 방식에 대한 투명성뿐만 아니라, 이러한 시스템이 소비자, 투자자 및 규제 기관에 어떻게 제시되는지에 있어서의 투명성 또한 요구합니다.

'AI washing'에 대한 추가 문의 또는 지원이 필요하신 경우, korea@nemko.com 으로 연락해 주시기 바랍니다.