AI의 ‘쿠키 배너’ 순간… EU, 봇에도 라벨 부착 추진

새로운 규정에 따라 기업들은 챗봇, 딥페이크 및 AI가 생성한 마케팅 자료에 이를 명시해야 한다.

브뤼셀의 바버라 문스

게시 1시간 전

유럽 기업들이 챗봇, 딥페이크, AI 생성 마케팅 자료에 AI 표시를 서두르고 있다. 브뤼셀이 획기적인 AI법에 따른 최초의 소비자 대상 의무를 시행할 준비에 들어갔기 때문이다.

온라인 소매업체, 여행사, 광고대행사 등이 8월 2일 새로운 투명성 규정이 발효되기 전에 웹사이트와 고객 서비스 시스템을 대대적으로 개편하고 있다.

이 규정에 따라 기업들은 고객이 AI 시스템과 상호작용하고 있다는 사실을 알리고, AI로 생성된 이미지·음성·영상을 식별해야 한다. 또한 이 시점부터 유럽연합 집행위원회는 법을 준수하지 않는 기업에 벌금을 부과할 수 있다.

“AI에도 쿠키 배너의 순간이 찾아오는 셈입니다.” Cooley의 변호사 Patrick Van Eecke는 유럽의 개인정보 보호 체계에 따라 널리 등장한 쿠키 안내문을 언급하며 이렇게 말했다. “지금까지 AI법은 대체로 추상적인 내용이었습니다. 이제 모든 사람이 특정 콘텐츠가 AI로 생성됐다는 표시를 실제로 보게 될 것입니다.”

이번 시한은 브뤼셀이 유럽연합(EU) 정상들이 유럽의 경쟁력에 필수적이라고 말하는 기술의 도입을 늦추지 않으면서 소비자에게 AI를 더 투명하게 알릴 수 있는지를 가늠하는 초기 시험대다.

유럽연합 집행위원회 우르줄라 폰데어라이엔 위원장은 글로벌 AI 경쟁에서 EU가 미국과 중국에 더 뒤처지는 것을 막기 위해 기업들이 AI 도입을 더욱 신속히 추진하기를 원한다.

이러한 추진의 일환으로 브뤼셀은 AI 기가팩토리 구축 계획을 공개하고, 컴퓨팅 인프라에 대한 투자를 확대하는 한편, 경쟁력을 높이고 유럽의 미국 기술 제공업체 의존도를 낮추기 위해 관료적 규제를 완화하겠다고 약속했다.

그러나 많은 기업은 EU가 기업들에 AI를 더 빠르게 도입하라고 요구하는 동시에, 해석하기 여전히 어려운 새로운 규정을 준수하도록 요구하고 있다고 주장한다. 집행위원회는 새로운 규정이 적용되기 불과 몇 주 전에 지침을 발표해 기업들이 적응할 시간이 거의 없도록 했다.

마케팅 자료의 약 90%를 생성하거나 개선하는 데 AI를 사용하는 베를린 소재 온라인 소매업체 Zalando는 집행위원회의 지침이 “불필요한 규제 계층을 하나 더 추가했다”고 말했다.

Zalando는 “새로 도입된 지침은 우리가 바랐던 명확성을 제공하지 못한다”고 밝혔다.

유럽연합 집행위원회는 서로 다른 기업들이 규정을 각기 다르게 해석할 수 있어 집행이 분절될 위험이 있다고 덧붙였다.

소매업계 로비단체 유로커머스(Eurocommerce)도 소비자를 혼란스럽게 하는 동시에 과도한 규정 준수 비용을 초래할 수 있는 “무차별적 라벨링”에 반대한다고 경고했다.

새 라벨은 소비자들이 AI로 생성된 콘텐츠와 상호작용할 때 이를 더 잘 인지하도록 하기 위한 것이다.

그러나 대형 미국 기술기업들이 회원사로 포함된 로비단체 CCIA 유럽은 가이드라인이 딥페이크를 지나치게 광범위하게 정의해 사실상 AI로 생성된 거의 모든 콘텐츠에 라벨이 필요하게 된다고 경고했다. CCIA 유럽은 “모든 이미지와 콘텐츠를 같은 방식으로 취급하면 라벨은 아무런 의미도 갖지 못하게 된다”고 덧붙였다.

CCIA의 AI 정책 책임자인 보니파스 드 샹프리스는 “부담스러운 요건과 의문스러운 해석”이 “혁신을 위한 해법이 아니라 규정 준수 마비를 초래하는 처방”이라고 말했다.

그러나 EU의 기술 담당 집행위원 헨나 비르쿠넨은 새로운 규정이 소비자들이 AI 콘텐츠와 에이전트, 챗봇을 “더 투명하고 신뢰할 수 있게” 이용하도록 하는 데 중요하다고 주장했다.

“이는 소수의 대기업이 수백만 명의 삶과 생계에 도입하는 시스템인 만큼, 대중은 자신들이 무엇을 상대하고 있는지, AI가 무엇을 할 수 있는지, 어떤 위험이 수반되는지 알 권리가 있습니다”라고 고위험 AI 시스템에 대한 더 엄격한 보호를 요구해온 Future of Life Institute의 EU 정책·연구 책임자 Risto Uuk은 말했다.

집행위 관계자들은 표준 사진 편집을 포함해 ‘라벨링 피로’를 피하기 위한 여러 면제 조항이 지침에 포함돼 있다고 거듭 강조했다.

한 집행위 관계자는 “AI를 통한 아주 작은 수정까지 과도한 표시를 요구해야 한다는 생각은 잘못된 것”이라며, 업계와의 협의 이후 지침이 보다 비례적인 방식으로 변경됐다고 설명했다.

“이번 지침은 무의미한 투명성 의무로 귀결되지 않도록 최대한 실용적인 접근법을 취하고자 했습니다.”

일부 기업의 경우 새 규정은 이미 도입한 관행을 대체로 공식화하는 데 그친다.

게임 기업 Chess.com은 이용자 커뮤니티가 자신이 사람과 대결하는지 봇과 대결하는지 아는 것이 중요하다는 점을 이해하고 있다고 밝혔다. 최고경영자 에릭 알레베스트에 따르면 지난달 이 플랫폼에서 2억5,000만 건이 넘는 게임이 봇을 상대로 진행됐다.

추천

온라인 여행사 Booking.com은 고객들이 자신이 AI 비서와 대화하고 있는지, 아니면 인간 상담원과 대화하고 있는지 점점 더 알고 싶어 한다며, 투명성이 규제 요건일 뿐 아니라 사업에도 도움이 된다고 밝혔다.

Booking.com의 AI 제품 담당 이사인 프라나브 파타크는 “AI와 대화하고 있다는 사실을 투명하게 밝히는 것이 결국 해당 문제에서 더 나은 고객 서비스 결과로 이어진다는 점을 실제로 확인했다”고 말했다.

그러나 Booking.com은 전반적으로 AI법을 지지하면서도, 이 법을 자사 제품에 어떻게 적용할지에 대해 집행위원회가 보다 명확한 지침을 제시하기를 원한다고 밝혔다. “규정상 [우리 엔지니어들이] 무엇을 할 수 있고 무엇을 할 수 없는지, 평이하고 간단한 용어로 이해해야 합니다.”

EU의 투명성 규정은 2024년 8월 발효된 AI법이 단계적으로 시행되는 과정의 한 부분에 불과하다. 일요일부터 집행위원회는 ‘시스템적 위험’을 초래하는 범용 AI 모델을 조사할 수 있는 새로운 법적 권한도 갖게 된다. 규정을 위반할 경우 기술 기업에는 직전 회계연도 전 세계 연간 총매출의 최대 3% 또는 1,500만 유로 중 더 큰 금액의 벌금이 부과될 수 있다. 그러나 기술업계와 일부 EU 회원국의 압박에 따라 집행위원회는 이른바 고위험 시스템에 대한 요건 시행 시작일을 이미 2027년 12월로 연기했다.

이 법안에 대해 고객들에게 자문하는 한 변호사는 “문제는 법안이 지나치게 부담스럽다기보다 예측하기 어렵고 계속 바뀐다는 점입니다. 기업들은 그런 상황을 좋아하지 않습니다”라고 말했다. 브뤼셀에서 파올라 탐마 추가 취재

유럽 익스프레스, 프리미엄, 월요일~금요일, 격주 토요일

오늘 유럽에서 중요한 사안에 관한 필수 모닝 브리핑