오픈AI, 더 강화된 보호조치 약속하며 10대 이용자를 전용 버전의 ChatGPT로 제한

유명 소송 이후 AI 스타트업이 청소년용 챗봇을 전면 개편하다

크리스티나 크리들, 샌프란시스코

게시됨 어제

오픈AI는 젊은층에 대한 AI의 영향에 대한 반발에 대응하기 위해, 10대 청소년의 이용을 정신건강 보호 장치를 강화하고 비판적 사고를 장려하는 기능을 갖춘 새로운 버전의 챗GPT로 제한할 예정이다.

기업가치 8,520억 달러의 이 스타트업은 화요일부터 전 세계 13~17세 이용자를 대상으로 한 전용 챗GPT를 출시하며, 이미지 생성과 자해·폭력·섭식장애·성 관련 콘텐츠에 대해 더욱 엄격한 통제를 적용할 예정이다.

이번 조치는 오픈AI가 자녀들이 챗GPT를 사용하다 피해를 입었다고 주장하는 가족들로부터 여러 건의 소송을 당한 가운데 나온 것이다. 오픈AI는 향후 1년 안에 사상 최대 규모가 될 가능성이 있는 기업공개(IPO)도 준비하고 있다.

AI가 젊은이들에게 미치는 영향에 대한 scrutiny가 커지는 가운데, 영국을 비롯한 여러 국가가 16세 미만 청소년의 소셜미디어 이용 금지로 나아가고 있다. 이러한 조치는 대체로 AI 챗봇을 제외하지만, 기술 기업에 대한 압박은 한층 높아졌다.

OpenAI는 캘리포니아 출신의 16세 소년 Adam Raine의 유가족으로부터 소송을 당했다. 법원 문서에 따르면 그는 ChatGPT와 자살에 대해 논의한 뒤 스스로 목숨을 끊었으며, ChatGPT는 구체적인 실행 방법을 제공했다.

지난 2월 캐나다 Tumbler Ridge의 한 학교에서 발생한 총격 사건으로 자녀를 잃은 가족들도 OpenAI를 상대로 소송을 제기했다. 총격범인 10대 청소년이 공격을 앞둔 수개월 동안 ChatGPT와 폭력적인 의도를 논의한 사실이 드러났기 때문이다. 해당 계정은 수개월 전에 차단됐지만, 회사는 법 집행기관에 연락하지 않았다.

OpenAI에서 청소년 및 가족 부문을 이끄는 Lauren Jonas는 “그런 상황들은 가슴 아픈 일입니다. . . . 한 건의 사건만으로도 너무 많습니다”라고 말했다.

Jonas는 인터뷰에서 “안전 업무는 결코 끝나지 않는 일입니다. . . . 제 눈 밑에 다크서클이 보이시죠”라고 덧붙였다. “우리는 10대가 어려움을 겪고 있는 순간을 어떻게 식별하고, 그들에게 필요한 적절한 지원을 제공할지에 대해 끊임없이 배우고 개선하고 있습니다.”

ChatGPT에는 자녀 보호 기능이 있어, 아동이 자살이나 자해에 대해 이야기하는 경우처럼 고위험 상황에서 안전 알림을 보낸다. 청소년용 새 버전에는 섭식장애와 폭력에 관한 알림도 추가됐다.

Jonas는 이러한 사안이 최신 업데이트에서야 추가된 이유에 대해 “청소년의 사생활 보호 권리와 피해 자체의 심각성 사이에서 균형을 맞추는 문제”라고 말했다.

OpenAI의 정책은 13세 미만 아동의 챗봇 사용을 금지하고, 18세 미만 사용자는 부모의 동의를 받도록 요구한다. OpenAI는 사용자가 밝힌 나이와 이용 방식에 관한 “여러 신호의 조합”을 함께 활용해 언제 청소년용 버전을 제시할지 판단할 예정이다.

청소년용 ChatGPT는 교육용 애플리케이션을 이용하도록 유도하고, 사용자가 직접 설정하거나 부모가 설정할 수 있는 ‘조용한 시간’, 즉 ChatGPT가 차단되는 시간과 더 잦은 휴식 알림을 제공할 예정이다.

조나스는 오픈AI가 “현재 ChatGPT에서 문제가 될 만한 사용 문제나 과도한 사용 문제를 발견하지 못했다”고 말했다. 그러나 이 주제에 관한 연구가 부족하기 때문에 회사는 “보수적인 접근 방식을 취했다”고 덧붙였다.

오픈AI는 챗봇이 청소년의 질문에 즉각 답을 제공하는 것이 ‘인지적 오프로딩’으로 알려진 현상을 통해 청소년의 비판적 사고와 학습을 저해한다는 우려가 커지는 데에도 대응하려 하고 있다.

회사는 새 버전에 단순히 답을 제시하는 대신 청소년이 문제를 단계별로 해결하도록 안내하는 업데이트된 ‘학습 모드’를 탑재할 것이라고 밝혔다.

조나스는 ChatGPT를 사용하는 청소년의 90%가 학습을 위해 이를 이용한다며, 오픈AI는 “이 경험을 계속 발전시키고 학습 도구로 만들고 싶다”고 말했다.

“무엇보다도 그것을 학습 도구로 만드는 것이 목표입니다”라고 그녀는 덧붙였다.

AI가 성장과 경쟁, 산업 변화에 미치는 영향을 살펴보세요.