AI 오용 혐의로 조사받는 영국 고위 형사

경찰 감시기구는 더비셔 경찰청이 ‘내부 검토’ 후 해당 경찰관을 자신들에게 회부했다고 밝혔다.

더비셔 경찰의 고위급 형사 간부가 인공지능(AI) 관련 중대 비위 혐의로 조사를 받고 있으며, 글로스터셔 경찰의 한 직원은 최신 사례에서 경찰 조직이 신기술로 인해 직면한 어려움을 보여주는 무단 ChatGPT 사용으로 해고됐다.

영국 경찰행위독립국(IOPC)은 FT에 더비셔 경찰이 해당 경찰관의 AI 사용에 대한 “내부 검토”를 진행한 뒤 감시기구에 회부함에 따라 조사를 시작했다고 밝혔다.

사건을 잘 아는 한 관계자는 이 사건이 수사 과정에서 “의사결정 기록”을 작성하기 위해 AI를 사용한 혐의를 받는 해당 경찰 조직의 형사수석감찰관과 관련돼 있다고 말했다. 고위 수사관들은 수사 중 각 단계에서 해당 조치를 취한 이유를 기록하기 위해 이런 기록을 작성하며, 법정 재판 중 피고인 측 변호사가 검토할 수 있도록 공개될 수 있다.

또 다른 사람이 해당 사건으로 주장된 일들의 경위를 확인했다.

이번 사건의 더비셔 경찰관은 AI 오용 의혹으로 수사를 받는 것으로 알려진 영국 내 경찰 인사 중 가장 고위급이다.

지난 6월 FT는 더비셔 경찰이 법정 사건 자료를 준비하는 과정에서 AI 챗봇을 사용해 사법 절차를 왜곡했다는 의혹과 관련해, 또 다른 하급 형사를 대상으로 형사 수사에 착수했다고 보도했다.

공식 제한 조치는 법정 사건의 증거가 많은 AI 시스템이 생성하는 부정확한 ‘환각’에서 벗어나도록 하고 경찰 정보의 기밀을 보호하기 위해 마련됐다.

글로스터셔 사건에서는 경찰 직원 한 명이 안전장치를 우회해 경찰 관련 업무에 AI 챗봇을 “수차례” 사용한 뒤 해고됐다.

IOPC는 “더비셔 경찰은 경찰 당국이 제시한 지침과 조건에 부합하지 않는 것으로 우려된 한 경찰관의 인공지능 사용에 대한 내부 검토 후, 6월 23일 자발적으로 행위 조사를 의뢰했다”고 밝혔다.

IOPC는 해당 사안이 조사에 해당한다고 판단했다고 덧붙였다.

IOPC는 “해당 경찰관은 중대한 비위 혐의로 조사를 받고 있다는 통지를 받았다”고 밝혔다.

더비셔 경찰은 AI 사용과 관련해 한 경찰관을 IOPC에 회부했다고 확인했다.

더비셔 경찰은 “이번 조사는 IOPC가 독립적으로 주도하고 있으며, 더 이상 언급할 수 없다”고 덧붙였다.

해당 경찰관의 alleged misconduct가 어떤 경찰 규정을 위반했는지는 분명하지 않았다. 그러나 외부 AI 시스템이 수사 관련 정보에 접근하도록 허용하면 기밀성이 훼손될 수 있다.

해당 경찰관은 이 사건에 대한 논평 요청 이메일에 즉시 답변하지 않았다.

추천

왕립검찰청의 한 관계자는 해당 경찰관의 혐의가 있는 행위로 영향을 받은 모든 사건에서 변호인들에게 이를 통보했다고 밝혔다.

경찰 당국이 이름을 밝히지 않은 Gloucestershire의 이 직원은 AI 오용으로 해고된 것으로 알려진 영국 최초의 경찰 직원이다.

비위 혐의에 따르면 이 직원은 2024년 10월부터 경찰 업무에 AI를 정기적으로 사용했으며, 경찰 당국이 2024년 12월 3일 OpenAI의 ChatGPT 챗봇에 대한 접근을 차단하는 시스템을 도입한 이후에도 사용을 계속했다.

경찰 당국은 “2025년 3월 해당 직원이 계속 사용하기 위해 시스템을 우회해 왔다는 사실이 발견됐고, 이에 따라 즉시 직무 정지 처분을 받았다”고 밝혔다.

이 직원은 지난 몇 주 사이에 해고됐다.

비위 혐의 중 하나는 해당 인물이 정보를 챗봇에 입력해 기밀 정보의 무결성을 훼손했다는 내용이었다. 그러나 이후 조사 결과 챗봇에 입력된 정보는 모두 공개적으로 이용 가능한 것으로 드러났다.

더비셔 경찰의 하급 형사 사건과 관련해 경찰 당국은 법정에서 사용할 문서를 작성하는 데 AI 챗봇을 사용했다는 의혹을 조사했다고 밝혔다.

AI를 확장하는 조직과 파일럿 단계에 갇힌 조직을 가르는 차이는 무엇일까?