개인정보 보호위원회

noyb, 데이터 정확성 원칙 위반 혐의로 오픈AI를 고소

noyb가 GDPR ‘정확성 원칙’ 위반 혐의로 제소

-유럽 프라이버시 시민단체(None of Your Business, no yb)는 2025년 3월 20일, 오픈AI(OpenAI)가 제공하는 챗GPT(ChatGPT)가 허위 정보를 생성해 이용자 명예를 심각하게 훼손했다며, 노르웨이 개인정보 감독기관(Datatilsynet, DSB)에 공식 제소함.

-사건의 당사자인 Arve Hjalmar Holmen은 전과도 없는 평범한 시민이나, 챗GPT는 그를 두 아들을 살해하고 세 번째 아들 살해 혐의가 있는 인물로 묘사하고, 노르웨이에서 21년형을 선고받았다는 가공의 스토리를 출력함.

-문제는 출력된 내용에 실제 정보가 일부 혼합되어 있었다는 점임. 자녀 수, 성별, 거주지 등 실제 정보와 유사한 요소들이 포함되어 허구의 신뢰도를 높였고, 이는 지역사회에서의 명예 훼손 가능성을 높였음.

-noyb는 오픈AI가 GDPR 제5조 제1항 (d)에 명시된 ‘정확성 원칙’을 위반했다고 주장함. 해당 조항은 개인정보가 정확하고 최신 정보여야 하며, 부정확한 데이터는 지체 없이 삭제 또는 정정되어야 함을 규정함.

-오픈AI는 할루시네이션(hallucination)*을 인정하면서도, “모델 특성상 오류가 발생할 수 있음”이라는 면책성 문구로 책임을 회피하고 있으며, 허위 정보를 정정하거나 삭제하는 기능은 제공하지 않음.

 *할루시네이션 : 생성형 인공지능이 사실과 다른 정보를 출력하거나, 맥락과 관련 없는 내용을 출력하는 현상

-2024년에도 noyb는 유명인의 생년월일이 잘못 출력된 사례를 근거로 DSB에 첫 번째 제소를 진행한 바 있음.

-오픈AI는 데이터 접근권(GDPR 제15조) 요청에도 응하지 않았으며, 어떤 정보를 보유하고 있는지, 해당 정보의 출처가 무엇인지도 공개하지 않음.

-noyb는 이번 사건과 관련해 ① 허위 출력물의 삭제, ② 부정확한 결과를 제거하기 위한 모델 보정(fine-tuning), ③ 재발 방지를 위한 행정 벌금 부과 등 세 가지 조치를 감독기관에 요청함.

출처: AI hallucinations: ChatGPT created a fake child murderer (noyb, 2025.03.20.)

       ChatGPT provides false information about people, and OpenAI can’t correct it (noyb, 2024.04.29.)