개인정보 보호위원회

싱가포르 IMDA·AI 검증 재단, 생성형 AI 거버넌스 프레임워크 발표

▶ 싱가포르 정보통신미디어개발청(IMDA)과 AI 검증 재단(AI Verify Foundation)이 생성형 AI 거버넌스 프레임워크(Model AI Governance Framework for Generative AI) 초안*을 개발

  • 동 프레임워크는 ’20년 마지막으로 업데이트된 기존의 AI 프레임워크*의 확장판

    * Model Governance Framework that covers Traditional AI

  • 동 프레임워크는 포괄적이고 신뢰할 수 있는 AI 생태계를 지원하기 위해 제안된 AI 거버넌스의 9가지 주요 측면을 검토하며, 동 프레임워크의 핵심 요소는 AI가 내린 결정이 설명가능하고 투명하며 공정해야 한다는 원칙에 기반함

- ❶(책임성) AI 시스템 개발 각 주기의 다양한 참여자가 최종 사용자에 대한 책임을 질 수 있는 인센티브 구조 마련 ❷(데이터) 신뢰할 수 있는 데이터 소스를 통한 데이터 품질 보장 및 학습 데이터에 개인정보 및 저작권 관련 내용 포함 시 발생 가능한 위험 방지 ❸(신뢰할 수 있는 개발 및 배포) 개발 및 배포 시 기본 안전 및 보호 조치에 대한 유의미한 투명성 보장

- ❹(사고 보고) 사고 모니터링과 보고 활성화 구조 및 프로세스 구축 ❺(테스트 및 보증) 사용자에 대한 신뢰 입증을 위한 제3자 테스트 및 보증 도입 지원 ❻(보안) 보안 위험 해결을 위한 테스트 도구 조정 및 사용

- ❼(콘텐츠 출처) 콘텐츠 생성 위치·방법에 대한 투명성 및 워터마킹·암호화 출처를 포함한 기술 솔루션 ❽(안전 및 R&D 협력) 상업 주도적 성장에 발맞추기 위한 AI 안전 기구 간의 글로벌 협력 ❾(공익을 위한 AI) AI 접근성의 개선, 공공 부문 AI 채택 강화, 직원 역량 강화, 지속 가능한 AI 시스템 개발

[출처]

  • IMDA, “Singapore proposes framework to foster trusted Generative AI development”, 2024.01.16.

※ 본 번역 요약본의 저작권은 개인정보보호위원회 및 한국인터넷진흥원에 있으며, 본 요약본을 활용하실 경우에는 출처를 반드시 밝혀주시기 바랍니다.