싱가포르 정보통신미디어개발청(IMDA)과 AI 검증재단이 생성형 AI 거버넌스 프레임워크(Model Governance Framework for Generative AI, MGF-Gen AI)를 발표
본 프레임워크는 ’19년 처음 발표된 이후 ‘20년에 업데이트되었으며, ’24년 1월 협의를 위해 공개된 현재 버전은 환각 현상 및 저작권 침해 등 생성형 AI로 인한 위험 해결을 지원
- 싱가포르는 ‘19년 세계 최초의 AI 거버넌스 원칙을 명시한 모델 AI 거버넌스 프레임워크(Model AI Governance Framework, MGF)를 발표하고 ’20년 업데이트하여 기존 AI의 책임있는 사용을 촉진
- 생성형 AI의 등장으로 새로운 위험이 제기됨에 따라 IMDA와 AI 검증재단은 기존 프레임워크에서 확장하여 생성형 AI 거버넌스를 위한 최초의 포괄적인 프레임워크를 제안
- 싱가포르 통신정보부 장관은 글로벌 의견 수렴을 위해 올해 1월 다보스포럼에서 MGF-Gen AI를 발표
MGF-Gen AI는 혁신을 촉진하고 생성형 AI에 대한 우려를 완화하기 위하여 체계적인 접근 방식을 통해 신뢰할 수 있는 생태계가 조성될 수 있도록 9가지 방안을 제시
- (책임) 개발 과정에서 각 이해관계자가 생성형 AI 개발에서 갖는 통제 수준에 따라 책임을 할당
- (데이터) 개인정보보호 법률 준수를 기반으로 개인정보보호 강화기술(PET)을 사용하고 데이터 품질을 보장하기 위한 조치를 취할 것을 권장
- (신뢰할 수 있는 개발 및 배포) 테스트 모델 벤치마킹, 휴먼 피드백 기반 강화학습(RLHF), 검색-증강 생성(RAG)기법* 등을 통해 AI 모델 훈련 과정에서의 평가를 권장
* Retrieval-Augmented Generation : 지식 검색을 통해 대규모 언어모델(LLM)의 출력을 최적화하는 기술
- (사고 보고) 적시 알림 및 복원을 위한 보고 활성화 구조 및 프로세스 구축을 제안
- (테스트 및 보증) 투명성 개선을 위해 외부 감사의 역할과 표준화된 감사 방식에 대한 필요성 설명
- (보안) 생성형 AI의 보안 위협에 대응하기 위해 설계에 의한 보안(security-by-design) 방식을 권장하며 입력 필터, 디지털 포렌식 도구 등 생성형 AI를 위한 새로운 보안 안전장치에 대해 언급
- (콘텐츠 출처) 합성 콘텐츠 생성에 따라 디지털 워터마크 및 출처 암호화 등 디지털 솔루션 필요성 강조
- (안전 및 조정 R&D) 인간의 의도 및 가치에 부합하도록 모델 조정을 강화하기 위해 AI 안전 기관 간 협력을 통한 연구·개발을 촉진
- (공익을 위한 AI) 생성형 AI 기술에 대한 접근성 및 공공 서비스 등 기회 확대
IMDA와 AI 검증재단은 국내외 기업(Mediacorp, SIA), 빅테크(Microsoft, OpenAI, Google), 회계감사 법인(KPMG, Ernst & Young), 정부기관(A*STAR, 美상무부) 등 으로부터 70건 이상의 의견을 수렴하여 본 프레임워크가 생성형 AI 관련 우려에 대해 포괄적이고 강력한 접근법을 제시하는 것으로 확인
출처
∙ Singapore launches Model AI Governance Framework (Gen AI) and AI Governance Playbook for Digital Forum of Small States (Digital FOSS) (IMDA, 2024.5.30.)
이 누리집은 대한민국 공식 전자정부 누리집입니다.
