개인정보 보호위원회

캘리포니아: ‘자동화된 의사결정 안전법안’ 주 하원 통과

캘리포니아는 자동화된 의사결정 시스템에 대한 평가·고지·이의제기 절차를 의무화한 법안을 통과시켜 개인정보 보호와 이용자 권리 강화를 실현하고자 함

-2025년 6월 2일, 미국 캘리포니아주의 ‘자동화된 의사결정 안전법안(Automated Decisions Safety Act)’이 주 하원을 통과함.

-이 법안은 인간의 판단을 보조하거나 대체해 자연인에게 영향을 미치는 자동화된 의사결정 시스템(Automated Decision System, ADS)의 개발 및 활용을 규율함.

 * 자동화된 의사결정 시스템(ADS): 머신러닝, 통계 모델링, 데이터 분석 또는 인공지능 기반 연산 처리로 판단·추천을 자동화하는 시스템 -ADS가 채용, 교육, 건강, 금융 등 필수 서비스에 영향을 미치는 중대한 결정(Consequential Decision)**에 사용되는 경우, 개인정보 보호 조치를 의무화함.

** 중대한 결정: 채용, 교육, 건강, 금융 등 일상적 필수 서비스에 실질적 영향을 주는 결정 -배포자는 결정 전에 ADS 사용 여부, 평가에 활용된 개인정보 항목, 영향 등을 해당 정보주체에게 고지하고, 개인정보 정정권과 이의제기권을 보장해야 함.

-정보주체는 ADS 사용에 대해 거부(opt-out)할 수 있으나, 금융현대화법(Gramm-Leach-Bliley Act) 적용 상황이나 의료 응급상황 등은 예외로 인정됨.

-이용자는 자신의 개인정보가 ADS 결과에 영향을 주는 경우, 개인정보 정정 및 결정 정정 요청, 이의제기권을 행사할 수 있으며, 정정 요청이 거부될 경우 그 사실을 통지받아야 함.

-기존 초안에 포함되었던 3년간 6,000명 이상에 영향을 미친 경우 제3자 평가 및 공시 의무는 본문에 명시되어 있지 않음. 따라서 이 부분은 향후 최종 법안 반영 여부를 확인할 필요가 있음.

-이 법은 2027년 1월 1일부터 시행되며, 캘리포니아 소비자 프라이버시법(California Consumer Privacy Act)과 함께 개인정보 보호 기준을 강화함.

출처: AB-1018 Automated decision systems. (California Legislative Information, 2025.06.02.)

       California: Bill for Automated Decisions Safety Act passes Assembly (Dataguidance, 2025.06.05.)