EU 이사회 의장국 스페인, 인공지능법(AI Act) 타협안 제안

- 한국무역협회 브뤼셀지부 / KBA Europe 제공

EU 이사회 의장국 스페인은 '인공지능법(AI Act)' 주요 쟁점에 대한 새로운 타협안을 제안

EU 이사회, 유럽의회 및 EU 집행위가 '인공지능법(AI Act)' 최종 법안 마련을 위한 3자협상(Trilogue)을 12월 6일 개최할 예정인 가운데, EU 이사회 의장국 스페인은 24일(금)협상 경과 및 주요 쟁점에 대한 새로운 타협안을 제안*

* 이번 스페인 의장국 타협안은 인공지능 적용 금지, 경찰사법과 국가안보 근거 예외 등에 대한 것. 곧 파운데이션 모델 AI, 인공지능 거버넌스, 소스코드 접근, 제재조치 등에 관한 두 번째 제안을 발표 예정

인공지능 적용 금지 분야

유럽의회는 허용할 수 없는 위험을 초래할 수 있어 인공지능의 적용이 금지되는 분야를 집행위 법안보다 크게 확대할 것을 요구

이에 대해 스페인은 유럽의회의 요구 가운데 안면 이미지의 무차별적 수집, 직장 및 교육기관의 감정인식, 성적 취향이나 종교 등 민감한 정보를 유추할 수 있는 생체인식분류 및 예측치안(predictive policing)등 분야를 인공지능 적용 금지 분야로 수용하는 방안을 제시

특히, 원격생체인식 인공지능의 적용과 관련, 유럽의회는 당초 실시간 사용의 전면적 금지를 요구했으나, 안전장치를 포함한 예외적인 경우 허용하는 방안으로 입장을 선회. 이에 대해 스페인은 원격생체인식의 사후(ex-post) 사용만을 고위험으로 인정하는 타협안으로 제시

경찰사법(Law enforcement)

스페인은 유럽의회와의 협상에서 경찰사법의 인공지능 사용과 관련, 인간의 감시의무, 위험시스템 보고, 사후 시장 모니터링, 민감 운영 데이터 유출을 방지하기 위한 신뢰성 조치 등에 대한 규제가 더욱 유연한 방향으로 합의되었음을 지적

스페인은 경찰사법을 위한 감정인식, 생체인식분류 소프트웨어 사용과 관련, 개인에게 이를 통보하지 않고 사용할 수 있도록 제안

경찰사법의 인공지능 사용과 관련, EU 이사회와 유럽의회는 사법당국에 대해 고위험 시스템을 EU 데이터베이스의 비공개 섹션에 등록케 하고, 대기업의 IT 시스템에 대해 2030년부터 동 법의 의무를 준수하도록 하는데 합의

국가안보 예외

프랑스가 광범위한 국가안보 예외의 인정을 요구하고 있는 가운데 스페인은 유럽의회가 국가안보와 관련한 EU 이사회의 현행 입장을 수용할 가능성은 거의 없다고 평가

이에 타협안으로 '동 법이 EU법 관할 밖에서 적용되지 않고, 어떤 경우에도 국가안보 분야와 관련한 회원국의 권능 및 국가안보 관련 단체에 영향을 미치지 않으며' 또한, '동 법은 방위 및 군사 관련 상품 및 서비스에 적용되지 않는다'는 두 가지 규정을 제안

기본권 영향평가

유럽의회의 요구로 '기본권 영향평가'를 동 법의 새로운 의무로 도입, 이에 따라 개발자 등은 고위험 인공지능 시장 출시 전 사용자에 의한 기본권 영향평가를 수행해야 함

이와 관련, 스페인은 기본권 영향평가에 대한 유럽의회의 요구를 수용하지 않으면, 동 법에 대한 최종 타협이 어렵다고 강조, 이에 대한 EU 이사회의 유연한 입장을 제안

현실세계 테스트

EU 이사회는 고위험 인공지능에 대한 이른바 '규제 샌드박스(Regulatory Sandbox)' 밖의 현실 테스트가 가능하도록 요구, 협상의 주요 쟁점으로 부상

스페인은 절충안으로 규제 샌드박스 밖의 현실세계 테스트에 사용자의 동의를 요구하도록 하고, 다만 경찰사법에서 이에 대한 동의를 얻는 것이 불가능한 경우 해당 테스트와 테스트 결과가 관련된 사람에게 부정적인 영향을 미칠 수 없게 하는 방안을 제안

적합성 평가 면제

EU 이사회는 사법당국이 긴급을 요하는 경우 아직 제품 적합성 평가를 통과하지 못한 고위험 인공지능을 사용할 수 있도록 하는 긴급절차의 도입을 요구. 동 긴급절차는 법원의 통제에 따라야 한다는 유럽의회의 주장과 대립

이와 관련, 스페인은 EU 집행위가 사법당국의 결정을 재검토하는 절충안을 제시