유럽의회 내무사법委 및 내부시장委, '인공지능 법안(AI Act)' 합의사항 발표

유럽의회 내무사법위원회(LIBE)와 내부시장위원회(IMCO)는 인공지능 규정 초안에 대한 공동보고서에서 인공지능 기술 적용과 관련한 소관 위원회 합의 내용을 발표

두 위원회는 인공지능 규정이 인공지능의 인간중심 적용 및 시민·소비자 보호 강화에 초점을 둘 것을 강조, 법안에 대한 유럽의회의 현재까지의 입장을 보고서에 표명

각 위원회는 보고서를 바탕으로 추가협의를 실시, 10월 말 표결로 위원회별 입장을 확정한 후 11월초 본회의에서 유럽의회의 AI 법안에 대한 최종 입장을 확정할 예정이며, 이후 EU 이사회와 기관간 협의를 개시할 예정

이하는 양 위원회 공동보고서에 포함된 인공지능 분야 합의 사항

[인공지능 정의] 보고서의 인공지능 정의는 EU 집행위와 대체로 유사하나, '인공지능이 반드시 인간이 지정한 목적을 추구해야 한다'는 부분은 삭제. 유럽의회는 다른 목적으로의 사용을 위한 학습이 가능한 '일반목적 인공지능(General-purpose AI)'를 제외하고, 모든 인공지능의 정의는 넓게 규정해야 한다는 입장

[금지 및 고위험 적용 분야] 죄형법정주의 원칙에 위반하는 차별적 경찰사법관행인 예측치안(predictive policing) 금지, 공공기관의 고위험 분야 적용시 투명성 등 요건 강화 및 아동, 의료진단, 보험, 딥페이크, 선거캠페인·개표 등 민주적 절차에 영향을 미치는 알고리즘 등의 적용은 금지

[책임 및 투명성] 인공지능 기술 제공자와 사용자의 책임을 명확하게 구분해야 하며, 사용자가 시장에 출시된 인공지능의 알고리즘을 변경할 경우, 사용자도 일정한 책임을 부담해야 함

[거버넌스 및 이행] 보고서는 일반적인 인공지능 기술 적용에 대한 감독은 각 회원국이 담당하고, 3개 회원국 이상에 걸친 사항에 대해서는 집행위가 감독하는 2원적인 방안을 제시. 집행위와 각 회원국이 참여한 유럽인공지능이사회(EAIB)를 활성화, 역내 인공지능 규정의 통일적인 적용을 보장해야 함

특히, 보고서는 인공지능 기술 적용과 관련한 분쟁에서 소비자 단체 등의 집단소송을 허용하기 위해 EU의 대표소송지침의 개정을 동시에 제안

한편, 위원회간 합의 도출에 실패한 일부 쟁점 사항의 경우 향후 추가 협의를 통해 의견을 접근한 후 본회의 표결로 최종 입장을 확정할 예정

[자체 평가] 인공지능 기술 및 관련 상품 등에 대한 제조사 등의 '자체 평가'와 관련, 소비자 권익 및 인권 보장을 위해 제3자 평가로 평가방식을 강화해야 한다는 주장과 기업 행정 부담 우려에 제조사 자체 평가를 유지해야 한다는 의견이 대립

[생체인식기술] 생체인식기술에 대해 일부 제한된 사용을 허용해야 한다는 입장과 인권 침해를 우려, 전면 금지해야 한다는 주장이 대립

[소셜 스코어링] 특정 기준에 따라 시민의 등급을 분류하는 이른바 '소셜 스코어링(social scoring)'의 금지 범위를 민간영역으로 확대하는데 대해서도 찬반이 대립

[규제 샌드박스] 스타트업 및 중소기업의 실험적 인공지능 기술 혁신을 위한 '인공지능 규제 샌드박스'도 보고서에 포함되지 않았으나, 의회는 추가 규제 완화, 지역 확대 등 방향에 공감

[인권 영향평가] 인공지능 기술 적용에 대한 인권 영향평가와 관련, 공적 주체에 제한해야 한다는 입장과 민간에도 적용해야 한다는 의견이 대립