EU, 세계 최초 '인공지능법(AI Act)' 최종 법안 확정

- 한국무역협회 브뤼셀지부 / KBA Europe 제공

유럽의회, EU 이사회 및 EU 집행위는 8일(금) 세계 최초의 포괄적 인공지능 규제를 위한 '인공지능법(AI Act)' 최종 타협안에 합의. 이하는 동 법의 주요 내용

적용 범위

동 법의 인공지능 정의는 OECD의 주요 요소를 대부분 수용한 것으로 평가되며, 무료 오픈소스 소프트웨어의 경우 고위험 시스템, 금지된 인공지능 적용 또는 조작 위험 있는 AI 솔루션이 아닌 경우에는 동 법의 적용에서 제외됨

프랑스 등의 강력한 요구에 따라 군사 및 안보 목적의 인공지능 사용에 대해 외부 용역업체를 포함한 광범위한 예외가 인정됨

예외적인 경우 법 집행 당국에 대한 제품 적합성 평가를 거치지 않은 고위험 인공지능 시스템 사용 허용 등 경찰 및 이민 관리 기관에 대한 다양한 예외가 규정됨

금지된 인공지능 사용

동 법은 조작기술, 시스템 취약점 공격, 소셜 스코어링(social scoring), 안면인식 이미지 무작위 수집 등 회복 불가능한 위험을 초래할 수 있는 분야의 AI 사용을 금지, 해당 분야를 리스트화

운전자 졸음 예방 등 안전 목적 이외, 직장·교육기관의 감정인식 인공지능 사용이 금지되며, 개인 행적에 근거하여 미래 범죄를 예측하는 예측치안 소프트웨어의 사용도 금지됨

인종, 정치적 의견, 종교적 신념 등 개인의 민감한 정보에 근거하여 범주화하는 인공지능 시스템 사용도 금지됨

유럽의회는 실시간 원격 생체인식 인공지능 사용의 전면적인 금지를 요구했으나, 최종적으로 테러 방지, 사전 지정한 일부 심각한 범죄의 피해자 또는 피의자 추적 등 법 집행을 위한 경우 실시간 또는 사후 사용이 일부 허용됨

고위험 인공지능 적용

동 법은 교육, 고용, 핵심 인프라, 공공서비스, 법 집행, 국경관리, 사법행정 등 인간의 안전 및 기본권에 영향을 미칠 위험이 매우 큰 인공지능 적용 분야를 고위험 분야로 지정, 보다 강력한 규제를 부과

파운데이션 모델

최고 단계 파운데이션 모델을 보다 엄격하게 규제하는 이른바 '단계적 접근방법(Tiered Approach)'이 채택. 성능 10의 25제곱 플롭(10^25 FLOPs) 이상의 컴퓨터로 학습한 인공지능이 파운데이션 모델에 해당

모든 파운데이션 모델에 투명성 의무가 부여되며, 기업 영업 비밀 이외 학습데이터와 관련 세부 내용을 충분히 공개해야 하며, AI 생성 컨텐츠임을 식별할 수 있도록 해야 함

최고 단계 파운데이션 모델의 경우 모델 평가, 시스템 위험 추적 및 평가, 사이버보안, 에너지 소비량 보고 등의 추가 의무가 부여됨

파운데이션 모델에 대한 공통 기술 표준이 마련될 때까지 파운데이션 모델 제조사 등이 인공지능 사용에 따른 위험 완화를 위해 준수해야 할 행동강령을 도입

동 법에 따라 설치될 '인공지능 오피스(AI Office)'는 직권 또는 과학 패널의 권고에 따라 파운데이션 모델 지정에 관한 기준을 추후 제안할 예정이며, 사용자 및 모델 매개변수 수 등이 동 기준에 포함되고 기술 발전에 따라 계속 업데이트될 예정

기본권 영향 평가

공적 기관과 병원, 학교, 은행 및 보험 등 필수 공공서비스를 제공하는 민간기업이 고위험 인공지능을 사용하는 경우 이에 따른 기본권 영향 평가를 수행해야 함

인공지능 제조사의 공급망 책임

ChatGPT 같은 일반목적 인공지능 시스템 제조사는 고위험 분야 애플리케이션을 제작하는 다운스트림 사업자가 동 법의 의무를 준수할 수 있도록 필요한 모든 정보를 제공해야 함

거버넌스

동 법에 따라 각 회원국 관계 당국자가 참여한 유럽인공지능이사회(EAIB)가 동 법에 따른 규제 이행을 감독하고, 파운데이션 모델의 경우 동 법에 따라 집행위 산하에 설치될 '인공지능 오피스(AI Office)'가 관련 규정 이행을 감독

시민사회를 포함한 이해관계자 자문 포럼과 독립 전문가로 구성되어 규제 이행, 잠재적 시스템 위험 인지, 시스템 위험에 따른 AI 모델 분류 등을 자문할 과학 패널을 구성

과징금

최소 확정 가격 또는 사업자의 연간 글로벌 매출액의 일정 비율 가운데 높은 것을 과징금으로 부과

구체적으로 금지된 인공지능 사용 등 가장 심각한 위반 시 과징금 최대 7% 또는 3,500만 유로, 시스템 및 모델 공급자의 위무 위반시 3% 또는 1,500만 유로, 허위정보 제공 시 1.5% 또는 750만 유로 가운데 높은 금액

발효

동 법의 대부분 사항은 발효 2년 후 적용되나, 동 법의 일부 금지 사항은 발효 6개월 후, 고위험 인공지능 시스템, 적합성 평가기관 및 거버넌스 챕터는 발효 1년 후 적용