AI 협약과 AI법 이행의 다음 단계: 접근성 및 공공 시스템 [KO]
이 페이지는 원문 영어 기사의 번역본입니다. 메뉴 및 탐색 기능은 영어로만 제공됩니다.
우리는 주권 AI와 인간 중심 AI 정책 이행에 관한 부문 간 교류를 주제로 열리는 AI 사무국의 차기 AI 협약 세션에 참여할 예정입니다. 이는 범용 AI 실천 강령에 대한 우리의 기여와도 맥을 같이합니다.
AI법 이행 연표
AI법 이행 일정은 해당 법안의 적용 범위와 추진 속도를 이해하는 데 매우 중요합니다(날짜는 원본 법률 문서에 명시된 일정을 반영한 것이며, 조정될 수 있습니다).
업데이트 (2026):현재 진행 중인 EU의 "옴니버스" 간소화 논의에 따라 일부 고위험 AI 의무의 적용 시기가 조정될 수 있으며, 해당 의무의 적용 시점이 관련 표준 및 이행 도구의 가용성과 더욱 밀접하게 연계될 수 있습니다.
2024년 8월 1일 — AI법 발효
2025년 2월 — 제1장(총칙) 및 제2장(금지된 AI 시스템) 적용
2025년 8월 — 당국 통지, 범용 AI 모델, 거버넌스 및 집행 관련 조항 적용 개시 (제3장 제4절, 제5장, 제7장 및 제12장 포함; 단, 제재는 추후 단계에서 부분 적용)
2026년 8월 — 법안의 대부분 적용 (제6조 제1항 및 일부 고위험 시스템 관련 의무 제외)
2027년 8월 — 제6조 제1항 포함 전면 시행
AI 협약
EU AI 협약은 EU AI법의 전면 적용에 앞서 해당 요건을 이행하겠다는 100개 이상 기관의 자발적 약속입니다(참여 기관은 계속 확대 중). 이 연합은 AI 개발사, 공공 기관, 디지털 인프라 제공업체를 포괄하며, 책임 있는 AI 관행 수립을 위해 선제적으로 노력하고 있습니다. AI 협약은 AI법의 법적 구속력 있는 의무를 대체하지 않으며, 조기 도입을 가속화하고 부문 전반에 걸쳐 신뢰를 형성하는 데 기여합니다. 서명 기관들은 포괄적인 AI 거버넌스 전략 수립, 자체 운영 내 고위험 AI 시스템 식별, 직원 대상 AI 리터러시 및 윤리적 관행 증진을 약속합니다.
AI 협약은 두 가지 핵심 축을 토대로 운영됩니다. 첫째, 기관들이 고위험 AI 요건 충족을 위한 자발적 약속을 투명하게 공개하도록 장려하며, 둘째, 이러한 약속을 체계적으로 수집·공개하여 책임성을 강화합니다. 이 프레임워크는 EU AI 사무국과 산업계, 시민사회, 학계를 포함한 다양한 이해관계자 간의 협력을 가능하게 합니다.
이전 기여 및 논의
AI법 공개 논의 기여 및 AI법 정상회의 참여
AI법이 공공 시스템과 취약한 맥락을 다루는 방식
AI법 최종안에는 장애, 의존성, 연령 및 기타 사회적 취약성을 직접 언급하는 조항이 여럿 포함되어 있습니다. 주요 조항은 다음과 같습니다.
조항
제5조 제1항 (b) — 취약성 악용 AI 금지
"연령, 장애 또는 특정 사회적·경제적 상황으로 인한 자연인 또는 특정 집단의 취약성을 악용하는 AI 시스템의 시장 출시, 서비스 제공 또는 사용을... 중대한 피해를 초래하거나 초래할 합리적 가능성이 있는 방식으로 금지한다;"
제9조 제9항 — 아동 및 취약 계층 대상 위험 평가 의무
"...제공자는 고위험 AI 시스템이 의도된 목적에 비추어 18세 미만의 자 및 적절한 경우 기타 취약 계층에 부정적인 영향을 미칠 가능성이 있는지 고려해야 한다."
제13조 제3항 — 특정 집단에 대한 투명성 요건
"...해당 시스템의 사용이 예정된 특정 개인 또는 집단에 대한 시스템의 성능;"
제14조 제5항 — 생체 인식 시스템에 대한 특별 인간 감독
"...최소 두 명의 자연인이 해당 식별 결과를 별도로 검증·확인하지 않는 한, 배포자는 시스템이 도출한 식별 결과를 근거로 어떠한 조치나 결정도 취해서는 안 된다..."
제16조 제1항 — 제공자의 접근성 의무
"...고위험 AI 시스템이 지침 (EU) 2016/2102 및 (EU) 2019/882에 따른 접근성 요건을 준수하도록 보장해야 한다."
제26조 제7항 — 근로자 사전 고지 의무
"직장에서 고위험 AI 시스템을 가동하거나 사용하기 전에, 사용자인 배포자는 근로자 대표 및 해당 근로자에게 사전 통지해야 한다..."
제27조 — 기본권 영향 평가
"...배포자는 해당 시스템의 사용으로 발생할 수 있는 기본권에 대한 영향을 평가해야 한다."
제50조 제3항 — 감정 인식 및 생체 인식 분류 시스템의 투명성
"감정 인식 시스템 또는 생체 인식 분류 시스템의 배포자는 해당 시스템에 노출되는 자연인에게 시스템의 작동 방식을 알려야 한다..."
제95조 제2항 (e) — 취약 계층을 위한 행동 강령
"...장애인의 접근성 및 성평등을 포함하여, AI 시스템이 취약한 개인 또는 집단에 미치는 부정적 영향을 평가하고 방지해야 한다."
전문(前文)
전문 제29항 — 조작적 AI 관행에서의 취약성 악용
"AI 시스템은 연령, 장애... 또는 극심한 빈곤, 소수 민족·종교적 소수자 등 특정 사회적·경제적 상황으로 인한 개인의 취약성을 다른 방식으로 악용할 수도 있다."
전문 제48항 — 아동에 대한 특별 고려
"...아동은 특정 권리를 가지고 있으며... 아동의 취약성을 감안한 보호와 복지를 위한 돌봄이 제공되어야 한다."
전문 제56항 — 교육과 취약 계층
"...교육 또는 직업 훈련에 사용되는 AI 시스템은... 특히 사생활을 침해할 소지가 있으며, 교육권을 해치고... 여성, 특정 연령층, 장애인, 특정 인종·민족적 배경 또는 성적 지향을 가진 사람들에 대한 역사적 차별 패턴을 고착시킬 수 있다."
전문 제57항 — 고용 관련 취약성
"고용 분야에서 사용되는 AI 시스템은... 개인의 미래 진로, 생계 및 근로자 권리에 상당한 영향을 미칠 수 있으므로 고위험으로 분류되어야 한다."
전문 제58항 — 공공 서비스 분야의 취약성
"...필수 공공 지원 급여를 신청하거나 수령하는 자연인은... 일반적으로 해당 급여와 서비스에 의존하고 있으며, 담당 기관에 대해 취약한 위치에 있다."
전문 제80항 — 유엔 장애인 권리 협약 언급
정보 및 통신 기술 접근성을 포함하여, 비차별, 접근성 및 장애인 보호에 관한 의무를 강조한다.
전문 제132항 — 취약 계층을 위한 접근성 고려
"...자연인은 자신이 AI 시스템과 상호작용하고 있음을 통지받아야 한다... 해당 의무를 이행함에 있어 연령이나 장애로 인해 취약 집단에 속하는 자연인의 특성을 고려해야 한다..."
부속서 III
부속서 III 제3호 — 고위험 영역으로서의 교육
"교육 또는 훈련 기관에의 접근이나 입학 여부를 결정하거나... 적정 교육 수준을 평가하거나... 학생의 금지된 행동을 모니터링·탐지하기 위해 사용될 목적으로 설계된 AI 시스템..."
부속서 III 제4호 — 고위험 영역으로서의 고용
"자연인의 채용 또는 선발에 사용될 목적으로 설계된 AI 시스템... 근로 관계의 조건에 영향을 미치는 결정을 위한... 개인의 성과 및 행동을 모니터링·평가하기 위한..."
부속서 III 제5호 — 필수 서비스 접근을 고위험 영역으로 규정
"공공 기관이... 의료 서비스를 포함한 필수 공공 지원 급여 및 서비스에 대한 자연인의 수급 자격을 평가하기 위해 사용하도록 의도된 AI 시스템..."
피해는 단순히 기술적인 문제가 아니라 맥락에 따라 달라집니다. 동일한 알고리즘이라도 학교 입학 플랫폼에 적용될 때와 실업 지원 기관에 적용될 때, 집단에 따라 서로 다른 결과를 초래할 수 있습니다.
AI 리터러시 및 추가 이행
AI 협약의 주요 초점 중 하나는 AI 리터러시와 지식 공유이며, 이는 AI법 제4조를 더욱 강화합니다. 제4조는 다음과 같이 규정합니다: "AI 시스템의 제공자 및 배포자는 직원 및 해당 시스템의 운영·사용을 담당하는 인력의 AI 리터러시 수준이 충분히 확보될 수 있도록 최선을 다해 조치를 취해야 한다."
향후 과제로는 다음이 포함되어야 합니다: AI 협약 참여 기관들이 "자발적" 기준을 어떻게 해석하는지 모니터링하기, 공공 이익 시스템 및 인프라를 지원하는 규제 샌드박스를 통한 조기 이행 촉진, 그리고 보완적인 EU 프레임워크 및 광범위한 디지털 법제와의 상호운용성 강화.
참고 문헌
¹ 유럽연합. 「인공지능에 관한 조화 규정을 정하는 유럽의회 및 이사회 규정 (EU) 2024/1689」 (인공지능법). 유럽연합 관보. 2024년 6월 13일.
² 유럽집행위원회. 「AI 협약」. 유럽의 디지털 미래 조성. 2024.
³ 유럽의회 및 이사회. 「공공 부문 기관의 웹사이트 및 모바일 애플리케이션 접근성에 관한 지침 (EU) 2016/2102」. 2016년 10월.
⁴ 유럽의회 및 이사회. 「제품 및 서비스의 접근성 요건에 관한 지침 (EU) 2019/882」 (유럽 접근성법). 2019년 4월.
⁵ 유엔. 「장애인 권리 협약」 제9조 — 접근성. 2006.
⁶ 유럽집행위원회. "100여 개 기업, 신뢰할 수 있고 안전한 AI 개발을 위한 EU AI 협약 서약에 서명." 보도자료 IP/24/4864. 2024년 9월 25일.