세계보건기구: 대규모 다중 모달 모델에 관한 지침 [KO]
이 페이지는 원문 영어 기사의 번역본입니다. 메뉴 및 탐색 기능은 영어로만 제공됩니다.
우리는 의료 분야 적용을 위한 대규모 다중 모달 모델(LMM)(생성형 AI의 하위 집합)의 거버넌스에 관한 세계보건기구의 포괄적 지침에 의견을 제공했습니다. 이 지침은 WHO의 2021년 AI 윤리 프레임워크를 기반으로 하며, 회원국들이 LMM의 함의를 평가하고 윤리적, 안전하며 공정한 배포를 위한 규제 경로를 정의하는 데 도움을 주는 것을 목표로 합니다.
관련 자료
NIST: 생성형 AI 프로파일(AI 600-1) 및 AI 위험 관리 프레임워크(AI RMF)
PCAST: 생성형 AI 작업 그룹 (업데이트됨)
주요 통계 및 통찰력
LMM은 역사상 소비자 기술 중 가장 빠른 채택률을 보이며, ChatGPT는 2개월 만에(2023년 1월) 1억 명의 사용자를 돌파했습니다. 이러한 모델은 텍스트, 이미지, 오디오, 비디오 등 다양한 데이터 유형을 처리 및 생성할 수 있으며, 임상 치료, 교육, 사무 업무, 연구 등 다양한 분야에서 시범 운영되고 있습니다. 일부 LMM은 미국 의사 면허 시험을 통과했으나, 대표성이 높은 데이터셋 외에서는 성능이 여전히 변동성이 큽니다.
훈련 데이터셋은 의료 응용 분야 전반에 걸쳐 상당한 규모와 다양성을 보여줍니다. 3만 건 이상의 의료 사례 보고서, 10만 건 이상의 흉부 X선 사진, 수백만 건의 전자 건강 기록으로 훈련된 모델들이 대표적입니다. 성능 평가 결과는 상이한데, 2023년 미국 연구에 따르면 온라인 의료 포럼에서 분석한 195건 사례 중 약 80%에서 ChatGPT 응답이 의사 응답보다 선호되었습니다.
위험 개요
정확도: 프롬프트와 모델에 따라 3~27%의 환각 발생률이 연구에서 확인됨.
편향성: 훈련 데이터가 고소득 지역을 과대 대표하는 경우가 많음; 예: 유전학 데이터셋이 유럽계 인종에 치우침.
자동화 편향: 의사가 AI 출력에 지나치게 의존하여 임상 오류 위험 증가.
환경 영향: LMM이 탄소 및 물 발자국에 크게 기여하여 지속가능성 우려 제기.
인력에 미치는 영향은 다각적인 과제를 제시합니다. LMM은 특정 의료 직종을 대체하는 동시에 새로운 기술과 재교육 프로그램을 요구할 수 있습니다. 이 기술은 저임금이며 심리적으로 부담스러운 데이터 노동 환경을 초래할 수 있습니다. 환자 자율성은 정보에 기반한 동의 절차의 훼손과 인식론적 불공정성을 통해 특별한 위험에 직면하며, 소외된 집단이 불균형적인 취약성을 경험합니다.
거버넌스 프레임워크
WHO는 AI 라이프사이클 전반에 걸친 체계적인 조치를 권고합니다: 개발 → 제공 → 배포.
개발 단계 – 책임 주체
개발자
데이터 보호 영향 평가 수행
다양한 이해관계자 참여
에너지 효율 최적화
훈련 데이터 투명성 제공
정부
강력한 데이터 보호법 제정
사전 인증 및 성과 기반 기준 의무화
오픈소스 LMM 지원
탄소·수자원 책임성 강화
제공 단계: 정부는 규제 승인 권한을 부여하고, 소스 코드 및 데이터 입력에 대한 제3자 감사와 투명성을 요구하며, 소비자 보호법을 적용하고, 감독 없는 비시험적 실험적 사용을 금지해야 합니다.
배포 단계: 배포자(예: 부처, 병원)는 부적합한 환경에서의 LMM 사용을 피하고, 위험을 공개적으로 전달하며, 공정한 가격 책정과 언어적 접근성을 보장하고, 전문가에게 LMM의 한계, 사이버 보안 및 윤리적 사용에 대해 교육해야 합니다.
WHO 프레임워크는 6가지 핵심 윤리 원칙에 기반합니다: 자율성 보호, 웰빙 및 안전 증진, 투명성 및 설명 가능성 보장, 책임성 증진, 포용성 및 형평성 보장, 지속가능성 증진. 사용자 보호 강화를 위해 지침은 정부가 엄격한 책임 제도, 무과실 보상 메커니즘, 인과관계 추정 등을 고려하여 구제 장벽을 낮출 것을 권고합니다. WHO는 또한 네트워크형 다자주의 모델을 통해 고소득 국가 및 기업뿐 아니라 저·중소득 국가, 시민사회, 다자간 기관이 참여하는 공정한 국제 거버넌스를 촉구합니다.
• • •
참고문헌
¹ 세계보건기구. "건강을 위한 인공지능의 윤리 및 거버넌스: 대규모 다중 모달 모델에 관한 지침." 제네바: WHO; 2024. ISBN: 978-92-4-008475-9.
² 세계보건기구. "WHO, 대규모 다중 모달 모델을 위한 AI 윤리 및 거버넌스 지침 발표." 2024년 1월 18일.
³ 세계보건기구. "건강을 위한 인공지능의 윤리 및 거버넌스: WHO 지침." 제네바: WHO; 2021. ISBN: 978-92-4-003419-8.
⁴ 세계보건기구. "WHO, 보건 분야 인공지능(AI)에 관한 첫 글로벌 보고서 및 설계·사용을 위한 6대 지침 원칙 발표." 2021년 6월 28일.
⁵ WHO IRIS (정보 공유를 위한 기관 리포지토리). "보건 분야 인공지능의 윤리 및 거버넌스." 2021.
⁶ 세계보건기구, 수석 과학자 및 과학부, 보건윤리·거버넌스팀. "보건 분야 인공지능의 윤리 및 거버넌스: 대규모 다중 모달 모델에 관한 지침." 2024.
⁷ 국립생물공학정보센터, PMC. "대규모 다중 모달 모델 – 의학 분야 인공지능의 현재인가 미래인가?" PMC10915764. 2024년 3월.
⁸ Nature Digital Medicine. "건강을 위한 인공지능 글로벌 이니셔티브(GI-AI4H): 유엔 차원의 거버넌스 발전을 위한 전략적 우선순위." 2025.
⁹ 국립생물공학정보센터, PMC. "의료 분야 인공지능 발전의 윤리: 일본의 혁신적 AI 병원 시스템에 대한 윤리적 고려사항 분석." PMC10390248. 2023.