世界保健機関：大規模マルチモーダルモデルに関するガイダンス [JA]

使用可能な言語: EN, JA

このページは英語の原文記事の翻訳です。なお、ナビゲーションは英語のみで提供されていますのでご了承ください。

当社は、医療分野での応用を目的とした生成AIの一種である大規模マルチモーダルモデル（LMM）のガバナンスに関する世界保健機関（WHO）の包括的ガイダンスに意見を提供した。このガイダンスは、WHOの2021年AI倫理フレームワークを基盤としており、加盟国がLMMの影響を評価し、倫理的・安全かつ公平な導入のための規制経路を定義することを支援することを目的としている。

主要統計と洞察

LMMは史上最速の消費者技術普及率を示し、ChatGPTは2か月で1億ユーザー（2023年1月）に達した。これらのモデルはテキスト・画像・音声・動画など多様なデータ形式を処理・生成可能で、臨床医療・教育・事務作業・研究分野で試験導入が進む。複数のLMMが米国医師免許試験に合格したが、代表性のあるデータセット以外では性能にばらつきが見られる。

医療応用分野におけるトレーニングデータセットは、膨大な規模と多様性を示している。例として、3万件以上の医療症例報告、10万枚以上の胸部X線画像、数百万件の電子健康記録で訓練されたモデルが挙げられる。性能評価では結果にばらつきが見られ、2023年の米国研究では、オンライン医療フォーラムから分析した195症例の約80%で、ChatGPTの応答が医師の応答よりも好まれたことが示されている。

リスク概要

正確性：研究によれば、プロンプトやモデルに依存するが、幻覚発生率は3～27%である。

バイアス：トレーニングデータは高所得地域を過度に代表する傾向がある。例：遺伝子データセットはヨーロッパ系の人々に偏っている。

自動化バイアス：医師がAI出力を過度に信頼し、臨床的誤りを招くリスクがある。

環境影響：大規模マルチモーダルモデル（LMM）は炭素・水フットプリントに大きく寄与し、持続可能性への懸念を高める。

労働力への影響は多面的な課題を提示する。LMMは特定の医療職を代替すると同時に、新たなスキルと再訓練イニシアチブを必要とする。この技術は低賃金で心理的負担の大きいデータ労働環境を生み出す可能性がある。患者の自律性は、インフォームド・コンセントプロセスの損なわれや認識論的不公正を通じて特にリスクに晒され、周縁化された集団が不均衡な脆弱性を経験する。

ガバナンス枠組み

WHOはAIライフサイクル全体（開発→提供→導入）にわたる構造化された行動を推奨する。

開発段階 – 責任主体

開発者

データ保護影響評価の実施

多様なステークホルダーの参画

エネルギー効率の最適化

トレーニングデータの透明性確保

政府

強力なデータ保護法の制定

事前認証と成果ベース基準の義務化

オープンソースLMMへの資金提供

炭素・水使用量の説明責任の徹底

提供段階：政府は規制承認権限を割り当て、ソースコードとデータ入力に関する第三者監査と透明性を要求し、消費者保護法を適用し、監督なしの非試験的実験的使用を禁止すべきである。

展開段階：導入者（例：省庁、病院）は不適切な環境でのLMM使用を回避し、リスクを率直に伝達し、公平な価格設定と言語アクセスを確保し、専門家に対しLMMの限界、サイバーセキュリティ、倫理的使用について訓練しなければならない。

WHOの枠組みは6つの核心的倫理原則に基づく：自律性の保護、福祉と安全の促進、透明性と説明可能性の確保、説明責任の促進、包括性と公平性の確保、持続可能性の促進。利用者保護強化のため、本指針は政府に対し、厳格責任制度、過失無関係補償メカニズム、因果関係推定の導入による救済障壁の低減を検討するよう推奨する。WHOはさらに、ネットワーク型多国間主義モデルを通じ、高所得国・企業だけでなく低中所得国、市民社会、多国間機関も巻き込んだ公平な国際ガバナンスを強く求めている。

• • •

参考文献

¹ 世界保健機関. 「健康分野における人工知能の倫理とガバナンス：大規模マルチモーダルモデルに関するガイダンス」. ジュネーブ：WHO; 2024. ISBN: 978-92-4-008475-9.

² 世界保健機関. 「WHO、大規模マルチモーダルモデル向けAI倫理・ガバナンス指針を発表」. 2024年1月18日.

³ 世界保健機関. 「保健分野における人工知能の倫理とガバナンス：WHO指針」. ジュネーブ：WHO；2021年. ISBN: 978-92-4-003419-8.

⁴ 世界保健機関. 「WHO、医療分野における人工知能（AI）に関する初のグローバル報告書と、その設計・利用のための6つの指針を発表」. 2021年6月28日.

⁵ WHO IRIS（情報共有のための機関リポジトリ）。「医療向け人工知能の倫理とガバナンス」. 2021年。

⁶ 世界保健機関、チーフサイエンティスト兼科学部門、健康倫理・ガバナンスユニット。「健康のための人工知能の倫理とガバナンス：大規模マルチモーダルモデルに関するガイダンス」。2024年。

⁷ 国立生物工学情報センター、PMC。「大規模マルチモーダルモデル – 医療における人工知能の現在か未来か？」PMC10915764。2024年3月。

⁸ Nature Digital Medicine. 「健康のためのAIに関するグローバル・イニシアチブ（GI-AI4H）：国連全体でのガバナンス推進に向けた戦略的優先事項」2025年。

⁹ 国立生物工学情報センター、PMC. 「医療における人工知能の推進に関する倫理：日本の革新的AI病院システムにおける倫理的考慮事項の分析」PMC10390248. 2023年。