CAIOとは？デジタル庁が意見募集をしている「行政の進化と革新のための生成 AI の調達・利活用に係るガイドライン(案)」を読んでみた

こんにちは！営業統括本部公共ソリューションチームの深田です。
デジタル庁が3月28日に「行政の進化と革新のための生成AIの調達・利活用に係るガイドライン（案）」について意見募集を開始しましたので読んでみました。
※本記事の内容はデジタル庁が公開している資料に基づいています。正しい言い回し等はそちらをご確認ください。

意見募集の背景

デジタル庁のホームページでは以下のように記載されています。

AI関連技術の発展とAIの活用の官民における急速な進展を受け、政府の様々な業務への生成AIの利活用促進とリスク管理を表裏一体で進めるため、経済産業省、総務省等と協力して、今年春頃を目途に「行政の進化と革新のための生成AIの調達・利活用に係るガイドライン」の策定を目指しています。

ガイドライン案の本文では、「生成AIの利活用促進のためのガードレールであり、本ガイドラインによって、政府による生成 AI の安心・安全な利活用が着実に進展し」利益を実現することを目指す。と記載されています。

本ガイドライン(案)の対象範囲

対象となるシステム

まず、ガイドラインで対象となる生成AIは大規模言語モデル（LLM）を構成要素とするテキスト生成を行うものとしています。
政府情報システムのうち、対象となる生成AIを構成要素とするシステムを本ガイドラインの適用対象としています。
機微な情報を扱う政府情報システム等については適用対象外としています。

また、独立行政法人についても、本ガイドラインに準拠した取り組みの期待、
地方公共団体についても、必要に応じ参考とすることを期待、と記載されています。

対象者

AI 統括責任者（CAIO：Chief AI Officer）、企画者、開発者、提供者、利用者が挙げられています。

AI 統括責任者（CAIO：Chief AI Officer） は、本ドキュメントでは各府省庁における行政の進化と革新のための生成 AI 利活用方針を策定・推進し、組織全体の利活用状況とリスク管理等を統括管理する役割とガイドラインで定義されています。
政府における生成AIシステムのAI統括責任者（CAIO）の対応事項として、各府省庁向けルールの整備、AIガバナンスの確保が挙げられています。
さらに、各府省においてAI 統括責任者（CAIO）を設置し体制整備を行うよう記載しちえます。

政府における生成AIの利活用方針

生成AIについて取り組む事項として以下の3点を挙げています。

1. 各府省庁は、AI 統括責任者（CAIO）の設置等AIシステム統括監理の体制整備を行うなど、AI ガバナンスの強化に取り組むこと。
2. 各府省庁の生成AIの調達・利活用を行う全ての者は、生成 AI の便益とリスクについて理解すること。
3. 各府省庁の生成AI調達・利活用を行う者は、生成 AI のリスクを軽減するための方策を把握し、それぞれが適切なリスク対策を実施するとともに、生成 AI システムの品質向上や利用方法の工夫による利用効果の増進を図ること。

そのうえで内部管理系の業務等、リスクが低いと考えられる生成AIの利活用についてスピード感を持って実装を進めるとしています。
もし高リスクな生成AI利活用と判断する場合には先進的AI利活用アドバイザリーボードに報告を行う必要があります。
先進的 AI 利活用アドバイザリーボード とは、AIについて高度な知見を有する有識者組織であり、デジタル庁が事務局機能を担います。

そのほか

生成AIの便益、リスク、ルールについても本ガイドラインに記載されています。

意見募集について

本ガイドラインについて、4月11日までこちらのページで意見募集をしています。