DIME MAGAZINE
神戸市はAI利用の先駆けとして、 2024年2月にAI条例案を市議会に提出。利用者としてのルール整備に着手してきた。 先日、そのAI条例案が可決され、全国初の包括的なAIに関する条例として段階的に施行されることになった。
この条例が施行されることで、神戸市の職員がAIを利用する際には、活用結果が及ぼす影響レベルに応じたリスクアセスメントを行ない、安全性を確認することが義務付けられる。
また、生成AIの利用にあたっては、非公開情報の入力を禁止し、議会説明でも AI に判断を委ねることなく、自らの責任で説明することを定めている。
その他にも、神戸市の事業を受託する事業者は、 AI を活用する場合や業務上知りえた情報を生成AIに入力する場合は、神戸市に事前協議することが定められる。
なぜ今、包括的なAI 条例なのか〜求められるルールメイキング
欧州議会で包括的なAI規制法案が可決されるなど、世界各国でAIに関する規制の動きが加速している中、日本でも同様に、 AI に関する規則の見直しが進んでおり、 2024年3月を目途に新たな AI 事業者ガイドラインが策定される見通しだ。
この新たなガイドラインの策定後、企業や官公庁などの利用者側では、独自の規制や自主的な取り組みが求められることになる。
神戸市では、今回の条例施工について、「このたびのAI条例は、今後、生成AIに限らず様々なAIの利用が行政分野で進んでいくことを考慮し、情報漏えい以外のリスクも想定した包括的なAIに関して市の活用ルールを定めることで、市民の権利や利益を保護することを目的としています」コメントしている。
■神戸市のAIに対するリスク対応
AIの利用が進む中で、従来のデジタル技術とは異なる個人の権利・利益に対するリスクが生じることが懸念されている。
過去にはオランダで、児童手当の電子申請システム内で不正な申請や詐取を通知するAIが差別的な動作をし、不正をしていないにも関わらず返還等を求められた結果、約2万6000世帯が経済的に困窮したという事案も発生した。
神戸市では、AI活用により、このような事案を発生させないため、 有識者会議を設置。国や諸外国の最新動向を踏まえた検討を行ないながら、 AI利用者として神戸市のAI活用ルールの整備に着手した。
この動きについて、有識者会議の構成員である江間有沙氏（東京大学国際高等研究所東京カレッジ 准教授・国 AI 戦略会議構成員）は、「国でガイドラインの策定が進んでいるが、実務事例が必要であり、神戸市の取組みが自治体のテストケースとなるのであれば素晴らしい」と話す。
AI 活用に関する基本事項などを定めた基本指針や、市が利用するAIのリスクアセスメント基準は、2024年9月末までに策定される予定だという。
■神戸市が目指すAI 利活用の姿〜庁内において積極的なシミュレーションを実施
神戸市はデジタル技術を使った業務改革を進めており、阪神・淡路大震災以後の財政悪化により職員数を削減しながら、他都市よりも効率的に速いスピードで行財政改革を進めてきた。これから行財政改革を進めるうえでは、 AI などのデジタル技術の活用が不可欠になる。
生成AIについては、 2023年6月から３か月間の試行利用の結果、 アンケート案やペルソナ作成など の場面で行政業務の効率化が見込まれ、2023 年12月にとりまとめた試行利用の報告書を踏まえ、 2024年2月から本格利用が開始された。
アンケート案の作成では、実証実験に対する市民向けのアンケートを行なうために、アンケートの設問や回答の選択肢を提示してもらった。
その結果、アンケートの質や作業スピードが向上。またペルソナの作成では、新型コロナワクチン接種を進めるため、仮想の市民をペルソナとして生成AIで作成して、そのペルソナが市の広報紙を見てどのような感想を持つか、どのような行動をとるかといったシミュレーションしながら、広報コンテンツの検証を行ない、生成AIを活用した業務の効率化に大きな可能性を感じる結果を得ることができたという。
今後は単に使ってみるだけでなく、様々な業務が存在する市役所において、AI が実務に役立つ場面・条件を１つずつ明らかにしながら、「どの場面でどう使えば AI が役立つのか」という、実効性のある活用モデルを確立することで、先進的な取り組みを進めていくとしている。
さらに、庁内マニュアルなどの独自データを活用して、AI に回答してもらう環境構築も進められている。
市では「革新的な技術であるAI を積極的に活用しつつ、リスク管理を行ないつつ適切な活用を目指します」とアナウンスしている。
関連情報
https://www.city.kobe.lg.jp
構成／清水眞希
最新号
