人工知能関連技術の研究開発及び活用の推進に関する法律案

政府は、本法の施行に当たっては、次の事項に留意し、その運用等について遺漏なきを期すべきである。

一ＡＩの研究開発及び活用に当たっては、「人間中心のＡＩ社会原則」に基づき、人間の尊厳を損なわないことを大前提とすること。また、ＡＩを人間の倫理観、価値観及び目的に沿って動作させるＡＩアライメントの観点に基づいた研究開発を推進すること。

二本法に基づくＡＩ基本計画、指針の策定その他のＡＩ政策の実施に当たっては、リスクの最小化のみならず、我が国におけるＡＩの導入促進による便益についても十分考慮すること。

三生成ＡＩを含むＡＩ技術は、社会や経済に対して便益をもたらすとともに様々なリスクを有していることに鑑み、ＡＩの利活用に際しての留意点やリスクの回避策等について、事業者や国民に対して十分に周知すること。また、リスクの把握を含めたＡＩの適切な利活用の方法について、学校教育や社会教育等の場を活用することにより、ＡＩに関するリテラシー教育を積極的に推進すること。

四ＡＩ技術を悪用したディープフェイクポルノ、とりわけ児童の画像等を使用したものへの対策については、各種法令の適用による厳正な取締り及び被害者の保護を行うとともに、サイト管理者等への違法な情報の削除依頼を強化すること。また、同対策の実効性を高めるための方策の在り方について検討し、その結果に基づいて必要な措置を講ずること。

五我が国で利用される生成ＡＩサービスの多くが外国産で占められている一方、日本語での出力に課題がある現状を踏まえ、日本語の大規模言語モデルをベースとした国産の生成ＡＩサービスの実用化に向けた研究開発及びデータ整備の一層の推進に官民を挙げて取り組むこと。また、将来において競争力を高めるためにも、ＡＩを国家戦略上の重要分野と位置付けるとともに、ＡＩの基盤的技術やモデルの研究開発を積極的に支援すること。

六ＡＩ関連産業のイノベーションと健全な競争を促進するため、必要に応じてスタートアップを含む新規参入者に係る障壁を撤廃し、公正で開かれた市場環境を整備すること。

七ＡＩ技術の研究開発が総合的に行われる必要があることに鑑み、学際的見地からＡＩ人材の育成を強化し、特に次世代の競争力を高めること。また、ＡＩ技術の研究開発や人材の育成・確保に向けた官民の十分な投資を確保するため、財政上の措置その他必要な措置を講ずること。

八ＡＩの利活用が行政サービスの質の向上、業務の効率化及び社会課題の解決等に資することに鑑み、国、地方公共団体及び地域の民間事業者によるＡＩの積極的な利活用に向けた環境の整備に努めること。また、利活用に際しては、ＡＩが有する様々なリスクを踏まえて、個人情報の保護その他の国民の権利利益の保護を図りつつ、適正性の確保にも十分に留意すること。

九活用事業者等に対する調査、指導及び助言等に当たっては、当該事業者等の営業秘密や知的財産権の保護に配慮しつつ、過度に重い負担や情報開示を求めないように留意すること。他方で、重大なリスクが生じるおそれのある事項に関し、指導や助言等に応じない活用事業者等に対する実効性ある措置の在り方について検討し、その結果に基づいて必要な措置を講ずること。

十広島ＡＩプロセス国際行動規範の「報告枠組み」に基づき報告書を提出する活用事業者等に対しては、既存の国内法制度に基づく報告義務に最大限活用することで、報告の重複を軽減する仕組みを導入することなどにより、国際的な整合性や効率性を確保すること。

十一ＡＩ技術が加速度的に進展している現状を踏まえ、ＡＩの利活用が国民生活の向上及び国民経済の健全な発展に資するものとなるよう、また、新たなリスクに適時に対応するためにも、本法その他の関連規定、ＡＩ基本計画及び指針について不断の見直しを行うこと。

十二ＡＩ戦略本部の組織体制については、同本部がＡＩ技術の研究開発及び活用に係る一体的な施策を推進する政府の司令塔機能を十分に発揮できるよう、各省庁の縦割りを可能な限り排除するとともに、事務局に民間のＡＩ人材の積極的な登用を図ること。

十三ＡＩ戦略本部に対して専門的見地から助言を行えるようにするため、有識者から構成される会議体を早期に設置すること。また、有識者の人選については、ＡＩの倫理的、法的及び社会的課題について知見を有する者など多様な主体の参画を図ること。

十四ＡＩのリスクへの対応について、常に最新の知見の情報収集に努め、必要な対応について不断の検討を行うこと。また、既存の法令やガイドライン等によっては対応が困難な新たなリスクが顕在化した場合においては、そのリスクの程度に応じて規制の度合いを変えるリスクベースアプローチに基づいた規制的措置の導入も含め検討し、その結果に応じて必要な措置を講ずること。

十五ＡＩの利用に伴う知的財産権、パブリシティ権等の権利侵害に対応するため、諸外国における検討状況等を踏まえ、必要に応じ関連法制の整備を含めた対応の在り方について検討し、その結果に基づいて必要な措置を講ずること。

政府は、本法の施行に当たり、次の諸点について適切な措置を講ずるべきである。

一ＡＩの研究開発及び活用に当たっては、「人間中心のＡＩ社会原則」に基づき、人間の尊厳を損なわないことを大前提とすること。また、ＡＩを人間の倫理観、価値観及び目的に沿って動作させるＡＩアライメントの観点に基づいた研究開発を推進すること。

二本法に基づくＡＩ基本計画、指針の策定その他のＡＩ政策の実施に当たっては、リスクの最小化のみならず、我が国におけるＡＩの導入促進による便益についても十分考慮すること。

三生成ＡＩを含むＡＩ技術は、社会や経済に対して便益をもたらすとともに様々なリスクを有していることに鑑み、ＡＩの利活用に際しての留意点やリスクの回避策等について、事業者や国民に対して十分に周知すること。また、リスクの把握を含めたＡＩの適切な利活用の方法について、学校教育や社会教育等の場を活用することにより、ＡＩに関するリテラシー教育を積極的に推進すること。

四ＡＩの利活用の推進により、雇用の代替や経済格差の拡大が懸念されていることを踏まえ、ＡＩの普及が雇用や産業構造に与える影響について分析を行った上で、民間事業者による新産業の創出に向けた支援を実施するとともに、新たな人材需要に対応するためのリカレント教育を推進する等、必要な施策を講ずること。

五ＡＩ技術を悪用したディープフェイクポルノ、取り分け児童の画像等を使用したものについての対策として、各種法令の適用による厳正な取締り及び被害者の保護を行うとともに、サイト管理者等への違法な情報の削除依頼の強化に加え、被害者による告訴等の負担軽減、被害発生防止に向けた教育啓発等の措置を講ずること。また、対策の実効性を高めるための方策の在り方について検討し、その結果に基づいて必要な対応を図ること。

六我が国で利用される生成ＡＩサービスの多くが外国産で占められている一方、日本語での出力に課題がある現状を踏まえ、日本語の大規模言語モデルをベースとした国産の生成ＡＩサービスの実用化に向けた研究開発及びデータ整備の一層の推進に官民を挙げて取り組むこと。

七ＡＩ関連産業のイノベーションと健全な競争を促進するため、必要に応じてスタートアップを含む新規参入者に係る障壁を撤廃し、公正で開かれた市場環境を整備すること。

八国際競争力の強化を図るため、ＡＩを国家戦略上の重要分野と位置付けるとともに、ＡＩの基盤的技術やモデルの研究開発及び海外展開を積極的に支援すること。

九ＡＩの普及等に伴い需要の増大が見込まれるデータセンターの整備については、電力需給を踏まえ戦略的に推進すること。また、稼働に伴う環境負荷の低減に向けた取組を実施するとともに、日照権や排熱の問題について、設置者による立地地域の住民及び地方公共団体への十分な情報提供を行うことを始め、地域との共生を図るためのデータセンター設置の在り方について検討を行い、必要な措置を講ずること。

十ＡＩ技術の研究開発が総合的に行われる必要があることに鑑み、学際的見地からＡＩ人材の育成を強化し、特に次世代の競争力を高めること。また、ＡＩ技術の研究開発や人材の育成・確保に向けた官民の十分な投資を確保するため、財政上の措置その他必要な措置を講ずること。

十一ＡＩの利活用が行政サービスの質の向上、業務の効率化及び高度化並びに社会課題の解決等に資することに鑑み、国、地方公共団体及び民間事業者等によるＡＩの積極的な利活用が可能となる環境の整備に努めること。また、利活用に際しては、ＡＩが有する様々なリスクを踏まえて、個人情報の保護その他の国民の権利利益の保護を図りつつ、適正性についても確保するとともに、業務効率化による安易な人員削減につながらないよう十分に留意すること。

十二差別や偏見の助長、偽・誤情報の拡散等、ＡＩのもたらし得るリスクを低減させる技術の研究開発及び社会実装を一層推進すること。また、活用事業者等に対し、透明性の確保及び不適切な出力の防止に関する対策の実施を促進するとともに、関係者間の連携の強化や好事例の周知等、官民一体となった安全性の確保に向けた取組を実施すること。

十三活用事業者等に対する調査、指導及び助言等に当たっては、当該事業者等に係る営業秘密等の知的財産の保護に配慮しつつ、過度に重い負担や情報開示を求めないように留意すること。

十四国民の権利利益の侵害が生じた事案等について、調査、指導及び助言等を行うに当たっては、活用事業者やＡＩサービスの利用者等から迅速な情報収集を行うとともに、平時より関係者間での情報共有を図り、事故発生やその可能性を早急に検知し、適切な対策を講ずるための体制整備を推進すること。また、海外の事業者や指導・助言等に応じない活用事業者等への対応に関しては、国際連携の強化等に努めるとともに、実効性ある措置の在り方について検討し、その結果に基づいて必要な措置を講ずること。

十五広島ＡＩプロセス国際行動規範の「報告枠組み」に基づき報告書を提出する活用事業者等に対しては、既存の国内法制度に基づく報告義務に最大限活用することで、報告の重複を軽減する仕組みを導入することなどにより、国際的な整合性や効率性を確保すること。

十六ＡＩ技術が加速度的に進展している現状を踏まえ、ＡＩの利活用が国民生活の向上及び国民経済の健全な発展に資するものとなるよう、また、新たなリスクに適時に対応するためにも、本法その他の関連規定、ＡＩ基本計画及び指針について不断の見直しを行うこと。

十七ＡＩ戦略本部の組織体制については、同本部がＡＩ技術の研究開発及び活用に係る一体的な施策を推進する政府の司令塔機能を十分に発揮できるよう、各省庁の縦割りによる弊害を排除するとともに、事務局に民間のＡＩ人材の積極的な登用を図ること。

十八ＡＩ戦略本部に対して専門的見地から助言を行えるようにするため、有識者から構成される会議体を早期に設置すること。また、有識者の人選については、ＡＩの倫理的、法的及び社会的課題について知見を有する者など多様な主体の参画を図ること。

十九ＡＩのリスクへの対応について、常に最新の知見の情報収集に努め、必要な対応について不断の検討を行うこと。また、既存の法令やガイドライン等によっては対応が困難な新たなリスクが顕在化した場合においては、そのリスクの程度に応じて規制の度合いを変えるリスクベースアプローチに基づいた規制的措置の導入も含め検討し、その結果に応じて必要な措置を講ずること。

二十ＡＩの利用に伴う知的財産権、パブリシティ権等の権利侵害に対応するため、諸外国における検討状況等を踏まえ、必要に応じ関連法制の整備を含めた対応の在り方について検討し、その結果に基づいて必要な措置を講ずること。その際、特に権利者の権利が適切に保護されるよう十分考慮すること。