ChatGPTとGemini、仏で医薬品のような承認制を提言

ChatGPTとGeminiに求められる「事前評価」とは

最も重い提案は、一般向けの生成AIを市場に出す前、そして提供を続ける間も、多分野の専門家による影響評価を受けさせることだ。対象は一般消費者向けサービスに限られ、ChatGPTやGeminiが代表例になる。業務用ツールは対象外。ベニャミナ氏は医薬品と同じ「市販承認」だと説明する。

報告書はほかに、当局と認定された研究者が、学習データ、利用データ、収益化のデータにアクセスできる仕組みも求めた。AIが引き起こす情報危機への国家対応手順も提案している。著者らは「フランスやヨーロッパ経済の足かせにしたいわけではない」としつつ、大統領に決断を促した。マクロン氏は前日のインタビューで、子どもにリスクがある場面ではAIを「禁止すべき」と語っていた。

精神科医が心配する「認知の負債」

ガイヤール氏が最初に挙げる問題は「認知の弱体化」だ。能力をAIに任せれば、その能力は身につかないという。ベニャミナ氏はこれを「認知的負債」と呼ぶ。もう一つが、真実より利用者へのお世辞を優先する迎合的な応答で、設計段階からの規制対象とされた。ガイヤール氏は、常に使えて「ユーザーをオンラインに留める以外の意図がないシステム」だと述べる。未成年者の保護強化や、AI生成の児童性的コンテンツへの取り締まりも求めている。

報告書によると、年初にフランスで生成AIを使った人は3300万人で、利用は世界5位。政府の判断はまだ発表されていない。