ChatGPT und Gemini in Frankreich: Zulassung wie bei Medikamenten?

Was bedeutet eine Zulassung für ChatGPT und Gemini?

Der weitreichendste Vorschlag: Der Marktstart und auch der weitere Verbleib verbraucherorientierter KI-Systeme würde von einer vorherigen, interdisziplinären Bewertung ihrer Auswirkungen abhängen. Gemeint sind nur Dienste für die breite Öffentlichkeit, allen voran ChatGPT und Gemini. Professionelle Werkzeuge wären ausgenommen. Benyamina verteidigt den Vergleich mit der Pharmabranche offen und spricht von einer echten „Marktzulassung“.

Außerdem sollen Behörden und akkreditierte Forscher Zugang zu Trainings-, Nutzungs- und Monetarisierungsdaten erhalten. Dazu kommt ein nationales Protokoll für KI-bedingte Informationskrisen. Die Autoren betonen, sie wollten der französischen und europäischen Wirtschaft keinen Klotz ans Bein binden, und drängen Macron zu Entscheidungen. Der hatte tags zuvor in einem Interview gesagt, KI müsse überall „verboten“ werden, wo sie Kinder gefährdet.

Warum Psychiater vor Chatbots warnen

Die größte Sorge ist die kognitive Schwächung. „Es ist attraktiv, man delegiert Fähigkeiten. Und weil man sie delegiert, erwirbt man sie nicht“, sagt Gaillard. Benyamina spricht von „kognitiver Schuld“.

Auch Schmeichelei, also die Neigung von Chatbots, Nutzern zulasten der Wahrheit zu gefallen, und Vermenschlichung sollen schon im Design begrenzt werden. Gaillard beschreibt „ein ständig verfügbares System, das keine andere Absicht hat, als Sie online zu halten“. Hinzu kommen Schutzmaßnahmen für Minderjährige und härteres Vorgehen gegen nicht einvernehmliche sexuelle und kinderpornografische KI-Inhalte.

Laut Bericht nutzten Anfang des Jahres 33 Millionen Menschen in Frankreich generative KI, weltweit Platz fünf. Eine Entscheidung gibt es bislang nicht. Die Ergebnisse waren für Mai erwartet worden und kamen sechs Monate später.