KI10.11.2026, 17:23 UTC·2 Min. Lesezeit

Macron: KI-Chefs unterzeichnen Pariser Appell zur KI-Sicherheit

Sam Altman, Dario Amodei und Arthur Mensch haben auf Einladung von Emmanuel Macron eine Charta zu Risiken von KI-Spitzenmodellen unterzeichnet. Auch Kinderschutz ist Thema.

Emmanuel Macron speaking at a podium during an international meeting on artificial intelligence safety in Paris. — Bild: 01net.com

Emmanuel Macron hat am 9. November 2026 per Videokonferenz führende KI-Manager und internationale Vertreter zusammengebracht, um den „Pariser Appell für die Sicherheit der KI“ zu unterzeichnen. Die Charta soll die Risiken von Spitzenmodellen besser eindämmen. Das Treffen fand am Vorabend der 9. Ausgabe des Pariser Friedensforums statt.

Dabei waren unter anderem Sam Altman (OpenAI), Dario Amodei (Anthropic), Microsoft-Präsident Brad Smith und Arthur Mensch (Mistral AI). Hinzu kamen Vertreter von acht Ländern, darunter Kanada, Japan, Norwegen, die Niederlande und das Vereinigte Königreich, der US-Finanzminister Scott Bessent sowie Delegierte der UNO und der OECD.

Drei Verpflichtungen

Die Charta ruht auf drei Säulen. Erstens wollen Politik, Entwickler und Forschung einen gemeinsamen, unabhängigen und öffentlichen Rahmen zur Bewertung und Steuerung der Risiken von Spitzenmodellen schaffen. Im Fokus stehen Cyberangriffe und Fälle, in denen Entwickler die Kontrolle über leistungsstarke Modelle verlieren.

Zweitens wollen die Unterzeichner bestehende Melde- und Warnsysteme stärken, um Informationen über schwere Cyber- oder Kontrollverlust-Vorfälle schnell zu teilen, so der Élysée. Staatliche Stellen sagen zudem sichere, vertrauliche Kanäle für Hinweisgeber zu, damit diese systemische Risiken ohne Angst vor Vergeltung melden können.

Drittens sollen die Entwickler Fähigkeiten, Grenzen und bekannte Risiken ihrer Modelle veröffentlichen. Auf X sagte Macron, es gehe nicht darum, Innovationen abzulehnen, sondern einen Rahmen zu schaffen, der drei Gefahren berücksichtigt: Kinder, demokratische Sicherheit und zentrale Fragen der nationalen Sicherheit.

Beschränkungen für Minderjährige denkbar

Im Interview mit Les Echos sagte Macron, wenn bestimmte KI-Anwendungen Kindern schadeten, müssten sie verboten werden; KI dürfe kein „Wilder Westen“ sein. Nachdem er bereits soziale Netzwerke für unter 15-Jährige sperren wollte, erwägt er nun, auch den Zugang junger Menschen zu bestimmten KI-Tools einzuschränken.

Die Rufe nach Regulierung haben zuletzt zugenommen. Donald Trump ließ führende US-KI-Firmen einen Verhaltenskodex unterzeichnen, und OpenAI, Google und Anthropic arbeiten Berichten zufolge an einer eigenen KI-Aufsicht. Wie viel Gewicht die Pariser Charta haben wird, bleibt offen.

Apps, die sich lohnen

SUMO: das Zahlenrätsel

Tippe die richtigen Felder, addiere, triff das Ziel. Leicht zu lernen, schwer zu meistern. Kostenlos, für jedes Alter.

Dialo: Sprachen lernen durch Sprechen

Sprich mit einem KI-Gesprächspartner; jeder Satz kommt korrigiert und in deiner Sprache erklärt zurück. 9 Sprachen, A1 bis C2.

ediviewer: EDI-Dateien wie Dokumente lesen

EDIFACT- und X12-Nachrichten öffnen, jedes Segment verständlich erklärt, in JSON/XML umwandeln, als PDF und Excel exportieren. Läuft lokal, kein Upload.

giftdetect: das passende Geschenk in Minuten

Wähle, für wen es ist, den Anlass und die Persönlichkeit. Die Suchmaschine liest Produktbeschreibungen lokaler Shops und sortiert, was passt. Kostenlos, ohne Anmeldung.

Schlagwörter:macronai safetyparis callopenaianthropicmistral ai