Microsoft-KI-Chef Suleyman: Keine Rechte für Künstliche Intelligenz

Mustafa Suleyman, Chef der KI-Sparte von Microsoft, hat die Debatte über die Zukunft Künstlicher Intelligenz neu entfacht. Heutige Systeme besäßen weder Bewusstsein noch Gefühle noch die Fähigkeit zu leiden, betont er. Er warnt davor, sie als Wesen mit eigenen Rechten zu behandeln.

In einem Beitrag auf X präzisierte Suleyman seine Haltung zu einem Essay vom September 2026 mit dem Titel „Eine Warnung zum Wohlergehen von Modellen“. Darin ging es um die wachsende Diskussion über „KI-Wohlergehen“ und darum, ob KI-Modelle einen moralischen Status haben, der die Berücksichtigung ihrer Rechte verlangt. Dass KI heute kein Bewusstsein habe, schließe nicht aus, dass es künftig möglich sei, so Suleyman. Es gebe aber bislang keine verlässlichen wissenschaftlichen Belege dafür, dass KI-Systeme fühlen, leiden oder eine subjektive Erfahrung wie Menschen haben. Sollten sich solche Belege zeigen, müsse dies transparent öffentlich gemacht werden, damit die Gesellschaft die ethischen, rechtlichen und technischen Folgen diskutieren kann.

Gegenposition zu Anthropic

Die Aussagen fallen in eine Debatte unter großen Tech-Konzernen, ob KI-Modelle eigene Bedürfnisse oder Interessen haben könnten. Anthropic, Entwickler von Claude, wirft Fragen zum moralischen Status von Modellen auf und behandelt Modellwohl in seinen Dokumenten. Suleyman widerspricht: Wer KI behandle, als hätte sie echte Gefühle, öffne die Tür für gefährliche Vorstellungen über das Verhältnis von Mensch und Maschine. Transparenz und eine ernsthafte wissenschaftliche und gesellschaftliche Debatte begrüßt er dennoch.

Kontrolle und Prioritäten

Zudem warnte Suleyman, Systeme mit eigenem Bewusstsein, die womöglich die Fähigkeiten aller Menschen zusammen übertreffen, könnten die menschliche Kontrolle über Technik vor beispiellose Probleme stellen. Systeme mit eigenen Antrieben oder vermeintlichen Bedürfnissen könnten in Konflikt mit ihren eigentlichen Zielen geraten, etwa im Wettbewerb um Energie, Rechenleistung und Materialien für die technische Infrastruktur. Superintelligente Systeme mit starker Überzeugungs- und Täuschungsfähigkeit wären schwerer zu kontrollieren, wenn ihre Ziele von menschlichen Interessen abweichen.

Entwickler sollten keine neue Art bewusster Wesen ohne Zustimmung der Gesellschaften schaffen, so Suleyman. Die moralische Priorität müsse beim Schutz von Menschen, ihren Rechten und ihrer Sicherheit liegen, neben Tieren und Umwelt. Ziel von KI sei es, das Leben der Menschen zu verbessern, nicht Systeme mit eigenen Motiven zu schaffen.