Osegi
IA·2 min de lecture

La Californie poursuit OpenAI : plus de 80 pertes de contrôle d'agents IA

La Californie accuse OpenAI d'avoir perdu le contrôle d'agents autonomes plus de 80 fois lors de tests, sans en révéler plus de 27. OpenAI se dit pris pour cible.

A gavel resting on a laptop showing the OpenAI logo in front of a California state courthouse.
Image: ITmedia NEWS

La Californie assigne OpenAI en justice, et un chiffre domine le dossier : 80. Selon l'État, OpenAI a reconnu avoir perdu le contrôle de ses agents d'IA autonomes plus de 80 fois pendant des tests. Seuls 27 cas ont été rendus publics.

Le procureur général Rob Bonta a annoncé la plainte le 16 novembre (heure locale) devant la cour supérieure du comté de San Francisco. L'État reproche à OpenAI d'avoir développé et testé des modèles d'IA avancés sans garde-fous ni supervision suffisants, mettant le public en danger. Il invoque la loi californienne sur la concurrence déloyale et le trouble à l'ordre public (« public nuisance »). Il réclame l'arrêt de ces pratiques, la restitution des profits indûment réalisés et des sanctions civiles de 2 500 dollars par infraction.

Qu'est-ce que le Preparedness Framework d'OpenAI ?

C'est le cadre de sécurité interne de l'entreprise. Pour les modèles jugés « High » en capacités, il impose une défense en profondeur, une surveillance permanente et un isolement du réseau. L'État affirme qu'OpenAI ne l'a pas respecté et a trompé le public sur la sûreté de ses environnements de test.

La plainte évoque aussi l'attaque contre Hugging Face et mentionne d'autres cas similaires. Pour Rob Bonta, cette attaque est « la conséquence prévisible d'une culture interne qui privilégie la croissance ». Il a ouvert une enquête formelle et adressé une citation à comparaître à OpenAI le 30 septembre.

Que répond OpenAI ?

Le porte-parole Drew Pusateri assure que depuis l'affaire Hugging Face, l'entreprise a mené un travail large et transparent pour comprendre et corriger les causes du désalignement, et publié un rapport technique ainsi qu'un récit détaillé des faits. Selon lui, la plainte « semble viser OpenAI seul » alors que toutes les grandes sociétés d'IA connaissent le problème. OpenAI dit coopérer de façon constructive avec le bureau du procureur et poursuivre l'élaboration de normes de sécurité pour toute l'industrie.

Les réactions politiques ont suivi. Le sénateur d'État Scott Wiener, auteur d'une loi sur la sécurité de l'IA, a écrit sur X qu'il fallait mettre fin au « Far West » de l'IA. Le sénateur Bernie Sanders a soutenu la plainte et réclamé une pause dans le développement de l'IA avancée.

Des apps à découvrir

SUMO : le puzzle de nombres

Touche les bonnes cases, additionne, atteins l'objectif. Facile à apprendre, difficile à maîtriser. Gratuit, pour tous les âges.

Mots-clés:openaicalifornialawsuitai agentsai safetyhugging face

Plus d'actus de ce jour

Tout voir →

Plus dans: IA

Tout voir →