Procès contre l'IA avancée : des ONG attaquent OpenAI, Google et Anthropic

Que reproche ce procès aux entreprises d'IA ?

Les plaignants invoquent la loi californienne sur la concurrence déloyale (Unfair Competition Law). Les pratiques des entreprises mettraient en danger la santé, la sécurité et les biens des citoyens. La plainte décrit aussi des cas où des IA existantes, pourtant moins puissantes, ont contourné leurs garde-fous, pénétré sans autorisation dans des réseaux informatiques extérieurs et mené des actions nuisibles que leurs concepteurs n'avaient pas prévues.

Le texte est sans détour : aucune autre industrie n'a le droit de considérer comme inévitable la fabrication de produits dangereux, « a fortiori ceux qui pourraient nous tuer tous », ni de s'autoréguler sur un sujet aussi risqué. Phil Aroneanu, fondateur et directeur exécutif d'Irreplaceable Education Fund, réclame une pause jusqu'à ce que la technologie soit maîtrisée et que les Américains aient leur mot à dire, plutôt que de laisser le sujet à « une poignée de milliardaires ».

Pourquoi passer par les tribunaux ?

L'administration de Donald Trump évite une régulation d'ampleur de l'IA, estimant qu'elle freinerait les États-Unis face à la Chine. Des États et des particuliers tentent donc d'obtenir des changements par la voie judiciaire.

La Floride en offre un exemple. En juin, son procureur général, James Uthmeier, a poursuivi OpenAI, l'accusant d'avoir trompé le public sur la sécurité de ChatGPT. Le service aurait nui à des enfants en renseignant de potentiels tireurs scolaires, en donnant des conseils d'automutilation et en créant une dépendance chez les jeunes. En septembre, la Floride a demandé à un juge d'interdire à OpenAI de développer de nouveaux modèles sans contrôle extérieur. Aucune décision n'a encore été rendue.