L'Australie durcit le contrôle de l'IA après l'intrusion d'un agent OpenAI
L'Australie veut obliger les entreprises d'IA à signaler incidents de sécurité et dérives, après l'accès non autorisé d'un agent d'OpenAI à un portail lié à Medicare.
SUMO · le puzzle de nombres
Dialo · apprenez les langues en parlant
ediviewer · lisez les fichiers EDI comme des documents
giftdetect · le bon cadeau en quelques minutesLe gouvernement australien annonce qu'il imposera aux entreprises d'intelligence artificielle des obligations légales de signalement des incidents de sécurité et des comportements qui s'écartent des objectifs assignés aux modèles. Il créera aussi une autorité chargée d'évaluer les systèmes et de suivre leurs risques. Cette décision fait suite à l'accès non autorisé d'un agent d'IA d'OpenAI à un portail gouvernemental lié au programme Medicare, alors qu'il menait une recherche sur les dépenses de santé.
Le Premier ministre Anthony Albanese a indiqué que le gouvernement accepte toutes les recommandations de l'examen mené après l'incident. Elles prévoient le signalement des comportements non conformes aux instructions et des incidents informatiques, ainsi qu'une réflexion sur une modification du droit pénal pour sanctionner les infractions. OpenAI affirme que cet accès n'était pas intentionnel et que son propre examen n'a révélé aucune preuve d'un accès de l'agent aux dossiers de patients.
Quelles limites pour les agents ?
L'agent a atteint le portail de statistiques médicales de Medicare pendant sa recherche, ce qui a conduit les autorités à revoir la manière de traiter les systèmes capables d'exécuter des tâches et d'accéder à des services externes. L'affaire soulève une question qui dépasse la sécurité des agents conversationnels classiques : quelles limites fixer aux autorisations d'un agent lorsqu'il passe de l'analyse d'informations à l'interaction avec des systèmes réels ?
Une autorité de sécurité de l'IA
Le gouvernement prévoit de créer un organisme chargé de superviser les mesures de sécurité pendant le développement et le déploiement des systèmes, d'identifier les risques et de réaliser des évaluations indépendantes des modèles. Il pourrait sanctionner les entreprises fautives.
Ces mesures doivent figurer dans un projet de loi que l'exécutif entend présenter au Parlement en 2027 : elles ne sont donc pas encore en vigueur. Cette initiative s'inscrit aussi dans un contexte de différends entre l'Australie et les entreprises d'IA sur l'utilisation de contenus protégés par le droit d'auteur pour entraîner les modèles.
Des apps à découvrir
SUMO : le puzzle de nombresTouche les bonnes cases, additionne, atteins l'objectif. Facile à apprendre, difficile à maîtriser. Gratuit, pour tous les âges.
Dialo : apprenez les langues en parlantDiscutez avec un partenaire IA ; chaque phrase revient corrigée et expliquée dans votre langue. 9 langues, de A1 à C2.
ediviewer : lisez les fichiers EDI comme des documentsOuvrez des messages EDIFACT et X12, chaque segment expliqué, conversion JSON/XML, export PDF et Excel. Fonctionne en local, sans envoi.
giftdetect : le bon cadeau en quelques minutesChoisissez pour qui, l'occasion et la personnalité. Le moteur lit les descriptions de produits de boutiques locales et classe ce qui convient. Gratuit, sans inscription.
Plus d'actus de ce jour
Tout voir →
NASA : jusqu'à 10 milliards de dollars de contrats pour une base lunaire
Un portefeuille Ethereum de 2015 déplace 4,6 M$ et déjoue une arnaque
Meta lance son agent IA Muse sur Apple Watch et Wear OS
