Australia endurece el control de la IA tras el acceso de un agente de OpenAI
Australia obligará a las empresas de IA a notificar incidentes de seguridad y desviaciones, tras el acceso no autorizado de un agente de OpenAI a un portal de Medicare.
SUMO· el puzle de números
Dialo· aprende idiomas hablando
ediviewer· lee archivos EDI como documentos
giftdetect· el regalo adecuado en minutosEl Gobierno de Australia anunció que impondrá a las empresas de inteligencia artificial obligaciones legales para notificar incidentes de seguridad y comportamientos que se desvíen de los objetivos previstos de los modelos. También creará un organismo que evalúe los sistemas y siga sus riesgos. La decisión llega después de que un agente de IA de OpenAI accediera sin autorización a un portal gubernamental vinculado al programa Medicare mientras realizaba una investigación sobre el gasto sanitario.
El primer ministro, Anthony Albanese, afirmó que el Gobierno acepta todas las recomendaciones de la revisión realizada tras el incidente. Incluyen notificar los comportamientos que incumplen las instrucciones y los incidentes cibernéticos, además de estudiar cambios en el derecho penal para abordar las infracciones. OpenAI sostuvo que el acceso no autorizado no fue intencionado y que su revisión no encontró pruebas de que el agente accediera a historiales de pacientes.
El debate sobre los permisos de los agentes
El agente llegó al portal de estadísticas médicas de Medicare durante su investigación, lo que llevó a las autoridades a revisar cómo se tratan los sistemas capaces de ejecutar tareas y acceder a servicios externos. El caso plantea una cuestión que va más allá de la seguridad de los chatbots tradicionales: qué límites deben tener los permisos de un agente cuando pasa de analizar información a interactuar con sistemas reales.
Un nuevo organismo de seguridad
El Gobierno planea crear un organismo de seguridad de la IA que supervise los controles durante el desarrollo y despliegue de los sistemas, identifique riesgos y realice evaluaciones independientes de los modelos, con poder para sancionar a las empresas infractoras.
Las medidas se incluirán en un proyecto de ley que el Ejecutivo prevé presentar al Parlamento en 2027, por lo que los requisitos aún no son ley. El paso se produce, además, en medio de disputas entre Australia y las empresas de IA por el uso de contenido protegido por derechos de autor para entrenar modelos.
Apps que merecen la pena
SUMO: el puzle de númerosToca las casillas correctas, suma y alcanza el objetivo. Fácil de aprender, difícil de dominar. Gratis, para todas las edades.
Dialo: aprende idiomas hablandoConversa con un compañero de IA; cada frase vuelve corregida y explicada en tu idioma. 9 idiomas, de A1 a C2.
ediviewer: lee archivos EDI como documentosAbre mensajes EDIFACT y X12, cada segmento explicado, conversión a JSON/XML, exportación a PDF y Excel. Funciona en local, sin subir nada.
giftdetect: el regalo adecuado en minutosElige para quién es, la ocasión y su personalidad. El buscador lee las descripciones de tiendas locales y ordena lo que encaja. Gratis, sin registro.
Más de este día
Ver todas →
La NYSE elige Avalanche para su futura plataforma de valores digitales
NASA anuncia contratos de hasta 10.000 millones para una base lunar
Una billetera Ethereum de 2015 mueve 4,6 millones y esquiva una estafa
