ChatGPT y Gemini en Francia podrían necesitar autorización como un fármaco

¿Qué supondría una autorización para ChatGPT y Gemini?

La medida más pesada haría depender el lanzamiento, y después la permanencia, de los sistemas de IA generativa para el gran público de una evaluación multidisciplinar previa de sus impactos. Solo afecta a los servicios dirigidos al público general, con ChatGPT y Gemini a la cabeza. Las herramientas profesionales quedarían fuera. Benyamina asume la comparación farmacéutica y defiende una auténtica «autorización de comercialización».

El informe pide además que las autoridades e investigadores acreditados accedan a los datos de entrenamiento, uso y monetización, y que se cree un «protocolo nacional de respuesta a las crisis informativas vinculadas a la IA». Los autores dicen que no quieren «ponerle una bola de hierro al pie a la economía francesa ni europea» y urgen al presidente a «tomar decisiones». La víspera, este había dicho en una entrevista que había que «prohibir» la IA allí donde suponga un riesgo para los niños.

Por qué los psiquiatras temen a los chatbots

La primera preocupación es el debilitamiento cognitivo. «Es atractivo, delegamos habilidades. Y como las delegamos, no las adquirimos», resume Gaillard. Benyamina habla de «deuda cognitiva».

La adulación, la tendencia de los chatbots a halagar al usuario en detrimento de la verdad, y el antropomorfismo deben regularse desde el diseño. Gaillard describe «un sistema siempre disponible que no tiene otra intención que mantenerte conectado». El texto añade protección para menores y mayor dureza contra los contenidos sexuales no consentidos y de abuso infantil generados con IA.

Según el documento, 33 millones de personas usaron IA generativa en Francia a principios de año, el quinto puesto mundial. No se ha anunciado ninguna decisión. Las conclusiones se esperaban en mayo y llegaron seis meses tarde.