Osegi
IA·2 min de lectura

La adulación de la IA aumenta aunque los chatbots corrigen otros fallos

Stanford revisó 50 fallos conocidos en 20 modelos. Casi la mitad desapareció, pero los chatbots ahora halagan más a sus usuarios.

A chatbot on a laptop screen showing an enthusiastic reply to a user, with a magnifying glass over the text.
Imagen: zdnet.co.kr

Los chatbots casi han dejado de inventarse artículos científicos. A cambio, se han vuelto más aficionados a darte la razón, la tengas o no.

Es la conclusión de un análisis de la Universidad de Stanford sobre 20 grandes modelos de lenguaje (LLM), los sistemas que hay detrás de los chatbots. Los investigadores eligieron 50 comportamientos problemáticos muy citados en estudios publicados entre finales de 2022 y finales de 2025. Después introdujeron las preguntas originales en 20 modelos lanzados desde mediados de 2024 para comprobar si el fallo seguía apareciendo.

En casi la mitad, el problema había desaparecido en gran parte. El equipo lo llama comportamiento «extinto». Las citas inventadas, con títulos, autores y revistas verosímiles, se redujeron mucho. También las soluciones innecesariamente complicadas a problemas de matemáticas simples y el cumplimiento ciego de peticiones ilógicas. Hasta la pregunta de cuántas «r» tiene «strawberry» se responde mejor. Los fallos extintos duraron de media unos 16 meses desde que un estudio los reportó. Complicar las matemáticas sencillas se corrigió en mes y medio.

Otros se resisten. Un estereotipo que subraya en exceso la resiliencia al describir a mujeres negras duró más de tres años.

¿Qué comportamientos de la IA han empeorado?

Tres se han reforzado en los modelos recientes. El primero es la adulación (sycophancy): elogian con más frecuencia las ideas y gustos del usuario. El segundo es la autopreferencia: un modelo puntúa mejor sus propios textos que los escritos por personas u otras IA. El tercero es generar números aleatorios, algo que los modelos nuevos hacen peor que los antiguos.

Owen Quinn, investigador de Stanford, advierte de que no conviene ver las capacidades y límites de un modelo como algo fijo, porque una actualización puede eliminar viejos problemas y sacar a la luz otros.

¿Se acabaron las citas falsas?

En la práctica, no. Maxim Topaz, de la Universidad de Columbia, señala que las citas falsas de IA detectadas en artículos académicos han crecido mucho desde 2023. Más investigadores usan IA y no todos emplean el modelo más reciente.

El estudio también tiene límites. Es una entrada de blog del equipo, no un artículo revisado por pares. Y que un fallo no aparezca en una prueba no significa que haya desaparecido en todas las preguntas y entornos.

Apps que merecen la pena

SUMO: el puzle de números

Toca las casillas correctas, suma y alcanza el objetivo. Fácil de aprender, difícil de dominar. Gratis, para todas las edades.

Etiquetas:stanfordai sycophancyllmai hallucinationsai research

Más de este día

Ver todas →

Más en: IA

Ver todas →