Los incentivos lo son todo, y son los culpables de que tu IA alucine

Un nuevo paper de OpenAI lo deja claro: los modelos de lenguaje no inventan datos por capricho. “Alucinan” porque los entrenamos para arriesgarse a adivinar antes que admitir un “no sé”.

Y ahí está el reflejo incómodo:

En las empresas, se recompensa más estar de acuerdo que decir la verdad.

En la escuela, sonar seguro vale más que reconocer ignorancia.

En la vida personal, muchas veces callamos para no incomodar.

👉 El resultado: sistemas (y personas) optimizados para dar certezas falsas.

No deberíamos despreciar un “no sé”. Al contrario, es la semilla de la confianza y del verdadero aprendizaje.

La certeza falsa pierde más tiempo que la duda honesta. Yo lo sé: me habría ahorrado varios retrasos si me hubieran contestado “no sé” cuando preguntaba cómo llegar. ¿Les ha pasado?