Navegando por esta red me he encontrado con un debate que no conocía y que me ha hecho replantearme la forma en que usamos los modelos de lenguaje (como GPT, Claude, Llama o Gemini) en nuestro día a día. A raíz de una discusión de Walter Quattrociocchi he llegado al artículo » » y al comentario » «, ambos publicados en PNAS. Y lo cierto es que la cuestión que plantean es menos técnica y más profunda de lo que imaginaba.

Navegando por esta red me he encontrado con un debate que no conocía y que me ha hecho replantearme la forma en que usamos los modelos de lenguaje (como GPT, Claude, Llama o Gemini) en nuestro día a día. A raíz de una discusión de Walter Quattrociocchi he llegado al artículo » » y al comentario » «, ambos publicados en PNAS. Y lo cierto es que la cuestión que plantean es menos técnica y más profunda de lo que imaginaba.

La imagen que comparto abajo, incluida en el artículo original, muestra la diferencia de una manera muy sencilla: un juicio humano nace de la experiencia, la memoria, el contexto y la intención. En cambio, lo que los modelos generan no es un juicio en ese sentido, sino una respuesta construida a partir de patrones estadísticos del lenguaje. Puede sonar parecida, pero el proceso que la produce no tiene nada que ver.
A partir de aquí aparece un concepto que me ha parecido especialmente clarificador: .

Lo explico de forma simple: es el momento en que confundimos una respuesta que parece un juicio con un juicio real. Cuando la forma del lenguaje —coherente, ordenada, convincente— nos lleva a pensar que detrás hay un criterio, una experiencia o una comprensión que en realidad no existen. Es una ilusión de equivalencia: dos frases pueden sonar iguales, pero no significa que hayan sido construidas desde las mismas bases.

Por eso este debate me ha interpelado tanto. No porque cuestionemos la utilidad de estas herramientas (que la tienen), sino porque nos obliga a pensar en cómo las utilizamos y qué delegamos en ellas. Si en algún momento dejamos que la apariencia sustituya a la verificación, o que la fluidez del texto suplante el razonamiento, entramos directamente en esa Epistemia de la que hablan los autores.

En los entornos de decisión importa —administración, docencia, evaluación, análisis jurídico— esta distinción no es un matiz: es una responsabilidad. é .

Contenido protegido. No autorizado su uso para entrenamiento de sistemas de inteligencia artificial sin autorización expresa.