Debates| De la cita a la trazabilidad: cuando el sistema deja de ver el proceso

El artículo publicado el 1 de abril en Nature, Hallucinated citations are polluting the scientific literature. What can be done?, permite observar un fenómeno que trasciende el ámbito de la publicación científica y alcanza directamente a la forma en que se produce y se valida el conocimiento.

Las citas no son un requisito formal, sino el soporte que permite rastrear el conocimiento, reconstruir argumentos y validar resultados. Su función no es completar el texto, sino conectarlo con una cadena previa de conocimiento que puede ser comprobada. Una afirmación no se sostiene solo por su coherencia interna, sino por su capacidad de remitir a algo que existe fuera de ella. Lo que el artículo muestra es que ese soporte puede mantenerse incluso cuando pierde su referente.

Las referencias generadas por inteligencia artificial son, en muchos casos, formalmente correctas. Presentan autores reconocibles, títulos plausibles, revistas coherentes y estructuras adecuadas. Encajan en el texto sin generar fricción. Pero no remiten a ningún trabajo existente. Y, sin embargo, el sistema las acepta.

Esto introduce «un desplazamiento» que no es menor. La cita deja de garantizar la existencia de la fuente y pasa a operar como un elemento de validación formal. No se comprueba porque encaja. Y encaja porque reproduce la forma esperada. El sistema no se rompe. Sigue funcionando. Pero lo hace sobre una base distinta.

Si se traslada esta lógica al ámbito universitario, la continuidad es inmediata. La evaluación académica se ha construido sobre una premisa implícita: que el resultado permite inferir el proceso. Un texto correcto, bien estructurado y coherente se ha entendido como indicio suficiente de que el razonamiento que lo sustenta ha sido efectivamente construido por quien lo presenta. Pero ese presupuesto hoy ya no es fiable.

Como apunta Iván Moreno en Colapso de la concentración y el pensamiento, el esfuerzo cognitivo se está desplazando. “Hacer buenos prompts reemplaza al pensamiento crítico”. El conocimiento deja de producirse exclusivamente en el sujeto y pasa a distribuirse en la interacción con sistemas que generan resultados plausibles.

En este contexto, el paralelismo con el problema de las citas es claro. Del mismo modo que una referencia puede ser formalmente correcta sin existir, un texto puede ser formalmente consistente sin que el proceso de razonamiento que lo sustenta sea verificable. La plausibilidad sustituye a la trazabilidad.

Aquí es donde el enfoque de Carol Damm y Lance Eaton en From Prompt to Practice: A Framework for Transparent GenAI Use in Higher Education, publicado en EDUCAUSE, aporta un marco especialmente útil para replantear la cuestión. La cuestión no es únicamente el uso de inteligencia artificial, sino la posibilidad de reconstruir el proceso. La transparencia deja de ser una exigencia formal para convertirse en una condición de posibilidad de la confianza en el sistema. Lo significativo de su propuesta es que no se centra en la autoría, sino en la documentación. Documentar implica preservar la trazabilidad del proceso: saber qué se ha hecho, cómo y con qué intervención de sistemas. Divulgar implica hacer visible, de forma proporcionada, el papel de la inteligencia artificial en el resultado final.

Trasladado a la evaluación universitaria a la que antes me refería, esto obliga a replantear el punto de partida. El problema no es si el estudiante utiliza o no inteligencia artificial, sino que el sistema de evaluación no incorpora mecanismos suficientes para reconstruir el proceso que conduce al resultado. Sigue operando como si ese proceso fuera transparente por defecto. Y ya no lo es. La analogía con las citas permite verlo con claridad. Igual que la literatura científica no puede confiar en la validez de una referencia por su mera apariencia formal, la universidad no puede inferir la calidad del razonamiento a partir de la corrección del resultado. En ambos casos, el sistema mantiene sus criterios de validación, pero el entorno en el que se produce el conocimiento ha cambiado.

Desde aquí, la cuestión deja de ser tecnológica y pasa a ser institucional. No se trata de limitar el uso de herramientas, sino de redefinir las condiciones bajo las cuales el conocimiento puede considerarse verificable. Esto introduce, además, una dimensión que conecta con categorías jurídicas. Si el conocimiento se produce en entornos híbridos, la imputación no puede descansar únicamente en la autoría formal. Es necesario poder reconstruir el proceso. La documentación actúa aquí como equivalente funcional de la prueba: permite validar que el resultado responde a una secuencia de decisiones identificable y consistente.

Si la cita deja de garantizar el acceso a la fuente y la evaluación deja de garantizar el acceso al proceso, el sistema sigue produciendo resultados, pero pierde progresivamente su capacidad de verificación. Y esa pérdida no se percibe de inmediato, porque la forma se mantiene intacta. El problema, por tanto, no es la aparición de errores aislados, sino la insuficiencia de los mecanismos tradicionales de validación en un entorno donde la plausibilidad formal puede sustituir, sin fricción, a la existencia y al proceso. En este contexto, la trazabilidad deja de ser un requisito metodológico para convertirse en una condición estructural del conocimiento verificable. No es una mejora del sistema, sino el presupuesto necesario para que siga siendo reconocible como tal.

Contenido protegido. No autorizado su uso para entrenamiento de sistemas de inteligencia artificial sin autorización expresa.