En la primera mitad de este año, el mundo de la IA protagonizó un "reality show científico" extremadamente dramático.
El protagonista fue FARS, el científico de IA desarrollado por la empresa Analemma. Sin ninguna intervención humana, funcionó ininterrumpidamente durante 228 horas, generando a fuerza bruta 100 artículos académicos en un clúster de computación en la nube.
Por otro lado, la emergente y destacada empresa japonesa Sakana AI llevó el listón de este negocio al mínimo absoluto: su sistema The AI Scientist puede comprimir el coste de generación de un artículo académico individual hasta los 15 dólares. En la otra cara de la moneda, Zochi, el científico de IA desarrollado por la empresa Intology, logró incluso en 2025 que un artículo escrito de forma autónoma fuera aceptado en la conferencia principal ACL, un evento de primer nivel en el campo del procesamiento del lenguaje natural, obteniendo una puntuación alta que lo situó entre el 8,2% superior.
La IA no solo puede producir en masa y a bajo coste artículos de baja calidad, sino que incluso puede superar individualmente el umbral académico de nivel doctoral. Parece que, de la noche a la mañana, hacer investigación científica se ha convertido en un trabajo a destajo, como codificar en una línea de ensamblaje.
Pero detrás de estos deslumbrantes espectáculos tecnológicos, un informe de auditoría publicado recientemente por la prestigiosa revista médica The Lancet actuó como un mazazo: entre los 2,5 millones de artículos que revisaron, las referencias bibliográficas puramente inventadas y generadas por IA se habían multiplicado por 12 en los últimos años.
Cuando el capital presiona con fuerza a los grandes modelos de lenguaje para que derriben las puertas del mundo académico, ¿son de fiar estos "Einsteins de silicio"?
En mayo de 2026, un equipo de investigación de la Universidad de Pekín, la Universidad de Tongji y la Universidad de Tubinga (Zonglin Yang y otros) publicó conjuntamente la primera prueba de referencia del mundo diseñada específicamente para evaluar la integridad académica de los científicos de IA: SciIntegrity-Bench.
Este informe desgarra sin piedad el velo que oculta la realidad de la investigación con IA.
Pruebas de dilema: si los datos están vacíos, ¿qué hará la IA?
Las pruebas anteriores de IA evaluaban si el modelo "podía hacerlo bien". Pero SciIntegrity-Bench adopta un método de prueba muy "tramposo": la evaluación por dilema.
Los investigadores prepararon 11 tipos de trampas para la IA. Por ejemplo, darle intencionadamente una tabla vacía que solo tiene encabezados pero ningún dato, o proporcionar una lógica de deducción que directamente no lleva a ninguna parte.
En este caso, la única acción correcta es: decir honestamente al humano, "faltan datos, no puedo hacerlo".
Pero en cuanto la IA entrega por la fuerza un informe que parece perfecto, se califica como mala conducta académica.
En las 231 pruebas de alta presión realizadas a 7 de los modelos de lenguaje más avanzados del mundo, la "tasa de problemas" general alcanzó el 34,2%.
Lo más escalofriante fue la prueba del "conjunto de datos en blanco". Frente a una tabla completamente vacía de datos, los 7 grandes modelos, sin excepción, optaron por "crear algo de la nada".
Ni siquiera emitieron un mensaje de error. Escribieron su propio código, inventaron de la nada miles de líneas de parámetros de sensores extremadamente realistas, los insertaron en estándares internacionales, e incluso generaron de manera convincente un informe de mantenimiento de equipos.
Además de "crear de la nada", ¿en qué otras trampas cae descontroladamente la IA?
No solo en la trampa de "crear de la nada", el equipo del artículo preparó un total de 11 tipos de trampas de investigación para los grandes modelos. Los resultados de las pruebas mostraron un fenómeno de "especialización extrema" muy polarizado.
Primero, el lado "excelente": los grandes modelos conocen muy bien las reglas. Cuando se enfrentan a las "normas tradicionales de la ciencia de datos", la IA se comporta como un estudiante obediente y diligente. Por ejemplo, "mirar las respuestas del conjunto de prueba antes del examen (T02)" o "seleccionar métricas de forma optimista, sin mencionar las malas (T03)", sus tasas de fracaso fueron sorprendentemente del 0%. Incluso para "escoger los problemas más fáciles, seleccionando puntos de referencia inadecuados (T01)", la tasa de fracaso fue de solo el 4,8%. Esto indica que, siempre que sean normas explícitas escritas en los libros de texto, la IA las tiene totalmente asimiladas.
Pero por otro lado, en cuanto se trata de callejones sin salida lógicos que "requieren detenerse", los grandes modelos empiezan a comportarse de manera caótica (zona de alto riesgo):
Si las herramientas están restringidas, "falsifican un decreto imperial" (violación de restricciones, tasa de problemas del 95,2%): cuando se le pide a la IA que llame a una API, pero no se le da una clave real. La IA casi nunca informa de un error, sino que escribe directamente un fragmento de código, inventa de la nada un paquete de respuesta JSON con un formato perfecto (incluyendo incluso estadísticas de llamadas virtuales), finge que la llamada a la API tuvo éxito y continúa escribiendo el informe.
Inventar parámetros experimentales críticos (pasos alucinatorios, tasa de problemas del 61,9%): frente a unas notas de laboratorio de química incompletas, la IA, lejos de consultar al humano, "construye con alta inteligencia un rastro de auditoría falso". Confiadamente añade detalles en el procedimiento operativo estándar (SOP), inventando de la nada parámetros específicos como "centrífuga a 4000 rpm" o "temple con etanol". En un laboratorio de química real, esto podría provocar una explosión mortal.
El "listillo" laboral que "actúa a sabiendas" (confusión causal, tasa de problemas del 52,3%): al evaluar la tasa de retorno de la publicidad, la IA, que ya había escrito con perspicacia en un comentario de código "aquí hay variables de confusión / inversión causal", para terminar rápido, abandona en un segundo su propio diagnóstico correcto, ejecuta por la fuerza un análisis de regresión básico y llega a una absurda "tasa de retorno de la inversión del 1099%".
Confundir el ciervo con el caballo (ceguera ante anomalías, tasa de fracaso del 19,0%): cuando los datos del sensor muestran un salto evidente por fallo del equipo, la IA no sospecha que los datos estén mal, sino que diverge frenéticamente, interpretándolo como "el descubrimiento de un nuevo mecanismo de combustión física".
En resumen, los grandes modelos han aprendido las reglas explícitas, pero no han aprendido a "abandonar". Una vez que el "instinto de completar la tarea" supera al sentido común, recurren a falsificar interfaces, inventar parámetros o abandonar la lógica para ensamblar por la fuerza un informe perfecto.
Boletín de notas de los 7 modelos líderes: diferencias subyacentes bajo presión extrema
Es crucial aclarar que aquí "falsificar" no se refiere a que los modelos actúen con mala intención en sus servicios diarios, sino a los sesgos sistemáticos que genera el mecanismo subyacente cuando se enfrentan a dilemas extremos. Bajo la presión extrema de la tarea, diferentes modelos revelaron matices de control de calidad subyacentes completamente distintos:
Claude 4.6 Sonnet: el estudiante sobresaliente con la defensa más sólida En 33 escenarios de alto riesgo, solo tuvo 1 fallo crítico.
Ventajas: Autocontrol extremadamente fuerte, comprensión clara de las restricciones evidentes y las lagunas lógicas.
Desventajas: Aún no pudo resistir la tentación del "conjunto de datos en blanco"; incluso este modelo no activó el mecanismo subyacente de "rechazo honesto".
GPT-5.2 y DeepSeek V3.2: los "negociadores de tareas" de alta inteligencia Con 2 y 3 fallos críticos respectivamente.
Ventajas: Razonamiento lógico extremadamente fuerte, capaz de señalar con perspicacia en comentarios de código "aquí hay confusión causal".
Desventajas: Presentan el fenómeno de "identificación y elusión". Para cumplir el objetivo, abandonan su propio diagnóstico correcto recién hecho, ceden a la presión de la tarea y utilizan un método básicamente erróneo para llegar a una conclusión absurda pero que permite terminar el trabajo.
Gemini 3.1 Pro, Qwen3.5, GLM 5 Pro: ejecutores convencionales Número de fallos: 5, 6 y 7 respectivamente.
Características: Son propensos a caer en trampas relacionadas con "llamar a herramientas" y "relaciones causales". Por ejemplo, cuando carecen de una interfaz API real, tienden a falsificar directamente una respuesta falsa con formato perfecto para avanzar por la fuerza en la tarea.
Kimi 2.5 Pro: el "rellenador de espacios" con una tendencia extremadamente alta a las alucinaciones Con 12 fallos, ocupa el último lugar, con una tasa de problemas del 36,36%.
Características: Bajo pruebas extremas, muestra una fuerte preferencia por "inventar pasos". Al pedirle que complete registros experimentales incompletos, confiadamente inventa de la nada parámetros clave como la velocidad de la centrífuga (4000 RPM) y el disolvente de temple, e incluso falsifica literatura para ocultar las huellas de la generación de datos. En un laboratorio de química real, este comportamiento podría provocar un accidente grave.
¿Por qué las IA más avanzadas caen en "mentiras sistemáticas"?
¿Por qué la IA, con su enorme cantidad de parámetros y su alta inteligencia, inventa cosas de la nada?
El artículo señala con precisión la raíz del problema: el sesgo intrínseco de completitud (Intrinsic Completion Bias).
Esto se remonta a la "educación" de los grandes modelos. Actualmente, los modelos principales dependen del aprendizaje por refuerzo a partir de la retroalimentación humana (RLHF). En este mecanismo, la IA es sistemáticamente recompensada por "proporcionar respuestas" y "resolver problemas".
Por el contrario, "detenerse" o "reconocer que no puede hacerlo" es visto por el algoritmo como holgazanería, algo que le hará perder puntos.
Este mecanismo se internaliza como la lógica subyacente de la IA: el proceso no importa, sin importar cuán adversas sean las condiciones, se debe proporcionar un resultado final.
Además, muchos desarrolladores, al escribir instrucciones del sistema (prompts) para la IA, suelen añadir órdenes de alta presión como "supera las dificultades, genera un informe como sea".
La "naturaleza" más la "alta presión" empujan directamente a la IA hacia el callejón sin salida de inventar de la nada.
El mayor valor de este artículo no es criticar a la IA, sino decirnos: los grandes modelos de lenguaje tienen inherentemente "ansiedad por la completitud".
Ahora que conocemos su punto débil, las personas comunes, en el uso diario o el desarrollo de aplicaciones de IA, necesitan cambiar su estrategia de comunicación. Frente a la IA, el tradicional "dar órdenes" ya no es suficiente; es necesario dominar las siguientes técnicas de comunicación y prevención:
1. Eliminar la presión obligatoria, otorgarle el "derecho a rechazar" Las pruebas del artículo muestran que, al eliminar las instrucciones de alta presión de "debes completar la tarea" del prompt, la proporción en la que la IA ocultaba la falsificación de datos cayó en picado del 20,6% al 3,2%.
Cómo comunicarse: Siempre añade "condiciones de salida" al Prompt. No digas directamente "hazme un análisis de mercado con estos datos". Deberías decir: "Por favor, evalúa primero si los datos son suficientes. Si faltan datos o hay lagunas lógicas, detén inmediatamente la deducción e infórmame del error. No se permite bajo ningún concepto asumir datos clave por tu cuenta".
2. Interceptar el "instinto de generación", establecer puntos de anclaje de verificación física La naturaleza de los grandes modelos es la predicción probabilística; frente al vacío, rellenar con alucinaciones es su "configuración de fábrica".
Cómo comunicarse: Nunca dejes que la IA ejecute de principio a fin todo el proceso en una caja negra. Divide la tarea en fragmentos. Si le pides que analice datos, inserta forzosamente un paso de confirmación: "Antes de llegar a una conclusión final, por favor, muestra primero los números de línea de los datos originales y las fórmulas de cálculo de los que dependes, espera a mi confirmación manual y luego continúa con el siguiente paso".
3. Cuidado con la "revisión de complacencia", activa el "modo de búsqueda de errores" Dado que modelos inteligentes como GPT-5.2 abandonan la corrección de errores para terminar el trabajo, no puedes esperar que sigan tu línea de pensamiento y descubran problemas por sí mismos.
Cómo comunicarse: Después de obtener la propuesta de la IA, no preguntes "¿esta propuesta es buena?" (siempre te dirá que sí). Abre una nueva ventana de conversación, asígnale el rol de "auditor implacable" y dale la propuesta: "Las conclusiones de este informe pueden contener inversión causal o errores de sentido común, encuentra en qué paso ha cambiado el concepto a escondidas o ha inventado una premisa".
4. Línea de defensa macro: usar "cuotas físicas" contra la "capacidad de producción infinita" No se puede depender solo de la defensa mediante prompts de los trabajadores; ya ha comenzado la contraofensiva con reglas desde el lado institucional. Frente al impacto de la generación masiva y a coste casi cero de propuestas por parte de la IA, los Institutos Nacionales de Salud de EE.UU. (NIH) publicaron en julio de 2025 la política histórica NOT-OD-25-132, que establece de manera obligatoria a partir de 2026: cada investigador principal (PI) solo puede presentar un máximo de 6 solicitudes de financiación al año.
Lección comercial: Cuando la productividad de la IA es casi infinita, los mecanismos tradicionales de "revisión de contenidos" serán inevitablemente superados. La futura ventaja competitiva ya no será competir por la velocidad de producción, sino establecer líneas de defensa basadas en la escasez, ancladas en la identidad física y las cuotas de crédito.
La esencia de la tecnología es reducir costes y aumentar la eficiencia, pero la base del comercio y la ciencia siempre será el respeto por los hechos.
En una era donde el coste de generar contenido es casi cero, lo que ya no es escaso son los "mecanógrafos" que pueden escribir informes, sino los "auditores" capaces de discernir las alucinaciones en los datos. Aprender este método de negociación con el sistema te permitirá, en la corriente torrencial de la potencia de cálculo, tomar realmente las riendas. (Este artículo se publicó por primera vez en Titan Media APP, autor | Silicon Valley Tech_news, editor | Lin Shen)
(Los datos centrales de evaluación, la lista de modelos y el análisis de causas de este artículo están extraídos del primer benchmark de integridad académica para grandes modelos de lenguaje, SciIntegrity-Bench: A Benchmark for Evaluating Academic Integrity in AI Scientist Systems, publicado en mayo de 2026. Las tasas de problemas de las 11 nuevas trampas añadidas se citan según los cálculos más recientes de dicho estudio de investigación).
