No estamos evaluando bien la inteligencia artificial

By Adriana Páez Pino Una reflexión sobre un problema que empieza a crecer con la inteligencia artificial. No solo cambia lo que produce, también la forma en que empezamos a evaluarlo. Cuando un resultado llega bien escrito, convincente y con apariencia de solidez, también se mueve el umbral con el que decidimos qué aceptar como válido en el trabajo.

Esta semana me encontré leyendo sobre un libro que fue retirado antes de publicarse por una sospecha: que había sido escrito, en gran parte, con inteligencia artificial.

Más allá de si esa sospecha era cierta o no, lo que me dejó pensando fue otra cosa. La rapidez con la que hoy empezamos a cuestionar la autoría y, al mismo tiempo, la poca claridad que todavía tenemos para evaluar lo que produce la IA.

En Descubriendo la IA en el trabajo esta pregunta ha aparecido varias veces, pero ahora se vuelve más incómoda: no sabemos bien cómo evaluar lo que la IA produce, y aun así ya estamos tomando decisiones con base en ello. Y ahí, creo, empieza uno de los problemas más serios de esta etapa.

El problema no es solo producir contenido

El caso del libro no abre únicamente una discusión sobre si una persona usó o no inteligencia artificial para escribir. Lo que deja al descubierto es algo más incómodo

todavía no tenemos un criterio sólido para evaluar lo que la IA produce.

Hoy conviven detectores de contenido generado con IA, impresiones sobre cómo “debería sonar” un texto humano y juicios que muchas veces descansan más en intuiciones que en procesos consistentes. Nada de eso ofrece una certeza plena y, aun así, ya se están tomando decisiones importantes con base en ello.

Ahí está el punto que me interesa.

No porque la tecnología esté fallando necesariamente, sino porque el proceso con el que estamos validando sus resultados sigue siendo frágil. Y cuando no hay claridad en la evaluación, lo que pesa no es un estándar compartido, sino una percepción.

Algo “parece humano”. Algo “suena artificial”. Algo “se siente extraño”.

Pero decidir desde esa ambigüedad no es menor. Lo que está en juego no es solo una pieza de contenido. Es la forma en que empezamos a construir confianza en esta nueva etapa.

La IA también está cambiando nuestro umbral de exigencia

Durante mucho tiempo, una idea dejaba ver su proceso. Había que organizarla, desarrollarla, argumentarla y sostenerla. Ese recorrido no solo permitía evaluar lo que se decía, sino también la consistencia del pensamiento que había detrás. En muchos casos, justamente ahí estaba la diferencia entre una idea apenas correcta y una idea verdaderamente sólida.

Con la inteligencia artificial, ese proceso se vuelve menos visible. Hoy aparecen textos bien escritos, ordenados y convincentes desde el primer borrador. Y eso cambia algo de fondo. No necesariamente porque haya más profundidad, sino porque la forma llega resuelta antes que el pensamiento.

Ese cambio parece menor, pero no lo es. Poco a poco dejamos de preguntarnos cómo se construyó una idea y empezamos a concentrarnos en si suena bien, si convence o si parece suficiente. El problema es que un texto puede estar bien armado y, aun así, no estar bien pensado. Puede tener estructura, tono y coherencia, y aun así no haber pasado por el nivel de contraste que antes exigíamos casi de manera natural.

Ahí es donde el criterio empieza a ceder sin que lo advirtamos. No porque nos hayamos vuelto menos exigentes de manera deliberada, sino porque la IA eleva la forma de entrada y eso modifica el punto desde el cual evaluamos. Lo que antes pedía revisión, contraste o mayor elaboración, ahora puede empezar a aceptarse antes de tiempo simplemente porque llega mejor presentado.

Y ese desplazamiento importa. Porque cuando cambia, aunque sea de manera silenciosa, lo que estamos dispuestos a dar por válido, también cambia el nivel de exigencia con el que pensamos, leemos y decidimos.

El riesgo no es técnico, es de validación

Por eso, el punto de fondo no es si la IA redacta, resume o estructura mejor. Tampoco si debemos usarla o no. La pregunta más relevante empieza a ser otra:cómo estamos validando lo que produce.

Porque cuando esa respuesta no está clara, las decisiones no se detienen. Se publica, se aprueba, se comparte, se rechaza o se retira. Y en ese movimiento no solo se resuelve un caso puntual. También se va instalando una manera de decidir.

Ahí es donde veo el riesgo más serio.

Un resultado puede verse coherente, sonar convincente y cumplir con lo esperado en la superficie. Y eso empieza a bastar, incluso cuando no tenemos claridad suficiente sobre su origen, su calidad real o el proceso que hubo detrás.

En ese punto, el problema deja de ser solamente tecnológico. Empieza a tocar algo más profundo:

el estándar con el que aceptamos, cuestionamos o damos por bueno un resultado.

Y eso va mucho más allá de un libro. Aplica a informes, decisiones laborales, contenidos, diagnósticos, recomendaciones y análisis que cada vez más personas empiezan a recibir, revisar o usar con apoyo de IA.

Tal vez el verdadero cambio está en cómo decidimos

Lo que dejan estos casos no es solo una advertencia sobre la inteligencia artificial. Dejan una incomodidad más profunda sobre nosotros y sobre la manera en que empezamos a evaluar, aceptar o descartar lo que esta tecnología produce.

Porque cuando no está claro cómo se construyó un resultado y, aun así, lo validamos o lo rechazamos con seguridad, no solo estamos resolviendo un caso puntual. También estamos ajustando el estándar con el que vamos a tomar las siguientes decisiones.

Y ese ajuste casi nunca se nota de inmediato. Se instala poco a poco, en aquello que empezamos a considerar suficiente, confiable o aceptable sin revisar demasiado.

Por eso, más que detenernos únicamente en la herramienta, quizás conviene mirar con más honestidad la forma en que estamos decidiendo con ella. No solo por lo que hoy produce, sino por lo que puede ir modificando silenciosamente en nuestra manera de leer, evaluar y dar algo por válido.

Porque si algo empieza a importarnos menos no es solo cómo se produjo un resultado, sino qué tan rápido estamos dispuestos a aceptarlo, la pregunta deja de ser técnica y se vuelve profesional.

¿Estamos ajustando demasiado rápido lo que damos por válido cuando usamos inteligencia artificial en el trabajo?