No, la IA no es una mente rival. Es una extensión de la nuestra

Los sistemas modernos de IA escriben ensayos, generan código y mantienen conversaciones fluidas. Sin embargo, tropiezan en tareas que los humanos consideran triviales: rastrear objetos a través del cambio, razonar composicionalmente en contextos desconocidos o distinguir la verdad de la ficción plausible. Estas contradicciones han alimentado debates polarizados. Algunos ven formas tempranas de inteligencia similar a la humana; otros descartan los sistemas como un autocompletado sofisticado.

Un creciente cuerpo de trabajo interdisciplinario, incluyendo El punto ciego de Adam Frank, Marcelo Gleiser y Evan Thompson, y La falacia de la abstracción de Alexander Lerchner, investigador de DeepMind, apunta a un enfoque diferente. En lugar de preguntarse si la IA se está volviendo inteligente en el sentido humano, estos enfoques plantean una cuestión más fundamental: ¿y si los sistemas de IA funcionan porque se basan en estructuras arraigadas en la cognición humana?

El sedimento del lenguaje

En un artículo reciente, Los orígenes de la inteligencia artificial en la inteligencia natural, los investigadores sostienen que los sistemas modernos de IA se entienden mejor ni como mentes humanas ni como trucos estadísticos triviales. En cambio, extienden estructuras que se originan en la cognición humana misma. Basándose en la fenomenología de Edmund Husserl, el artículo propone que el lenguaje ya contiene estructuras sedimentadas de la comprensión humana, estructuras que los sistemas de IA aprenden a modelar y extender.

La percepción humana, señalan los autores, no es una recepción pasiva de datos sensoriales. Experimentamos el mundo como cosas estables que se despliegan a través del cambio: una taza sigue siendo la misma taza a medida que nos movemos a su alrededor; una melodía sigue siendo reconocible incluso cuando las notas individuales desaparecen. El lenguaje surge al expresar estas estructuras estables en forma conceptual. Palabras como “rojo”, “redondo” o “más grande que” articulan relaciones que se originan en la experiencia vivida.

Los grandes modelos de lenguaje aprenden relaciones estadísticas dentro de este mundo lingüístico. Capturan cómo los conceptos tienden a relacionarse a través de enormes corpus de escritura humana. Esto explica por qué los sistemas de IA pueden producir respuestas coherentes en muchos dominios. Pero también explica por qué alucinan. Los humanos siguen siendo responsables ante el mundo: la experiencia corrige continuamente nuestras expectativas y creencias. Los sistemas de IA, por el contrario, extienden patrones dentro del propio texto. Pueden continuar una línea de razonamiento con una fluidez notable, pero carecen del compromiso vivido con el mundo que ancla el significado y la verdad.

La brecha de composicionalidad

Este marco ayuda a explicar varios desafíos recurrentes en la investigación de la IA. Uno es la “brecha de composicionalidad”, la tendencia de los modelos de lenguaje a desempeñarse bien en patrones de razonamiento familiares mientras fallan cuando se les pide combinar conceptos de maneras genuinamente novedosas. La investigación muestra cada vez más que los modelos más grandes mejoran la fluidez y el recuerdo de hechos mucho más rápido de lo que mejoran el razonamiento composicional verdadero. Desde esta perspectiva, esto no es simplemente una limitación de ingeniería, sino un límite estructural: los sistemas de IA pueden extender patrones ya sedimentados en el lenguaje, pero no poseen la comprensión orientada al mundo que permite a los humanos generar relaciones conceptuales genuinamente nuevas.

Un patrón similar aparece en los sistemas multimodales que combinan lenguaje y visión. Estos sistemas a menudo pueden etiquetar imágenes correctamente mientras aún fallan en el razonamiento sólido sobre objetos y sus partes. Aprenden correlaciones entre patrones visuales y lenguaje en lugar de percibir objetos estables que se despliegan a través del tiempo como lo hacen los humanos. El resultado son sistemas que pueden parecer impresionantemente fluidos mientras siguen siendo sorprendentemente frágiles fuera de los patrones familiares.

Seguridad como diseño de sistema

Esta perspectiva replantea los debates sobre la seguridad de la IA. La discusión pública a menudo oscila entre los temores de una “superinteligencia rebelde” y las afirmaciones de que la IA plantea poco riesgo significativo. El artículo sugiere que ambos extremos malinterpretan la naturaleza de los sistemas actuales. Los riesgos más inmediatos surgen no porque la IA posea intenciones similares a las humanas, sino porque puede extender patrones de razonamiento sin responsabilidad reflexiva hacia el mundo. Los sistemas pueden generar resultados persuasivos pero infundados, automatizar decisiones defectuosas a gran escala, o ejecutar acciones dañinas si se integran en entornos mal gobernados.

Esto se alinea con un cambio en la industria, de la seguridad del modelo a la seguridad del sistema. En la práctica, las organizaciones ya dependen de salvaguardas en capas, lo que la industria denomina cada vez más “arneses”, para restringir, validar y monitorear el comportamiento de la IA. Más que parches temporales, el artículo argumenta que estos mecanismos reflejan algo fundamental sobre la propia arquitectura de la IA: el comportamiento confiable surge del trabajo de los constructores de sistemas de IA responsables de su comportamiento, una responsabilidad que no puede delegarse ni compartirse con los modelos.

Más allá de la rivalidad

Mirando hacia el futuro, los autores sostienen que la fenomenología ofrece más que una crítica; ofrece un marco para comprender la promesa de la IA. Los sistemas de IA revelan algo profundo sobre la cognición humana misma: que el significado puede formalizarse, extenderse y escalarse de maneras nuevas y poderosas. El riesgo social central de la IA, sostienen, resulta ser patear la escalera de sus orígenes en la experiencia y cognición humanas, malinterpretar la IA como una inteligencia rival que disminuye nuestra humanidad y, por lo tanto, a su vez, disminuye la verdadera promesa de la propia IA.

La pregunta, entonces, no es si la IA reemplazará la inteligencia humana. Es cómo podemos construir sistemas responsables que extiendan la comprensión humana mientras permanecen arraigados en el mundo del que surge esa comprensión. Si confundimos los sistemas de IA con mentes autónomas, corremos el riesgo de confiar demasiado en ellos. Si los descartamos como trucos triviales, corremos el riesgo de pasar por alto uno de los desarrollos tecnológicos más importantes de nuestro tiempo. Una interpretación más fundamentada reconoce ambas verdades a la vez: la IA es una extensión genuina de la inteligencia humana, y precisamente por eso, los humanos siguen siendo responsables de cómo se entiende, gobierna y utiliza.