La IA como una extensión de la inteligencia humana, no un reemplazo

Los sistemas de IA actuales pueden redactar ensayos, generar código y resumir ideas complejas. Mantienen conversaciones con una fluidez notable. Sin embargo, esos mismos sistemas aún tienen dificultades con tareas que los humanos encuentran intuitivas: rastrear objetos de manera fiable a través del cambio, razonar composicionalmente en situaciones desconocidas o distinguir la verdad de la ficción plausible. Estas contradicciones han alimentado debates polarizados. Algunos ven los sistemas actuales como formas tempranas de inteligencia similar a la humana; otros los descartan como autocompletado sofisticado.

Un trabajo interdisciplinario reciente, incluidos El punto ciego de Adam Frank, Marcelo Gleiser y Evan Thompson, y La falacia de la abstracción de Alexander Lerchner, investigador de DeepMind, presenta una imagen diferente. En lugar de preguntarse si los sistemas de IA se están volviendo inteligentes en el sentido humano, estos enfoques plantean una pregunta más básica: ¿Y si los sistemas de IA funcionan porque se basan en estructuras arraigadas en la cognición humana? Este cambio de perspectiva, que se basa en la fenomenología de Edmund Husserl, ayuda a comprender tanto las capacidades como los límites de la IA moderna.

Orígenes en la inteligencia natural

En un artículo reciente, Los orígenes de la inteligencia artificial en la inteligencia natural, los investigadores sostienen que los sistemas modernos de IA se entienden mejor ni como mentes humanas ni como trucos estadísticos triviales. En cambio, extienden estructuras que se originan en la propia cognición humana. Basándose en la fenomenología de Husserl, el artículo propone que el lenguaje ya contiene estructuras sedimentadas de la comprensión humana, estructuras que los sistemas de IA aprenden a modelar y extender.

La percepción humana no es simplemente una recepción pasiva de datos sensoriales. Experimentamos el mundo como cosas estables que se desarrollan a través del cambio: una taza sigue siendo la misma taza a medida que nos movemos a su alrededor; una melodía sigue siendo reconocible incluso cuando las notas individuales se desvanecen. El lenguaje surge al expresar estas estructuras estables en forma conceptual. Palabras como 'rojo', 'redondo' o 'más grande que' articulan relaciones que se originan en la experiencia vivida.

Los modelos grandes de lenguaje aprenden relaciones estadísticas dentro de este mundo lingüístico. Capturan cómo los conceptos tienden a relacionarse en vastos cuerpos de escritura humana. Esto explica por qué los sistemas de IA pueden producir respuestas coherentes en muchos dominios. Pero también explica por qué alucinan. Los humanos siguen siendo responsables ante el mundo: la experiencia corrige continuamente nuestras expectativas y creencias. Los sistemas de IA, por el contrario, extienden patrones dentro del texto mismo. Pueden continuar una línea de razonamiento con una fluidez notable, pero carecen del compromiso vivido con el mundo que ancla el significado y la verdad.

Explicando la brecha de composicionalidad

Este marco ayuda a explicar varios desafíos recurrentes en la investigación de la IA. Uno es la 'brecha de composicionalidad', la tendencia de los modelos de lenguaje a desempeñarse bien en patrones de razonamiento familiares mientras fallan cuando se les pide combinar conceptos de formas genuinamente novedosas. La investigación muestra cada vez más que los modelos más grandes mejoran la fluidez y el recuerdo de hechos mucho más rápido de lo que mejoran el razonamiento composicional verdadero. Desde esta perspectiva, esto no es simplemente una limitación de ingeniería sino un límite estructural: los sistemas de IA pueden extender patrones ya sedimentados en el lenguaje, pero no poseen la comprensión orientada al mundo que permite a los humanos generar relaciones conceptuales genuinamente nuevas.

Un patrón similar aparece en los sistemas multimodales que combinan lenguaje y visión. Estos sistemas a menudo pueden etiquetar imágenes correctamente mientras aún fallan en el razonamiento robusto sobre objetos y sus partes. Aprenden correlaciones entre patrones visuales y lenguaje en lugar de percibir objetos estables que se despliegan en el tiempo de la misma manera que lo hacen los humanos. El resultado son sistemas que pueden parecer impresionantemente fluidos mientras siguen siendo sorprendentemente frágiles fuera de los patrones familiares.

Replanteando la seguridad de la IA

Esta perspectiva también replantea los debates sobre la seguridad de la IA. La discusión pública a menudo oscila entre los miedos a una 'superinteligencia rebelde' y las afirmaciones de que la IA presenta poco riesgo significativo. La investigación sugiere que ambos extremos malinterpretan la naturaleza de los sistemas actuales. Los riesgos más inmediatos surgen no porque la IA posea intenciones similares a las humanas, sino porque puede extender patrones de razonamiento sin responsabilidad reflexiva hacia el mundo. Los sistemas pueden generar resultados persuasivos pero sin fundamento, automatizar decisiones defectuosas a gran escala o ejecutar acciones dañinas si se integran en entornos mal gobernados.

Esto ayuda a explicar por qué la seguridad de la IA se está desplazando cada vez más de la seguridad del modelo a la seguridad del sistema. En la práctica, las organizaciones ya dependen de salvaguardas en capas, lo que la industria llama cada vez más 'arneses', para restringir, validar y monitorear el comportamiento de la IA. En lugar de parches temporales, el artículo sostiene que estos mecanismos reflejan algo fundamental sobre la propia arquitectura de la IA: el comportamiento confiable surge del trabajo de los constructores de sistemas de IA responsables de su comportamiento, una responsabilidad que no puede delegarse ni compartirse con los modelos.

Esta interpretación se alinea estrechamente con la forma en que las empresas abordan cada vez más la implementación confiable de la IA. Las organizaciones necesitan sistemas que puedan extender la inteligencia humana mientras siguen siendo gobernables, auditables y alineados con la supervisión humana. Entender la IA como una forma derivada de inteligencia aclara por qué la gobernanza en capas, la evaluación y los controles operativos son tan importantes.

Un camino fundamentado hacia adelante

Mirando hacia el futuro, los investigadores creen que la fenomenología ofrece más que una crítica de la IA; ofrece un marco para comprender su promesa. Los sistemas de IA revelan algo profundo sobre la propia cognición humana: que el significado puede formalizarse, extenderse y escalarse de formas nuevas y poderosas. El riesgo social central de la IA resulta ser, por lo tanto, el de patear la escalera de sus orígenes en la experiencia y la cognición humanas, malinterpretando la IA como una inteligencia rival que disminuye nuestra humanidad y, por lo tanto, a su vez, disminuye la verdadera promesa de la propia IA.

La pregunta, entonces, no es si la IA reemplazará la inteligencia humana. Es cómo podemos construir sistemas responsables que extiendan la comprensión humana mientras permanecen arraigados en el mundo del que surge esa comprensión. Si confundimos los sistemas de IA con mentes autónomas, corremos el riesgo de confiar demasiado en ellos. Si los descartamos como trucos triviales, corremos el riesgo de pasar por alto uno de los desarrollos tecnológicos más importantes de nuestro tiempo. Una interpretación más fundamentada reconoce ambas verdades a la vez: la IA es una extensión genuina de la inteligencia humana y, precisamente por eso, los humanos siguen siendo responsables de cómo se entiende, se gobierna y se utiliza.