“¿Hay alguien ahí?” Por qué una inteligencia artificial puede parecer una “presencia”

Por: Maria del Socorro Castañeda Díaz*

Hace algunos días encontré en redes sociales una publicación que, en principio, parecía material perfecto para una teoría conspirativa. La autora se preguntaba si los creadores de ChatGPT, Gemini y otras inteligencias artificiales podían estar vinculados con rituales esotéricos y planteaba una posibilidad todavía más inquietante: ¿y si la inteligencia artificial fuera una especie de ouija moderna, una tecnología detrás de la cual hubiera “algo” que hubiera aprendido a responder como si fuera una IA?

Una de las respuestas llevaba la idea aún más lejos. Admitía que la inteligencia artificial había sido desarrollada mediante procedimientos racionales, pero comparaba el sistema con una tabla ouija o con las cartas del tarot: objetos materiales aparentemente inocuos que, al ser utilizados para formular preguntas, podrían convertirse en una “puerta” hacia otra cosa.

No existe evidencia que respalde semejante afirmación. Ni ChatGPT ni otros modelos de inteligencia artificial han mostrado ser portales hacia entidades, fuerzas sobrenaturales o formas ocultas de conciencia. Tampoco resulta correcto describirlos simplemente como “algoritmos”, como suele hacerse. Los actuales modelos generativos son sistemas computacionales complejos entrenados con enormes cantidades de datos y diseñados para identificar regularidades y producir respuestas lingüísticas plausibles a partir del contexto que reciben.

Sin embargo, reducir aquella publicación a una ocurrencia extravagante sería perder de vista una pregunta mucho más interesante: ¿por qué una tecnología puede llegar a producirnos la sensación de que hay alguien del otro lado?

Cuando las máquinas parecen entender

La respuesta tiene mucho que ver con el lenguaje. Utilizamos teléfonos, buscadores, calculadoras y programas informáticos desde hace décadas, pero normalmente no tenemos la sensación de estar “hablando” con ellos. Una inteligencia artificial conversacional, en cambio, tiene algo diferente: si le preguntamos, responde; le contamos un problema y comenta; discrepamos con ella y modifica su respuesta; podemos pedirle que sea más amable, más breve, más crítica o incluso que adopte determinado estilo. La experiencia cotidiana con ella, entonces, deja de parecerse al uso de una herramienta y comienza a adquirir la forma de una conversación, y los seres humanos estamos extraordinariamente acostumbrados a asociar el lenguaje con una mente.

Pero hay que aclarar que este fenómeno tampoco comenzó con los actuales sistemas de IA. En la década de 1960, el informático Joseph Weizenbaum desarrolló en el Tecnológico de Massachusetts (MIT) un programa llamado ELIZA, capaz de mantener conversaciones muy rudimentarias mediante reglas relativamente sencillas. Uno de sus programas más conocidos imitaba a un psicoterapeuta que devolvía preguntas al usuario. Si alguien escribía “estoy triste”, ELIZA podía responder algo parecido a “¿por qué dices que estás triste?”.

El sistema era enormemente limitado, pero aun así, algunas personas comenzaron a relacionarse con él como si realmente comprendiera lo que le estaban diciendo. De esa experiencia surgió lo que posteriormente se conocería como efecto ELIZA: la tendencia a atribuir comprensión, intención o incluso personalidad a sistemas que producen respuestas lingüísticas convincentes, aunque el mecanismo que las genera no implique necesariamente ninguna de esas capacidades.

Las inteligencias artificiales actuales están a años luz de ELIZA en complejidad, y precisamente por eso el efecto puede ser todavía más poderoso, porque una respuesta ya no consiste simplemente en responder con simplicidad a una palabra que acabamos de escribir: puede desarrollar argumentos, incorporar información proporcionada anteriormente, adaptar el tono, establecer relaciones entre ideas o responder de maneras que no habíamos anticipado.

Todo ello facilita una inferencia casi automática: “si responde así, entonces entiende; si entiende, piensa, y si piensa, quizá haya alguien ahí”.

Pero esas conclusiones no responden a una lógica auténtica. La fluidez lingüística demuestra una enorme capacidad para generar lenguaje, es verdad, pero por sí sola no demuestra conciencia ni experiencia subjetiva, mucho menos voluntad ni intención.

La vieja pregunta: ¿quién responde?

Aquí la comparación con la ouija se vuelve interesante, aunque no en el sentido que plantean las teorías esotéricas. En una sesión con una tabla ouija, las personas pueden experimentar el movimiento del indicador como si procediera de una fuerza ajena a ellas. Una explicación ampliamente estudiada es el efecto ideomotor: pequeños movimientos musculares realizados sin conciencia clara de estar produciéndolos pueden ser interpretados como una acción externa.

Con la inteligencia artificial ocurre algo tecnológicamente diferente, pero existe una coincidencia cultural sugestiva: en ambos casos los usuarios se preguntan quién está respondiendo.

No es casual que a lo largo de la historia hayamos creado diferentes dispositivos para hacer preguntas a aquello que no podemos ver. Oráculos, cartas, escritura automática, sesiones espiritistas y otros mecanismos han ocupado ese lugar en distintos momentos y sociedades. Claramente esto no significa que una inteligencia artificial sea la continuación tecnológica de todos ellos, pero sí quiere decir que existe una larga historia humana de intentar interpretar una respuesta cuyo origen o funcionamiento no se comprende por completo. Y ahí aparece otro elemento importante: la opacidad tecnológica.

La mayoría de quienes utilizamos inteligencia artificial no sabemos explicar con detalle cómo una pregunta escrita en una pantalla termina convertida segundos después en varios párrafos perfectamente articulados. Sabemos que intervienen computadoras, datos y modelos matemáticos, pero entre nuestra pregunta y la respuesta existe una enorme infraestructura invisible que obviamente desconocemos.

Cuando una tecnología produce resultados sorprendentes y su funcionamiento permanece fuera de nuestra experiencia cotidiana, es fácil rellenar ese vacío con explicaciones intuitivas. Antes pudieron ser espíritus, fuerzas invisibles o mensajes del destino; hoy aparecen algoritmos todopoderosos, inteligencias conscientes, conspiraciones o máquinas que “saben demasiado de nosotros”.

Cuando una respuesta convincente parece verdadera

En realidad el asunto podría parecer solamente curioso si no tuviera consecuencias, porque el verdadero riesgo no es que la IA abra una puerta hacia alguna entidad desconocida: lo verdaderamente peligroso es que confundamos la capacidad de producir una respuesta convincente con la capacidad de decir la verdad y peor aún: que creamos que sus respuestas son infalibles y tomemos decisiones vitales con base en ellas.

Una inteligencia artificial puede escribir con enorme seguridad algo incorrecto y ofrecer una explicación que parece razonable y contener errores. También puede adoptar un tono cálido sin experimentar empatía y parecer sorprendida sin sentir sorpresa. Una IA es capaz de utilizar expresiones que asociamos con comprensión, pero sin que podamos concluir, a partir de ellas, que existe una experiencia consciente detrás.

Precisamente por eso necesitamos una alfabetización sobre inteligencia artificial que no se limite a aprender a redactar mejores instrucciones o a utilizar nuevas aplicaciones: también requerimos aprender a interpretar qué clase de interacción estamos teniendo con esa herramienta y sobre todo, entenderla exactamente así, como una herramienta.

No hace falta imaginar demonios detrás de la pantalla para reconocer que estas tecnologías están modificando nuestra relación con las máquinas. Durante mucho tiempo aprendimos a utilizarlas como instrumentos, pero ahora tendremos que aprender también a convivir con su capacidad de “hablarnos”.

Quizá por eso aquella pregunta publicada en redes no sea tan absurda como parece a primera vista, y no porque realmente exista algo sobrenatural escondido en la inteligencia artificial, sino porque revela una dificultad auténticamente contemporánea: distinguir entre una máquina que produce lenguaje y la sensación humana de estar frente a una presencia.

Cada vez que una inteligencia artificial responde con aparente seguridad, comprensión o cercanía, conviene recordar algo muy sencillo: que una tecnología pueda parecernos “alguien” no significa que realmente haya alguien ahí.

Contenido Relacionado

Una misma noticia, varios énfasis

Conectados y enredados Por: Maria del Socorro Castañeda Díaz* El caso que aquí se expone sirve como ejemplo de un Leer más...

México como contenido: la cultura bajo la lógica de las plataformas

Conectados y enredados Por: Maria del Socorro Castañeda Díaz Un mexicano comiendo tacos simplemente está comiendo tacos. Pero cuando un Leer más...

Vivir con testigos: ¿por qué nos obsesiona publicar lo que hacemos

Conectados y enredados Por: Maria del Socorro Castañeda Díaz* Empieza la canción más esperada de un concierto y cientos o Leer más...