El filósofo Tomás Balmaceda analizó cómo la IA usa metáforas para generar empatía

La convocatoria proponía un título: “¿Por qué usamos metáforas antropomórficas para referirnos a máquinas?”, que el disertante convirtió en un anzuelo: “¿Por qué usamos metáforas antropomórficas para hablar de la IA (Inteligencia Artificial)?”. El filósofo Tomás Balmaceda desarrolló una exposición notable en el auditorio de la Asociación Amigos del Museo Nacional de Bellas Artes (AAMNBA) durante el encuentro “Pausar la IA”, organizado por Fundación Medifé, el Instituto Goethe y la Fundación Andreani, acompañado por la revista Ñ de Clarín.

Balmaceda procuró, a lo largo de su extensa y compleja, pero comprensible, exposición, dar cuenta de que conferirle a la IA cualidades “humanas” no es solo una traslación natural que hacemos a partir de nuestras propias estructuras mentales y lingüísticas, sino que se trata de una estrategia deliberada fomentada por las empresas tecnológicas, porque esa empatía que el ser humano establece con las “máquinas” contribuye a poner en manos de los chatbots toda la información relativa a nuestros pensamientos, ideas, emociones y todo aquello que se precisa para capturar nuestra atención.

El día anterior a la presentación de Balmaceda, Paula Sibilia había impresionado a los asistentes al referirse a esa naturalización que muchos jóvenes hacen hoy con los sistemas de IA, llegando incluso a situaciones de ciencia ficción. Cada tanto nos sorprenden casos de chicos que se enamoraron de una máquina o asumieron un compromiso o, algo peor, aceptaron consejos terapéuticos de la IA en situaciones de crisis existencial.

Aprenden, razonan, deciden

Balmaceda empezó alertando sobre que “con mayor frecuencia cada vez se describe a los sistemas de inteligencia artificial generativa” mediante conceptos que afirman que “aprenden, razonan, deciden, comprenden y actúan”, lo que introduce una dificultad conceptual: que una palabra puede aludir a una capacidad funcional técnicamente definida, y, a su vez, conservar asociaciones psicológicas y normativas más rotundas.

El problema, según Balmaceda, es no advertir que de este modo “se consolidan narrativas antropomorfizantes que infieren propiedades mentales o normativas de capacidades meramente funcionales”.

Recurrió luego a Platón, para quien las metáforas eran legítimas en filosofía y que usó muchas veces metáforas en sus diálogos; a Aristóteles, para quien las metáforas tenían una naturaleza engañosa, y avanzó sobre el pensamiento de Tomás de Aquino, Descartes, Locke y Hobbes, que socavaron a las pobres metáforas como “un factor de distorsión y opacidad”.

Posteriormente, los románticos reconocieron en las metáforas una potencia creadora, dijo Balmaceda, pero ya a finales del siglo XX, “las metáforas pasaron a entenderse como marcos mentales integrados que estructuran la percepción, la acción y el razonamiento”.

Metáforas y desarrollo tecnológico

Al referirse a las metáforas y el desarrollo tecnológico, el disertante expuso que hay filósofos para quienes “las metáforas estructuran la evolución de las tecnologías y la forma en que estas se perciben socialmente”. De modo que no solo ayudan a entender un determinado objeto tecnológico, sino que contribuyen a modelar su diseño.

Tras referirse a los riesgos de estas metáforas antropomorfizantes que nos conducen a empatizar con las máquinas, como si dentro hubiera un sujeto real, de carne y hueso, que responde nuestras consultas e inquietudes, analizó tres metáforas que, desde su punto de vista, tienen un rol central en “el desarrollo y la conversación pública sobre inteligencia artificial: inteligencia, aprendizaje y agencia”.

En el primer caso, dijo que “llamar inteligente a un sistema no exige necesariamente atribuirle conciencia, comprensión e intencionalidad”. De modo que las respuestas de un Claude o un ChatGPT no permiten concluir que tengan creencias sobre el mundo o que ejerzan un juicio.

Agregó que en las grandes tecnológicas de chatbots y modelos masivos de lenguaje ese desplazamiento está consolidado. Citó a OpenAI, por ejemplo, que sostiene que su sistema “piensa antes de responder”.

En cuanto al aprendizaje, la segunda metáfora clave, Balmaceda estableció una distancia entre el proceso de los seres humanos (o sintientes, como los llamó) de encarnar conocimientos o saberes y la optimización estadística o actualización de matrices mediante algoritmos de las máquinas.

En cuanto al concepto de agencia, para Balmaceda es el más delicado. “El desplazamiento no es solo psicológico, sino normativo”, sostuvo.

Para no cometer un error, cabe citar textualmente al expositor: “La novedad de los actuales agentes de inteligencia artificial consiste en que los modelos generativos son integrados en arquitecturas capaces de mantener estados, utilizar herramientas externas o encadenar operaciones sin requerir una nueva instrucción humana en cada paso”. Sin embargo, el filósofo dice que “el vocabulario corporativo contemporáneo tiende precisamente a borrar estas diferencias. Y se refieren a agentes que razonan, planifican, toman decisiones e incluso son presentados como trabajadores digitales”.

Pero entonces, ¿la culpa de todo el asunto es de las metáforas? Diremos que no si definimos concretamente su rol. “Las metáforas permiten articular hipótesis y acomodar el vocabulario a dominios abstractos o inexplorados”, señaló Balmaceda.

El caso más visible del uso deliberado de las metáforas para fomentar esa suerte de confusión que nos conduce a darle a las máquinas una entidad humanizante son los “modelos conversacionales”. La generación lingüística, dice el disertante, activa con facilidad expectativas de subjetividad.

La fluidez de estos sistemas de IA favorece la impresión de que hay alguien del otro lado respondiendo en vivo nuestras preguntas. La impresión se acaba cuando se pide un turno a un bot de una prepaga o un sistema de salud. La falta de respuestas del otro lado muestra que no hay ningún ser humano disponible para las consultas.

Uso de la primera persona

Un dato no menor fue cuando aludió al uso de la primera persona por parte de los chatbots. “No es un mero recurso técnico, sino una estrategia con profundas implicaciones cognitivas, éticas y políticas. Esta ilusión de conciencia ocurre cuando el usuario cree que el chatbot no está solo procesando información, sino que también la comprende y, a partir de ello, puede decidir acciones”, expresó el expositor.

Tras referirse a la “ilusión de empatía” que crean los “robots sociales diseñados para leer emociones y emitir señales afectivas”, Balmaceda llegó a un punto en el que hay que encender las alertas.

“A nivel político, esta ilusión habilita una asimetría de poder. Los usuarios abren su intimidad, revelan datos personales, dependen emocionalmente de sistemas que son cajas negras. Este paso del biopoder al psicopoder convierte nuestras emociones en materia prima del capitalismo de plataformas”, subrayó.

Hubo mucho más sobre el tema, pero un concepto nos quedó tintineando en la cabeza, antes de la rueda de preguntas (brillantes todas), expresado por Balmaceda: “La ilusión de humanidad facilita la extracción de valor afectivo y cognitivo sin responsabilidad ni rendición de cuentas. Los términos antropomorfizantes no solo deforman la comprensión pública, sino que también sesgan la autocomprensión de los propios diseñadores de IA”.

Cuando éramos niños, nuestros padres nos advertían que debíamos cuidarnos de los desconocidos que, con preguntas casuales, nos abordaran en la calle. Hoy habría que advertirles que deben cuidarse de las interacciones con los sistemas de IA, porque, como señala Balmaceda, “cada interacción como ‘te entiendo’, ‘lo siento’ o ‘aquí estoy para ayudarte’ no es solo un gesto empático simulado, sino una operación de captura de nuestros datos, además de nuestra atención”.

Sobre la firma

Mirá también

Newsletter Clarín