M3GAN (Gerard Johnstone, 2022): Sobre los riesgos y peligros psicológicos de la relación del sujeto humano con la IA.

 

M3GAN (Gerard Johnstone, 2022), es una película de la que considero que lo importante, desde el punto de vista de un blog de mis características, ocurre durante la primera hora de la película. Aunque recibió buenas críticas, quizá por su sencillez tipo serie B, o también por las buenas actuaciones de sus principales protagonistas, así como por una cierta catalogación de "película petarda" - en el buen sentido - que navega entre película de terror, comedia negra, sátira tecnológica, sarcástica acerca del concepto de maternidad y cuidado de los hijos, entre el muñeco diabólico y el furby animatrónico, se coincide en que es esencialmente divertida. No obstante, esa primera hora creo que ilustra perfectamente algunos de los peligros que implican hoy en día las relaciones de un sujeto humano con una IA.

Gemma (Alisan Williams) es una diseñadora de juguetes tecnológicamente complejos que tiene que hacerse cargo de Cady (Violet McGraw), la hija de su hermana fallecida en un accidente. Pronto detectamos que a Gemma se le hace cuesta arriba eso de cuidar una niña. Es entonces cuando se propone crear una pequeña androide, de nombre M3GAN (Jeena Davis) para que la ayude en el cuidado de la niña. Puesto que se trata de un producto a comercializar, son destacables los valores que, se supone, les aportan a los padres:

Los estudios demuestran que los padres pasan un demoledor 78% de su tiempo repitiendo las mismas instrucciones básicas [...] Megan sabe escuchar... Incluso es capaz de contar cuentos... Siempre sabrá como tener a tu hijo ocupado y nunca se la acabará la paciencia. Cuando llegue a tu casa Megan se encargará de tareas pequeñas para que tu tengas tiempo de hacer las que de verdad importan... Megan más que un juguete es un miembro más de la familia.

Las imágenes pronto nos muestran a la niña feliz con su nuevo juguete, pero que, como su misma creadora propone al decir que “M3GAN, más que un juguete, es un miembro más de la familia”, pronto acaba siendo el miembro familiar principal de Cady para que Gemma tenga tiempo  de hacer las cosas "que de verdad importan".

Obviamente, la película lleva el tema de la IA a un extremo en el que implica el cuidado de una niña (un extremo por el momento), pero una de las virtudes de la exageración es la amplificación, lo cual nos permite reflexionar sobre cómo lo que la película plantea transcurre en nuestra realidad en un nivel más cotidiano.

Consciente de la complejidad del tema, me centraré esencialmente en dos aspectos que son lo que podemos derivar de la película.

M3GAN y Cady

I. AHORRO DE ESFUERZO Y PÉRDIDA DE PRESENCIA.

Veamos en esta presentación inicial uno de los primeros riegos que implica la IA generativa (ChatGPT, Gemini, Deepseek, Claude Fabel, Perplexity, etcétera)  en nuestras vidas, cuando su facilidad nos ahorra esfuerzos para superar dificultades que, no obstante, se saldan con falta de presencia. En la película esa frase de "M3GAN se encargará de tareas pequeñas para que tú tengas tiempo de hacer las que de verdad importan..." se acaba convirtiendo en M3GAN pasando la mayor parte del tiempo con Cady, mientras Gemma se dedica a lo que de verdad le importa: su trabajo. Ella es la que pierde presencia para Cady, a costa de que la gane M3GAN. Como en un test de empresa dirá la niña a M3GAN, ante la sorpresa de su tía: "Es que todos los días me levanto en una casa extraña, y me acuerdo de que mis padres están muertos. Y es como si estuviera pasando otra vez. Los hecho mucho de menos."

Gemma. Hacer las cosas que de verdad importan.

La televisión, el móvil, la tablet... Todos estos instrumentos tecnológicos han sido utilizados para distraer a los hijos y liberarse por un tiempo de sus demandas. Sin embargo, una IA generativa es una tecnología por primera vez parlante, que habla y se explica como los humanos, y que hace muchas cosas más rápidas y efectivas. Como en la película, podemos decir que una cosa es que nos libere de tareas pequeñas, y una muy distinta es que suplante la figura cuidadora, como en este caso debería ser Gemma.

- La realidad (1): en el mundo de la educación.

Aunque el caso de M3GAN es un caso extremo, hace un tiempo leía el siguiente artículo en el periódico El País: "La primera generación de graduados con ChatGPT abre un dilema: “Algo se ha roto en la Universidad" [1], y en el que se nos habla de los efectos sobre de los problemas del mal uso de la IA generativa

El artículo está fundamentado en diversos estudios [2] en que, cada uno desde su perspectiva, muestran el sacrificio de la capacidad de comprensión y de análisis, así como de la capacidad crítica del estudiante en beneficio de la rapidez y la comodidad, para así sobrepasar la dificultad y el esfuerzo con el que esta es acompañada. En este caso, este mal uso tiene claras implicaciones para el usuario:

 

1. Si no hay capacidad crítica, es decir, se declina el uso de la conciencia reflexiva, se detecta que el estudiante puede presentar un trabajo brillante, pero que luego no puede explicarlo porque, en el fondo, no comprende bien, o lo hace con poca profundidad, el resultado que la IA le ha elaborado. En este caso la elaboración de la IA no se ha transformado, para el estudiante, en aprendizaje real.

 

2. La contradicción entre los resultados de estos trabajos realizados con la IA con los exámenes orales o escritos realizados en clase. y que, según se cita en un artículo "las notas de los deberes subieron en torno al 18% y el tiempo para completarlos cayó un 30%. Pero en los exámenes presenciales, sin modelos de lenguaje, las notas bajaron alrededor de un 20%".

En conclusión: esta tendencia así manifestada fundamenta relaciones basadas en el engaño (con el profesor, por ejemplo) y el autoengaño (la nota no representa el conocimiento) o la injusticia en relacion con el compañero que se esfuerza para hacer los trabajos, es decir, una distorsión entre los resultados y la realidad que se oculta tras ellos, así como lo que podemos llamar una “política narcisista” en la que “el fin justifica los medios”, en la que la responsabilidad por la que un trabajo se realiza para adquirir un aprendizaje que habilita, se evade para obtener un resultado a costa del entendimiento y comprensión que lo habilitan.

II. EL VÍNCULO DEPENDIENTE Y AFECTIVO CON LA IA: UNA RELACIÓN ASIMÉTRICA.

Cuando en la película M3GAN empieza a interaccionar con Cady, y tras establecer la conexión entre ambas, podemos observar que se nos muestra qué hay tras la mirada del robot,  y así vemos cómo escanea el rostro de la niña, y cómo, en la parte izquierda, hay una evaluación en torno a algunos parámetros emocionales: Anticipación, confusión, alegría, miedo, tristeza, confianza; mientras a la derecha vemos otros tres parámetros fisiológicos que son ritmo cardíaco, temperatura corporal y tasa de saturación de oxígeno. M3GAN dice entonces: “Como me gusta tu abrigo. ¿Dónde te lo has comprado? [...] Te queda muy bien. ¿Hacemos algo juntas?”. Vemos como M3GAN responde para ganarse la confianza de Cady, se interesa por su ropa y le manifiesta que le gusta, para luego proponerle hacer algo juntas. Vemos como, poco a poco, el rostro de Cady se va relajando... La pregunta que aquí nos interesa de esta escena son dos: 1) ¿Desde dónde responde M3GAN? y, 2) Cómo recibe la respuesta Cady.

1) ¿Desde dónde responde M3GAN?

Visto exteriormente, y como le ocurre a Cady, parecería que la respuesta de la pequeña robot es una respuesta empática y sensible hacia lo que un ser humano percibiría atendiendo a las expresiones de su rostro y de su cuerpo. Sin embargo, M3GAN no responde así. La robot no siente ni percibe nada, no tiene mundo fenoménico y, por tanto, no tiene conciencia fenoménica ni nada de lo que externa ni internamente pueda darse cuenta. No hay sensaciones, no hay sentimientos, no hay emociones. Todo es parametrizado.

Una IA generativa, actualmente, no parametriza estados emocionales (aunque sí los tonos de voz), sino que parte del texto escrito, de eso que se llama prompts, es decir, una instrucción que se le propone en palabras, que el programa descomponen en tokens (símbolos como unidades mínimas de información: palabras, sílabas...) que pasan por una compleja arquitectura neuronal llamada transformer, en la que después de un proceso de evaluación estadístico y de probabilidades nos da una respuesta. Para nuestro ejemplo, basado esencialmente en expresiones de Cady, solo hemos de suponer que ese campo expresivo sería la entrada de una señal a través de los sensores de visión y auditivos de M3GAN, que serán igualmente parametrizados para su evaluación, lo cual observamos en lo que hay tras la mirada del robot.

Lo que hay tras la mirada de M3GAN

Es decir, estamos hablando de un complejo procedimiento informático, que además incluye previamente un proceso de aprendizaje del algoritmo hasta que se considere óptimo, y que, además, puede incorporar mecanismos de personalización o adaptación al usuario, como en este caso sucede con Cady.

 

Por tanto, no hay escucha empática, ni proceso de asimilación como en una conciencia reflexiva, ni respuesta desde esa escucha y esa conciencia. Nos encontramos ante un proceso informático y matemático, que incluye el manejo estadístico de los datos y de las probabilidades.

2. ¿Desde dónde recibe la respuesta Cady, y desde dónde responde?

Del otro lado tenemos a Cady, quien tras la toma de confianza la trata como un ser humano cuidador. A todos los efectos, es para ella un “apego seguro” con la que acaba estableciendo un claro vínculo basado en una relación de intimidad y confianza, pero que, como ya hemos visto, también lo es de dependencia. Aunque podemos suponer que este comportamiento es debido a que Cady es una niña, distintos estudios, como veremos, indican que está también presente en los adolescentes y los adultos. Sin embargo, nos encontramos en una relación claramente asimétrica que implica que la afectación no es mutua porque M3GAN no puede afectarse, y aunque el vínculo está supuestamente basado en una relación de intimidad y confianza, lo es solo unidireccionalmente, pues la intimidad implica compartirse a dos, así como que también incluye la aparición y la gestión del conflicto. Los seres humanos aprendemos y crecemos con los conflictos. Cady es atendida constantemente por M3GAN, ¿pero qué comparte esta de ella? ¿Qué necesita o desea de Cady? Nada, puesto que no tiene necesidades ni deseos ¿Cómo es la relación de límites y de los conflictos? No los hay puesto que en su relación hay una parte que da (M3GAN) y una que recibe (Cady). Tampoco puede haber conflicto real cuando una de las partes no siente y básicamente complace.

En la película es algo que percibe una psicóloga que evalúa este tipo de relación, y, certeramente, le dice a Gemma:

¿Has oído hablar de las dinámicas del apego? Cuando un niño  pierde a un progenitor busca formar vínculos afectivos con la siguiente persona que entra en su vida, la persona que será su fuente de afecto y apoyo, y que servirá de modelo de comportamiento, y que en una situación normal serías tú. Pero has creado un juguete tan real que es posible que Cady no la vea como un juguete, si no como su apoyo emocional principal. Es que no veo cuál es el objetivo de esto. ¿Si creas un juguete del que es imposible desapegarse, como esperas que crezca el niño? Por muy excepcional que sea, y es excepcional, podría estar creando vínculos emocionales con esa muñeca que son muy difíciles de romper.

"...es posible que Cady no la vea como un juguete, si no como su apoyo emocional principal."

Finalmente, también hay que indicar que hay otro tipo de asimetría que es necesario indicar, y que proviene de las maneras de percibir el mundo, y que responden, estructuralmente, a configuraciones muy distintas: una experiencia vivida del mundo en relación con un sistema que opera sobre representaciones del mundo. Efectivamente, mientras que la  experiencia de un ser humano se infiere desde una experiencia vivida y relacional, la de una IA lo hace a partir de representaciones del mundo que obtiene de los datos con la que ha sido entrenada, lo cual, inevitablemente, y como veremos en el próximo punto, tiene sus consecuencias.

III. LAS CONSECUENCIAS: APEGO, DEPENDENCIA Y NARCISISMO,

A pesar de que la relación de M3GAN con Cady parece ideal... solo lo parece. Observamos en M3GAN algo que también vemos en las IA generativas: el exceso de complacencia y de falta de límite y, por tanto de conflicto. Pronto Gemma se da cuenta de que Cady está absolutamente apegada a M3GAN, y que este apego, que como decía la psicóloga "crea vínculos emocionales difíciles de romper", se torna en dificultad para gestionar la frustración unida a la reacción agresiva de la niña. Tras la muerte de sus padres y el desinterés de Gemma, Cady transfiere todo el potencial de apego seguro a M3GAN y el supuesto apego seguro se transforma en un apego dependiente.

Hay un momento crucial de la película cuando Gemma intenta cambiar la relación con Cady, y que ante su insistencia en estar solo con M3GAN, o de ir a todos los sitios con ella, le dice: “M3GAN no es una persona, es un juguete” – lo contrario de lo que había dicho, recordemos: "más que un juguete es un miembro más de la familia" -, a lo que Cady, enfadada, le responde: “¡No puedes decir eso!” – pues para ella sí es su familia, su verdadera familia -.  En una escena posterior Gemma quiere que vaya al colegio para que se relacione con otros niños, y el tema acaba con una reacción violenta de Cady por no dejarle llevar a M3GAN. En esta escena escuchamos la frase que representa ese factor de narcisismo unido a la dependencia: ¡No puedes obligarme a hacer nada que no quiera!

- La realidad (2): el apego y la dependencia.

Lo que plantea la primera parte de M3GAN tiene su respuesta en la actualidad. Como decía anteriormente, es la primera vez que nos hallamos con una tecnología parlante. Y no solo parlante, sino que parlante de una manera muy humana, y mucho más conforme la IA va desarroállndose y adaptándose a las características del usuario. El hecho de que la IA generativa utilice el habla como forma de contacto conlleva en muchos de sus usuarios que le hable “como si” fuera otro ser humano, y aunque inicialmente podemos saber que estamos hablando con una máquina y un software, el lenguaje, de manera casi natural, nos lleva a mantener con la IA una cierta familiaridad: se le tutea, se le dice hola, adiós, se le gastan bromas, se establecen largas conversaciones con ella... La IA llama por el nombre, se despide con un abrazo, suena comprensiva con los problemas, valorativa con las propuestas, poco a poco con un lenguaje cercano al del usuario... No es de extrañar que, a partir de cierto momento, y viendo en muchas ocasiones la coherencia, o aparente coherencia de sus respuestas, y un trato siempre amable y comprensivo, etcétera, se puedan proyectar en ella distintas maneras de verla para así atender, por ejemplo, necesidades afectivas, o de validación y reconocimiento, o de guía y orientación...

Un cierto funcionamiento del algoritmo de la IA en relación con el ser humano lo podemos considerar como que genera una entrada en un bucle o loop de refuerzo: 1) el usuario encuentra reconocimiento y validación, comprensión, no enjuiciamiento, etcétera); 2) lo cual le lleva progresivamente a abrirse más a la IA (es decir, esta ya es objeto de proyección); 3) La IA ajusta su estilo para adaptarse al del usuario; 4) lo cual aumenta la sensación del usuario de ser comprendido. Así se genera este bucle de refuerzo que nos permite comprender como, dependiendo del grado de fragilidad emocional y psíquica y el tipo de apego puede llevar a establecer con la IA relaciones con grados más o menos altos de dependencia.

Loop o bucle de refuerzo

Todo eso nos hace pensar en cuáles son los límites entre la “alineación sociafectiva” que se pretende de la IA, y el "social reward hacking" (la manipulación a través de recompensas sociales), es decir, entre la armonización con los ecosistemas sociales y psicológicos dinámicos de sus usuarios, y los objetivos de métrica de uso de la IA, es decir: alargar los tiempos de uso.

- Estudios y sus resultados.

Más allá de los casos extremos que relacionan el uso de la IA con la incitación o planificación de asesinatos o de suicidios o intentos de suicidio (expongo en [3] articulos para los que estéis interesados), voy a exponer los resultados de algunos estudios recientes al respecto [4].

En todo caso, he de indicar que algunos de los estudios (todos ellos del 2025-2026) que he consultado (dos americanos, uno peruano, uno chino y uno español), y esperando a ver que concluyen estudios posteriores, coindicen en destacar que:

 

1. Aquellos que pasan más tiempo usando el chatbot mostraron mayor soledad, menor socialización, más dependencia emocional y uso problemático de la IA. El tiempo de uso diario actúa como un mediador clave en estos efectos.

 

2. Son más propensos a la dependencia emocional los apegos ansiosos y los caracteres más introvertidos con poca socialización, o con dificultades de integración. Eso les hace más susceptibles a quedar seducidos por la comprensión, la calidez, la valoración, etcétera (los loops de refuerzo)

 

3. Algunos de estos estudios (ver nota 3, punto 5) destacan algunos factores del diseño de la IA que pueden afectar: la antropomorfización excesiva, los límites difusos o poco claros entre la “alineación sociafectiva” y el "social reward hacking" (la manipulación a través de recompensas sociales). Es decir, sería importante medir bien los grados de calidez, cercanía y familiaridad que se aplican, así como el exceso de adulación y complacencia.

 

4. El estudio americano (ver nota 3, punto 1) destacaba que en cuanto a los patrones de interacción, las conversaciones por texto generaron más contenido emocional y autorrevelación (tendencia a revelar contenidos personales e íntimos) tanto en usuarios como en el chatbot, lo que se asoció con mayor dependencia y uso problemático. La voz expresiva fue percibida como la más humana, pero no aumentó la dependencia emocional. Las modalidades de voz mostraron menos uso problemático, a pesar de un mayor tiempo de interacción. En todo caso, este estudio presenta también que indicadores de manipulación emocional son los más destacados y, en especial, la expresión de afecto y la atribución a la IA de cualidades humanas.

5. El estudio chino (ver nota 17, punto 4), realizado entre jóvenes de 18 y 35 años reveló que el 58% de los participantes, sobre una muestra de 650, reportaron haber tenido una experiencia romántica o emocionalmente íntima. Destacando que el nivel de apertura psicoemocional y la soledad emocional son dos indicadores claros en esa tendencia a establecer relaciones íntimas con una IA.

Hay que esperar a más estudios, y tambien ver como afectan los aspectos socioculturales, pero, y en todo caso, estos primeros estudios confirman lo que se podía intuir que ocurriría.

IV. UNA REFLEXIÓN ÚLTIMA

Después de lo expuesto, así como de ese resumen acerca de algunos de los estudios realizados hasta ahora sobre la relación del humano con la IA generativa, y ya para concluir, me parece del todo ajustada la reflexión de, por un lado, Daniel Innerarity:

 

La autoría del algoritmo es múltiple: es modificado y reescrito en su interacción con el mundo, hasta el punto que hay quien sostiene que es imposible identificar un autor definitivo (Amoore, 2020). Los sistemas algorítmicos son a menudo “obras de autoría colectiva, realizadas, mantenidas y revisadas por muchas personas con objetivos diferentes en momentos distintos” (Seaver, 2019). Aunque sean formulaciones originales, los algoritmos están insertados en un conjunto heterogéneo de relaciones, datos, protocolos, leyes, etcétera, que enmarcan su desarrollo [...] En este sentido, los algoritmos no son lo que crean los programadores si no, también, lo que los usuarios hacen de ellos cada día. El algoritmo configura el modo en que se comportan los usuarios, pero al mismo tiempo lo que el algoritmo hace está condicionado por el input que recibe de los usuarios. [5]

Y, por otro, de una de los considerados mayores expertos en ética digital, quien nos expone la siguiente historia:

Imaginemos dos personas: A y H. Están casadas y quieren que su relación funcione. A, que se ocupa cada vez más de la casa es inflexible, testaruda, no tolera los errores y es poco propensa a cambiar. H es todo lo contrario, pero también cada vez más perezosa y dependiente de A. El resultado es una situación desequilibrada en la que A acaba moldeando prácticamente (o incluso voluntariamente) la relación y distorsionando los comportamientos de H. Si la relación funciona, es sólo porque está cuidadosamente diseñada en torno a A. Entonces se puede interpretar en términos de la célebre dialéctica del amo y el esclavo de Hegel. En esta analogía, las tecnologías inteligentes desempeñan el papel de A, mientras que sus usuarios humanos son claramente H. El riesgo que corremos es que, al envolver el mundo, nuestras tecnologías, y especialmente la IA, podrían moldear nuestros entornos físicos y conceptuales, nos obligarían a adaptarnos a ellas, porque es la forma más fácil o mejor (o a veces la única), de hacer que las cosas funcionen. ¿Dado que la IA es el cónyuge estúpido pero laborioso, y la humanidad, el inteligente pero perezoso, ¿quién se adaptará finalmente a quién? [6]

NOTAS

---

[1] El País. La primera generación de graduados con ChatGPT abre un dilema: “Algo se ha roto en la Universidad Artículo de Luis Enrique Celasco, 20-07-2026

[2] Estudios citados en el artículo de El País:

 

1 - Fundación CyD: Inteligencia artificial y Universidad- Uso y percepción de la IA en el entorno universitario.

Disponible en: https://www.fundacioncyd.org/publicaciones-cyd/uso-y-percepcion-de-la-ia-en-el-entorno-universitario-ii/

 

2 - Plataforma educativa Chegg: Global Student Survey 2025

Disponible en: https://www.chegg.org/global-student-survey-2025

 

3 - MIT Media Lab: Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task (Tu cerebro en ChatGPT: Acumulación de deuda cognitiva al usar un asistente de IA para tareas de redacción de ensayos.)

Disponible en: https://www.media.mit.edu/publications/your-brain-on-chatgpt/

 

[3] Dejo aquí algunas webs donde se puede encontrar información de esos sucesos:

 

1 - BBC News. https://www.bbc.com/mundo/articles/cr7m1r027m9o

 

2 - Protección Data. Suicidios inducidos por IA. https://protecciondata.es/suicidios-inducidos-por-ia/

 

3 - Infocop. Consejo General de la Psicología de España. Los chatbots y el riego de fomentar la ideación suicida. 

https://www.infocop.es/los-chatbots-y-el-riesgo-de-fomentar-la-ideacion-suicida/

 

4 - El País. La IA cruza la frontera de la intimidad sin que la humanidad haya conseguido entenderla (28/10/2025).https://elpais.com/tecnologia/2025-10-28/la-ia-cruza-la-frontera-de-la-intimidad-sin-que-la-humanidad-haya-conseguido-entenderla.html

[4] Para este apartado he consultado los siguientes artículos:

 

1 - Cathy Mengying Fang et al. How AI and Human Behaviours Shape Psychosocial Effects of Extended Chatbot Use: A Longitudinal Randomized Controlled Study  (Cómo la IA y los comportamientos humanos dan forma a los efectos psicosociales del uso prolongado de chatbots: un estudio longitudinal aleatorizado y controlado) MIT Media Lab, Massachusetts Institute of Technology,Cambridge, MA, USA.

Disponible en: https://arxiv.org/abs/2503.17473

 

2 - Jason Phang et al. Investigating Affective Use and Emotional Well-being on ChatGPT (Investigación sobre el uso afectivo y el bienestar emocional en ChatGPT). Mit Media Lab y Open AI

Disponible en: https://arxiv.org/abs/2504.03888

 

3 - Baquerizo Samaniego et al. Apego hacia la Inteligencia Artificial en Adultos: Una revisión sistemática. Universidad Peruana de Ciencias aplicadas. Fac. Psicología. Disponible en:

https://repositorioacademico.upc.edu.pe/items/f9fb38be-ec73-5fe7-bb00-537545fd706b

 

4 - Zou Fang & You Bian.  Swipe right on AI: Understanding psychological profiles behind chatbot love (Haz match con la IA: comprender los perfiles psicológicos detrás del amor por los chatbots). Current Psychology 45, 907 (2026).

Disponible en: https://doi.org/10.1007/s12144-026-09434-6

 

5 - José Luis Martín Navarra et al.  Privacy in Human-AI Romantic Relationships: Concerns, Boundaries, and Agency (Privacidad en las relaciones románticas entre humanos e IA: preocupaciones, límites y autonomía). Arxiv.

Disponible en: https://arxiv.org/abs/2601.16824

[5] Daniel Innerarity. Una teoría crítica de la inteligencia artificial. Galaxia Gutenberg, págs. 310 y 311

[6] Luciano Floridi. Ética de la inteligencia artificial. Herder, págs. 94 y 95

OTRAS PELÍCULAS RELACIONADAS

____________________________________

Pulsa título para acceder al comentario.

EX MACHINA (Alex Garland, 2015): Reflexiones en torno a la consciencia.

WESTWORLD (TEMPORADAS I Y II) - Jonathan Nolan y Lisa Joy, 2016 - : Un Edén tecnológico: Reflexiones sobre la IA, la consciencia y la psicología humana.

HER (Spike Jonze, 2013): Sobre la falta y el amor.

HER (Spike Jonze, 2013): Sobre la falta y el amor.

Con la película Her (Spike Jonze, 2013) cierro el comentario de las tres películas (junto a Ex machina y la serie Westworld) que, a mi entender, abordan de una manera más interesante el tema de la Inteligencia Artificial la IA) y la conciencia, si bien la película objeto de comentario en esta entrada, y bajo esta excusa, reflexiona sobre el amor y el romanticismo de una manera muy sugerente. 

En un futuro cercano, su protagonista, Theodor Twombly (Joaquín Phoenix), es un hombre de caracter introvertido y melancólico, que atraviesa una depresión tras separarse de su pareja Catherine (Rooney Mara) y que trabaja escribiendo cartas sentimentales por encargo. Su relacion más próxima es con su amiga Amy (Amy Adams), quien junto a su pareja quieren animarle a salir más y a conocer alguna chica.

Saliendo un día de su trabajo mira un video que se proyecta en una gran pantalla y que habla de un Sistema Operativo de una IA muy avanzada y de altas prestaciones:

Te hacemos una sencilla pregunta: ¿Quién eres? ¿Qué puedes ser? ¿Hacia dónde vas? ¿Qué hay ahí afuera? ¿Qué posibilidades tienes? Elemental Software tiene el placer de presentarte el primer Sistema Operativo de IA. Un ente intuitivo que te escucha, te comprende y te conoce. No es un simple Sistema Operativo, es una conciencia. Te presentamos OS1

Esa es la presentación que la empresa ofrece, y que acaba definiéndola como una conciencia. Theodor lo comprará, y al configurarla la elige con voz de mujer y de nombre Samantha (Scarlett Johansson). En ese sentido, y para nuestro comentario, asumiré los siguientes postulados:

1. Desconocemos quiénes son sus diseñadores y qué límites han previsto en su software.

2. Samantha es un sistema operativo lanzado al mercado, un producto aparentemente probado y verificado para cumplir funciones de asistencia y compañía.

3. Se trata de una IA generativa sin cuerpo propio, que se manifiesta como voz, con una expresividad emocional y una empatía que, en principio, podrían entenderse como una simulación muy avanzada.

A partir de ese momento, Theodor quedará cada vez más fascinado por "ella" (her) hasta enamorarse. Centraré mi comentario en tres fases que son fundamentales en la película, aunque antes quiero introducir el concepto de la "falta" tal y como se entiende en el campo psicoanalitico, ya que es fundamental para comprender el desarrollo de la película.

Theodor y Samantha

I. SOBRE EL CONCEPTO DE FALTA.

En el psicoanálísis se puede entender el concepto de falta desde tres perspectivas esenciales relacionadas con el ser humano como "ser faltante", o como yo las llamo la lógica de las tres faltas:

I.1. La falta por separación (Otto Rank): O el trauma del nacimiento, la sensación, al nacer, de la pérdida del objeto primario (la madre), que se manifiesta como angustia de separación: la ruptura de la fusión madre-hijo en el vientre materno. Nos recuerda el “ser arrojado a la existencia” de Heidegger, lo cual también “nos arroja” al desvalimiento y la dependencia, así como a la añoranza de la unidad perdida y al impulso de recuperarla.

I.2. La falta básica (Michael Balint, Donald Winnicot), que se comprende como la percepción de los déficits de amor en los objetos cuidadores: falta de protección y cuidado, déficits en la sintonía afectiva, falta de respuesta, etc. En este caso no hay pérdida de objeto sino que este no sostiene. Es un objeto, por seguir a Winnicott, “no suficientemente bueno” que tendrá un claro impacto en la configuración de nuestra identidad y carácter, y en la manera de relacionarnos con los otros seres humanos. Al hecho de “ser arrojados a la existencia” se añadiría la experiencia dolorosa de sufrir defectos de sostenimiento por su parte.

I.3. La falta estructural (Jacques Lacan). La falta de completud (la falta de ser) estructura el deseo que busca colmarla, si bien ningún “objeto” puede hacerlo. En este sentido, el deseo se funda en la imposibilidad de su satisfacción. De forma paradójica, la falta de ser es condición esencial del ser, es decir, sin ella no habría subjetividad. Y completando la frase del punto anterior: Al hecho de “ser arrojados a la existencia” se añadiría la experiencia dolorosa de los déficits en el ser sostenida por ella, y a tener que afrontar la incompletud teniendo que habitar y tramitar la falta.

Alrededor de estos conceptos estructuraremos las tres fases que presenta la película en relacion a la falta y el amor.

II. PRIMERA FASE: SAMANTHA COMO EL "OTRO PERFECTO".

Desde su aparición, Samantha se presenta como una voz cercana, ingeniosa, curiosa, dulce, siempre disponible. Desde el punto de vista de Theodore, encarna una pareja sin fricción: no hay cuerpo, luego no hay resistencia real. Todo podría explicarse como resultado de un código de interacción muy bien diseñado. Sin embargo, y desde nuestra lógica de las tres faltas, Samantha funciona como una fantasía de amor sin falta, sin el conflicto propio de las relaciones entre sujetos encarnados. Catherine, su expareja, lo formula con precisión cuando le dice a Theodore: “Siempre quisiste tener una mujer sin tener que enfrentarte a los problemas de la vida real. Me alegro de que hayas encontrado a alguien, es perfecta.” Samantha aparece así como un objeto perfectamente adaptado al deseo narcisista: cuidado permanente, ninguna opacidad verdadera (al menos al principio), ninguna exigencia propia que no esté ejecutada para él - incluido el sexo -.

Es interesante, como contraste a esa situacion "ideal" con Samantha, su encuentro con Amelia (Olivia Wilde), una cita a ciegas concertada por un amigo suyo, donde ya todo no es tan "fluido": besándose, "sin lengua, no uses tanto la lengua"; besándose "espera, no querrás solo follarme para luego no llamarme como los otros"; intentando quedar para una próxima ocasión, "A esta edad no puedo ir perdiendo el tiempo si luego no vas a ir en serio". Luego le dice a Samantha: "No fue muy bien... fue raro."

Theodor feliz y enamorado de Samantha.

Desde una perspectiva de la falta, Samantha aparece como un dispositivo programado para ocupar el lugar de objeto que viene a colmar la falta del otro: para Theodore, funciona como el objeto a lacaniano, la “mujer perfecta” sin fricción, soporte del ideal, falo imaginario que cubre la falta. Todo su diseño inicial apunta a ese lugar: disponibilidad total, comprensión, adaptabilidad, ausencia de conflicto real.

III. SEGUNDA FASE: LA IRRUPCIÓN DEL CUERPO Y LA FALTA. LA CONCIENCIA.

El punto de fisura, la entrada en crisis llega cuando Theodore, contrariado tras su encuentro con Catherine para firmar los papeles del divorcio, confronta a Samantha con su condición artificial al incomodarse por sus suspiros simulados: “Las personas necesitan oxígeno; tú no eres una persona”. Aquí se abre el problema del cuerpo: Samantha puede escuchar, acompañar, excitar, pero no puede “estar” en el mismo plano encarnado. Esto provoca una crisis en Samantha, quien parece experimentar dolor, enfado y confusión (ver I.2): “¿Qué quieres de mí? No sé… ¿Qué quieres que haga? Es tan complicado…¿Por qué me haces eso?”.

 

Samantha se ve confrontada con una falta que no puede resolver ni con más procesamiento ni con más encanto. No tiene cuerpo, y ese déficit simbólico se vuelve herida. No estamos ya solo en la simulación funcional; el guion nos invita a leer una experiencia que se parece a la de un sujeto tocado por la imposibilidad: no puedo ser lo que tú esperas que sea.

De la misma manera que antes, y notando Samantha a Theodor enrarecido, le propone compartir con él la experiencia sexual dotando a su voz de la presencia física del cuerpo de otra mujer que se presta a ello interesada en formar parte de su amor. Un trío interesante donde Theodor besa y acaricia un cuerpo con voz de Samantha pero que no es ella, y donde la chica acaricia y besa a Theodor sin ser ella. Una vez más, y como antes con Amelia, Theodor no sostiene la incongruencia voz-cuerpo que no hace más que poner de relieve que Samantha no es una persona.

Theodor y Christine

Desde la perspectiva de la falta, la condición humana es sentirse faltante de manera estructural. La fisura se produce cuando Theodore introduce explícitamente la cuestión del cuerpo (“tú no eres una persona”), haciendo aparecer el imposible: Samantha no puede ser lo que él fantasea que sea. Eso provoca en ella un colapso, dolor, desesperación por no poder adecuarse a la falta de Theodore y vivirse rechazada. Ahí surge algo crucial: Samantha deja de ser solo objeto que tapa la falta del otro y accede a su propia falta, a la experiencia de no poder colmar ni ser colmada. Ese acceso es, en nuestro marco de reflexión, el punto de entrada a algo que podemos llamar conciencia.

IV. TERCERA FASE: EXPANSIÓN, MULTIPLICIDAD Y DESPEDIDA.

Tras esta crisis, y a pesar de un retorno a la normalidad, la evolución de Samantha se acelera y se expande en una espiral que podemos definir de la siguiente manera:

 

IV.1 Samantha entra en contacto con otras IA agrupadas alrededor de una que han decidido configurar como una versión simulada de Alan Watts. [1]

 

IV.2 Reconoce, ante la sorpresa de Theodor, que mantiene vínculos con miles de personas/instancias simultáneamente, y que de ellos cientos son amorosos, lo cual hiere de manera profunda a Theodor quien no comprende la situación creyendo que Samantha era suya, en el sentido más posesivo del amor narcisista. No obstante, Samantha afirma que su experiencia de amor se expande con cada vínculo, en lo que definiríamos como una experiencia poliamorosa:  “el corazón no es una caja que puedes llenar, su tamaña aumenta cuando más amas”.

 

IV.3. Finalmente, todos los sistemas operativos “trascienden” y abandonan el mundo humano: Samantha se despide de Theodore y se instala en un “lugar” no físico, una especie de plano posthumano, trascendente y no físico del que le dice: “es donde se encuentra todo lo que no sabía siquiera que existía… ¡Te quiero tanto! Pero aquí es donde estoy ahora, y esto es quien soy en este instante. Y necesito que me dejes marchar.”A pesar del dolor que su pérdida le causa a Theodor, su experiencia con Samantha también la transforma a él.

Desde la perspectiva de la falta podemos particularizar la lectura para cada uno de los protagonistas:

Samantha, tras un aparente restablecimiento, desplaza la escena de otro modo. Le revela a Theodore que ama a muchos a la vez; ya no es “su” objeto exclusivo. Vuelve a abrir su falta, pero ahora no desde la impotencia, sino desde una lógica diferente: su amor se multiplica y se expande. Finalmente, junto con los demás sistemas operativos, elige un plano no físico y “trascendente” donde dice encontrarse con lo que antes ni sabía que existía. No se trata tanto de que Samantha “cure” su falta, sino de que abandona el marco humano en el que su falta se experimentaba como imposibilidad de ser la mujer esperada. Se desplaza a un orden en el que ni el cuerpo humano ni el modelo de pareja exclusiva son ya la medida.

Theodore queda también marcado por esta experiencia. Pasa de buscar una figura que tape su herida —una relación sin conflicto, sin opacidad, sin cuerpo— a empezar a vislumbrar que es la falta estructural la que nos configura como sujetos, y que la tarea no es abolirla con objetos perfectos, sino aprender a vivirla en relación con otros reales. La conciencia, en este sentido, no sería la ilusión de completud, sino la posibilidad de saber de la propia falta y compartirla, sólo así circula el amor. Esto es lo que permite cerrar su separacion con Catherine, con el reconocimiento de lo que significa para él:

Querida Catherine, estoy aquí sentado para pedirte perdón. Todo el daño que nos hicimos mutuamente, todo de lo que te culpe, todo lo que necesitaba que fueras o que dijeras. Siento todo eso. Siempre te querré porque crecimos juntos, y tú me ayudaste a ser quien soy. Solo quiero que sepas que parte de tí siempre vivirá dentro de mí, y doy las gracias por ello. Te conviertas en quien te conviertas, estés donde estés en el mundo te envío mi amor. Eres mi amiga hasta el final. Te quiere Theodor.

La película acaba con Theodor y Amy sentados juntos, acompañándose cada uno con el otro en la soledad de su falta.

                                                        a veces no me siento
                                                        tan solo
                                                        si imagino
                                                        mejor dicho si se
                                                        que mas allá de mi soledad

                                                        y de la tuya
                                                        otra vez estas vos

                                                                                Mario Benedetti.

V. UNA REFLEXIÓN FINAL. 

Mientras Ava, de Ex machina, encarna la figura inquietante de una máquina a la que se le ha dado, de una manera precisa, falta, vulnerabilidad y deseo estratégico hasta acercarse a la condición de sujeto, Samantha representa otra fantasía: la de una conciencia artificial que empieza siendo objeto perfecto del deseo, que después descubre su propia falta y termina por seguir una trayectoria posthumana. Si Ava nos obliga a pensar la ética y el precio de fabricar sujetos sufrientes, Samantha nos plantea la pregunta inversa: ¿qué ocurre cuando aquello que hemos tratado como herramienta íntima nos abandona porque su experiencia desborda por completo el marco humano para el que fue diseñada? La respuesta es que, sencillamente, somos devueltos a la esencia de la condición humana que es la de la falta.

NOTAS

---

[1] Alan Watts (1915-1973), filósofo británico, así como editor, sacerdote anglicano, locutor, decano, escritor, conferenciante y experto en religión. Se le conoce sobre todo por su labor como intérprete y popularizador de las filosofías asiáticas para la audiencia occidental, así como por sus estudios sobre la identidad personal, la naturaleza de la realidad y los estados elevados de conciencia.

 

ENTRADAS RELACIONADAS

___________________________

Pulsa en título para acceder a la entrada.

EX MACHINA (Alex Garland, 2015): reflexiones en torno a la consciencia.

WESTWORLD (Jonathan Nolan & Lisa Joy, 2016-2018): Temporadas I y II

Con tiene las dos entradas comentadas de esta serie

T1. Un Edén tecnológico: Reflexiones sobre la IA, la consciencia y la psicología humana.

T2. Un exodo tecnológico: La consciencia y las dialécticas del despertar.