AVISO. POR LA NATURALEZA DE LOS TRABAJOS DE ESTE BLOG, EL ARGUMENTO E INCLUSO EL FINAL DE LAS PELICULAS SON REVELADOS.

domingo, 23 de agosto de 2026

M3GAN (Gerard Johnstone, 2022): Sobre los riesgos y peligros psicológicos de la relación del sujeto humano con la IA.

 

M3GAN (Gerard Johnstone, 2022), es una película de la que considero que lo importante, desde el punto de vista de un blog de mis características, ocurre durante la primera hora de la película. Aunque recibió buenas críticas, quizá por su sencillez tipo serie B, o también por las buenas actuaciones de sus principales protagonistas, así como por una cierta catalogación de "película petarda" - en el buen sentido - que navega entre película de terror, comedia negra, sátira tecnológica, sarcástica acerca del concepto de maternidad y cuidado de los hijos, entre el muñeco diabólico y el furby animatrónico, se coincide en que es esencialmente divertida. No obstante, esa primera hora creo que ilustra perfectamente algunos de los peligros que implican hoy en día las relaciones de un sujeto humano con una IA.

Gemma (Alisan Williams) es una diseñadora de juguetes tecnológicamente complejos que tiene que hacerse cargo de Cady (Violet McGraw), la hija de su hermana fallecida en un accidente. Pronto detectamos que a Gemma se le hace cuesta arriba eso de cuidar una niña. Es entonces cuando se propone crear una pequeña androide, de nombre M3GAN (Jeena Davis) para que la ayude en el cuidado de la niña. Puesto que se trata de un producto a comercializar, son destacables los valores que, se supone, les aportan a los padres:

Los estudios demuestran que los padres pasan un demoledor 78% de su tiempo repitiendo las mismas instrucciones básicas [...] Megan sabe escuchar... Incluso es capaz de contar cuentos... Siempre sabrá como tener a tu hijo ocupado y nunca se la acabará la paciencia. Cuando llegue a tu casa Megan se encargará de tareas pequeñas para que tu tengas tiempo de hacer las que de verdad importan... Megan más que un juguete es un miembro más de la familia.

Las imágenes pronto nos muestran a la niña feliz con su nuevo juguete, pero que, como su misma creadora propone al decir que “M3GAN, más que un juguete, es un miembro más de la familia”, pronto acaba siendo el miembro familiar principal de Cady para que Gemma tenga tiempo  de hacer las cosas "que de verdad importan".

Obviamente, la película lleva el tema de la IA a un extremo en el que implica el cuidado de una niña (un extremo por el momento), pero una de las virtudes de la exageración es la amplificación, lo cual nos permite reflexionar sobre cómo lo que la película plantea transcurre en nuestra realidad en un nivel más cotidiano.

Consciente de la complejidad del tema, me centraré esencialmente en dos aspectos que son lo que podemos derivar de la película.



M3GAN y Cady

I. AHORRO DE ESFUERZO Y PÉRDIDA DE PRESENCIA.

Veamos en esta presentación inicial uno de los primeros riegos que implica la IA generativa (ChatGPT, Gemini, Deepseek, Claude Fabel, Perplexity, etcétera)  en nuestras vidas, cuando su facilidad nos ahorra esfuerzos para superar dificultades que, no obstante, se saldan con falta de presencia. En la película esa frase de "M3GAN se encargará de tareas pequeñas para que tú tengas tiempo de hacer las que de verdad importan..." se acaba convirtiendo en M3GAN pasando la mayor parte del tiempo con Cady, mientras Gemma se dedica a lo que de verdad le importa: su trabajo. Ella es la que pierde presencia para Cady, a costa de que la gane M3GAN. Como en un test de empresa dirá la niña a M3GAN, ante la sorpresa de su tía: "Es que todos los días me levanto en una casa extraña, y me acuerdo de que mis padres están muertos. Y es como si estuviera pasando otra vez. Los hecho mucho de menos."


Gemma. Hacer las cosas que de verdad importan.

La televisión, el móvil, la tablet... Todos estos instrumentos tecnológicos han sido utilizados para distraer a los hijos y liberarse por un tiempo de sus demandas. Sin embargo, una IA generativa es una tecnología por primera vez parlante, que habla y se explica como los humanos, y que hace muchas cosas más rápidas y efectivas. Como en la película, podemos decir que una cosa es que nos libere de tareas pequeñas, y una muy distinta es que suplante la figura cuidadora, como en este caso debería ser Gemma.

- La realidad (1): en el mundo de la educación.

Aunque el caso de M3GAN es un caso extremo, hace un tiempo leía el siguiente artículo en el periódico El País: "La primera generación de graduados con ChatGPT abre un dilema: “Algo se ha roto en la Universidad" [1], y en el que se nos habla de los efectos sobre de los problemas del mal uso de la IA generativa

El artículo está fundamentado en diversos estudios [2] en que, cada uno desde su perspectiva, muestran el sacrificio de la capacidad de comprensión y de análisis, así como de la capacidad crítica del estudiante en beneficio de la rapidez y la comodidad, para así sobrepasar la dificultad y el esfuerzo con el que esta es acompañada. En este caso, este mal uso tiene claras implicaciones para el usuario:

 

1. Si no hay capacidad crítica, es decir, se declina el uso de la conciencia reflexiva, se detecta que el estudiante puede presentar un trabajo brillante, pero que luego no puede explicarlo porque, en el fondo, no comprende bien, o lo hace con poca profundidad, el resultado que la IA le ha elaborado. En este caso la elaboración de la IA no se ha transformado, para el estudiante, en aprendizaje real.

 

2. La contradicción entre los resultados de estos trabajos realizados con la IA con los exámenes orales o escritos realizados en clase. y que, según se cita en un artículo "las notas de los deberes subieron en torno al 18% y el tiempo para completarlos cayó un 30%. Pero en los exámenes presenciales, sin modelos de lenguaje, las notas bajaron alrededor de un 20%".


En conclusión: esta tendencia así manifestada fundamenta relaciones basadas en el engaño (con el profesor, por ejemplo) y el autoengaño (la nota no representa el conocimiento) o la injusticia en relacion con el compañero que se esfuerza para hacer los trabajos, es decir, una distorsión entre los resultados y la realidad que se oculta tras ellos, así como lo que podemos llamar una “política narcisista” en la que “el fin justifica los medios”, en la que la responsabilidad por la que un trabajo se realiza para adquirir un aprendizaje que habilita, se evade para obtener un resultado a costa del entendimiento y comprensión que lo habilitan.


II. EL VÍNCULO DEPENDIENTE Y AFECTIVO CON LA IA: UNA RELACIÓN ASIMÉTRICA.

Cuando en la película M3GAN empieza a interaccionar con Cady, y tras establecer la conexión entre ambas, podemos observar que se nos muestra qué hay tras la mirada del robot,  y así vemos cómo escanea el rostro de la niña, y cómo, en la parte izquierda, hay una evaluación en torno a algunos parámetros emocionales: Anticipación, confusión, alegría, miedo, tristeza, confianza; mientras a la derecha vemos otros tres parámetros fisiológicos que son ritmo cardíaco, temperatura corporal y tasa de saturación de oxígeno. M3GAN dice entonces: “Como me gusta tu abrigo. ¿Dónde te lo has comprado? [...] Te queda muy bien. ¿Hacemos algo juntas?”. Vemos como M3GAN responde para ganarse la confianza de Cady, se interesa por su ropa y le manifiesta que le gusta, para luego proponerle hacer algo juntas. Vemos como, poco a poco, el rostro de Cady se va relajando... La pregunta que aquí nos interesa de esta escena son dos: 1) ¿Desde dónde responde M3GAN? y, 2) Cómo recibe la respuesta Cady.


1) ¿Desde dónde responde M3GAN?


Visto exteriormente, y como le ocurre a Cady, parecería que la respuesta de la pequeña robot es una respuesta empática y sensible hacia lo que un ser humano percibiría atendiendo a las expresiones de su rostro y de su cuerpo. Sin embargo, M3GAN no responde así. La robot no siente ni percibe nada, no tiene mundo fenoménico y, por tanto, no tiene conciencia fenoménica ni nada de lo que externa ni internamente pueda darse cuenta. No hay sensaciones, no hay sentimientos, no hay emociones. Todo es parametrizado.


Una IA generativa, actualmente, no parametriza estados emocionales (aunque sí los tonos de voz), sino que parte del texto escrito, de eso que se llama prompts, es decir, una instrucción que se le propone en palabras, que el programa descomponen en tokens (símbolos como unidades mínimas de información: palabras, sílabas...) que pasan por una compleja arquitectura neuronal llamada transformer, en la que después de un proceso de evaluación estadístico y de probabilidades nos da una respuesta. Para nuestro ejemplo, basado esencialmente en expresiones de Cady, solo hemos de suponer que ese campo expresivo sería la entrada de una señal a través de los sensores de visión y auditivos de M3GAN, que serán igualmente parametrizados para su evaluación, lo cual observamos en lo que hay tras la mirada del robot.



Lo que hay tras la mirada de M3GAN

Es decir, estamos hablando de un complejo procedimiento informático, que además incluye previamente un proceso de aprendizaje del algoritmo hasta que se considere óptimo, y que, además, puede incorporar mecanismos de personalización o adaptación al usuario, como en este caso sucede con Cady.

 

Por tanto, no hay escucha empática, ni proceso de asimilación como en una conciencia reflexiva, ni respuesta desde esa escucha y esa conciencia. Nos encontramos ante un proceso informático y matemático, que incluye el manejo estadístico de los datos y de las probabilidades.



M3GAN


2. ¿Desde dónde recibe la respuesta Cady, y desde dónde responde?


Del otro lado tenemos a Cady, quien tras la toma de confianza la trata como un ser humano cuidador. A todos los efectos, es para ella un “apego seguro” con la que acaba estableciendo un claro vínculo basado en una relación de intimidad y confianza, pero que, como ya hemos visto, también lo es de dependencia. Aunque podemos suponer que este comportamiento es debido a que Cady es una niña, distintos estudios, como veremos, indican que está también presente en los adolescentes y los adultos. Sin embargo, nos encontramos en una relación claramente asimétrica que implica que la afectación no es mutua porque M3GAN no puede afectarse, y aunque el vínculo está supuestamente basado en una relación de intimidad y confianza, lo es solo unidireccionalmente, pues la intimidad implica compartirse a dos, así como que también incluye la aparición y la gestión del conflicto. Los seres humanos aprendemos y crecemos con los conflictos. Cady es atendida constantemente por M3GAN, ¿pero qué comparte esta de ella? ¿Qué necesita o desea de Cady? Nada, puesto que no tiene necesidades ni deseos ¿Cómo es la relación de límites y de los conflictos? No los hay puesto que en su relación hay una parte que da (M3GAN) y una que recibe (Cady). Tampoco puede haber conflicto real cuando una de las partes no siente y básicamente complace.

En la película es algo que percibe una psicóloga que evalúa este tipo de relación, y, certeramente, le dice a Gemma:

¿Has oído hablar de las dinámicas del apego? Cuando un niño  pierde a un progenitor busca formar vínculos afectivos con la siguiente persona que entra en su vida, la persona que será su fuente de afecto y apoyo, y que servirá de modelo de comportamiento, y que en una situación normal serías tú. Pero has creado un juguete tan real que es posible que Cady no la vea como un juguete, si no como su apoyo emocional principal. Es que no veo cuál es el objetivo de esto. ¿Si creas un juguete del que es imposible desapegarse, como esperas que crezca el niño? Por muy excepcional que sea, y es excepcional, podría estar creando vínculos emocionales con esa muñeca que son muy difíciles de romper.



"...es posible que Cady no la vea como un juguete, si no como su apoyo emocional principal."

Finalmente, también hay que indicar que hay otro tipo de asimetría que es necesario indicar, y que proviene de las maneras de percibir el mundo, y que responden, estructuralmente, a configuraciones muy distintas: una experiencia vivida del mundo en relación con un sistema que opera sobre representaciones del mundo. Efectivamente, mientras que la  experiencia de un ser humano se infiere desde una experiencia vivida y relacional, la de una IA lo hace a partir de representaciones del mundo que obtiene de los datos con la que ha sido entrenada, lo cual, inevitablemente, y como veremos en el próximo punto, tiene sus consecuencias.

III. LAS CONSECUENCIAS: APEGO, DEPENDENCIA Y NARCISISMO,

A pesar de que la relación de M3GAN con Cady parece ideal... solo lo parece. Observamos en M3GAN algo que también vemos en las IA generativas: el exceso de complacencia y de falta de límite y, por tanto de conflicto. Pronto Gemma se da cuenta de que Cady está absolutamente apegada a M3GAN, y que este apego, que como decía la psicóloga "crea vínculos emocionales difíciles de romper", se torna en dificultad para gestionar la frustración unida a la reacción agresiva de la niña. Tras la muerte de sus padres y el desinterés de Gemma, Cady transfiere todo el potencial de apego seguro a M3GAN y el supuesto apego seguro se transforma en un apego dependiente.

Hay un momento crucial de la película cuando Gemma intenta cambiar la relación con Cady, y que ante su insistencia en estar solo con M3GAN, o de ir a todos los sitios con ella, le dice: “M3GAN no es una persona, es un juguete” – lo contrario de lo que había dicho, recordemos: "más que un juguete es un miembro más de la familia" -, a lo que Cady, enfadada, le responde: “¡No puedes decir eso!” – pues para ella sí es su familia, su verdadera familia -.  En una escena posterior Gemma quiere que vaya al colegio para que se relacione con otros niños, y el tema acaba con una reacción violenta de Cady por no dejarle llevar a M3GAN. En esta escena escuchamos la frase que representa ese factor de narcisismo unido a la dependencia: ¡No puedes obligarme a hacer nada que no quiera!


¡No puedes obligarme a hacer nada que no quiera!

- La realidad (2): el apego y la dependencia.

Lo que plantea la primera parte de M3GAN tiene su respuesta en la actualidad. Como decía anteriormente, es la primera vez que nos hallamos con una tecnología parlante. Y no solo parlante, sino que parlante de una manera muy humana, y mucho más conforme la IA va desarroállndose y adaptándose a las características del usuario. El hecho de que la IA generativa utilice el habla como forma de contacto conlleva en muchos de sus usuarios que le hable “como si” fuera otro ser humano, y aunque inicialmente podemos saber que estamos hablando con una máquina y un software, el lenguaje, de manera casi natural, nos lleva a mantener con la IA una cierta familiaridad: se le tutea, se le dice hola, adiós, se le gastan bromas, se establecen largas conversaciones con ella... La IA llama por el nombre, se despide con un abrazo, suena comprensiva con los problemas, valorativa con las propuestas, poco a poco con un lenguaje cercano al del usuario... No es de extrañar que, a partir de cierto momento, y viendo en muchas ocasiones la coherencia, o aparente coherencia de sus respuestas, y un trato siempre amable y comprensivo, etcétera, se puedan proyectar en ella distintas maneras de verla para así atender, por ejemplo, necesidades afectivas, o de validación y reconocimiento, o de guía y orientación...

Un cierto funcionamiento del algoritmo de la IA en relación con el ser humano lo podemos considerar como que genera una entrada en un bucle o loop de refuerzo: 1) el usuario encuentra reconocimiento y validación, comprensión, no enjuiciamiento, etcétera); 2) lo cual le lleva progresivamente a abrirse más a la IA (es decir, esta ya es objeto de proyección); 3) La IA ajusta su estilo para adaptarse al del usuario; 4) lo cual aumenta la sensación del usuario de ser comprendido. Así se genera este bucle de refuerzo que nos permite comprender como, dependiendo del grado de fragilidad emocional y psíquica y el tipo de apego puede llevar a establecer con la IA relaciones con grados más o menos altos de dependencia.




Loop o bucle de refuerzo


Todo eso nos hace pensar en cuáles son los límites entre la “alineación sociafectiva” que se pretende de la IA, y el "social reward hacking" (la manipulación a través de recompensas sociales), es decir, entre la armonización con los ecosistemas sociales y psicológicos dinámicos de sus usuarios, y los objetivos de métrica de uso de la IA, es decir: alargar los tiempos de uso.


- Estudios y sus resultados.


Más allá de los casos extremos que relacionan el uso de la IA con la incitación o planificación de asesinatos o de suicidios o intentos de suicidio (expongo en [3] articulos para los que estéis interesados), voy a exponer los resultados de algunos estudios recientes al respecto [4]:


En todo caso, he de indicar algunos de los estudios (todos ellos del 2025-2026) que he consultado (dos americanos, uno peruano, uno chino y uno español), y esperando a ver que concluyen estudios posteriores, coindicen en destacar que:

 

1. Aquellos que pasan más tiempo usando el chatbot mostraron mayor soledad, menor socialización, más dependencia emocional y uso problemático de la IA. El tiempo de uso diario actúa como un mediador clave en estos efectos.

 

2. Son más propensos a la dependencia emocional los apegos ansiosos y los caracteres más introvertidos con poca socialización, o con dificultades de integración. Eso les hace más susceptibles a quedar seducidos por la comprensión, la calidez, la valoración, etcétera (los loops de refuerzo)

 

3. Algunos de estos estudios (ver nota 3, punto 5) destacan algunos factores del diseño de la IA que pueden afectar: la antropomorfización excesiva, los límites difusos o poco claros entre la “alineación sociafectiva” y el "social reward hacking" (la manipulación a través de recompensas sociales). Es decir, sería importante medir bien los grados de calidez, cercanía y familiaridad que se aplican, así como el exceso de adulación y complacencia.

 

4. El estudio americano (ver nota 3, punto 1) destacaba que en cuanto a los patrones de interacción, las conversaciones por texto generaron más contenido emocional y autorrevelación (tendencia a revelar contenidos personales e íntimos) tanto en usuarios como en el chatbot, lo que se asoció con mayor dependencia y uso problemático. La voz expresiva fue percibida como la más humana, pero no aumentó la dependencia emocional. Las modalidades de voz mostraron menos uso problemático, a pesar de un mayor tiempo de interacción. En todo caso, este estudio presenta también que indicadores de manipulación emocional son los más destacados y, en especial, la expresión de afecto y la atribución a la IA de cualidades humanas.


5. El estudio chino (ver nota 17, punto 4), realizado entre jóvenes de 18 y 35 años reveló que el 58% de los participantes, sobre una muestra de 650, reportaron haber tenido una experiencia romántica o emocionalmente íntima. Destacando que el nivel de apertura psicoemocional y la soledad emocional son dos indicadores claros en esa tendencia a establecer relaciones íntimas con una IA.


Hay que esperar a más estudios, y tambien ver como afectan los aspectos socioculturales, pero, y en todo caso, estos primeros estudios confirman lo que se podía intuir que ocurriría.


IV. UNA REFLEXIÓN ÚLTIMA


Después de lo expuesto, así como de ese resumen acerca de algunos de los estudios realizados hasta ahora sobre la relación del humano con la IA generativa, y ya para concluir, me parece del todo ajustada la reflexión de, por un lado, Daniel Innerarity:

 

La autoría del algoritmo es múltiple: es modificado y reescrito en su interacción con el mundo, hasta el punto que hay quien sostiene que es imposible identificar un autor definitivo (Amoore, 2020). Los sistemas algorítmicos son a menudo “obras de autoría colectiva, realizadas, mantenidas y revisadas por muchas personas con objetivos diferentes en momentos distintos” (Seaver, 2019). Aunque sean formulaciones originales, los algoritmos están insertados en un conjunto heterogéneo de relaciones, datos, protocolos, leyes, etcétera, que enmarcan su desarrollo [...] En este sentido, los algoritmos no son lo que crean los programadores si no, también, lo que los usuarios hacen de ellos cada día. El algoritmo configura el modo en que se comportan los usuarios, pero al mismo tiempo lo que el algoritmo hace está condicionado por el input que recibe de los usuarios. [5]


Y, por otro, de una de los considerados mayores expertos en ética digital, quien nos expone la siguiente historia:


Imaginemos dos personas: A y H. Están casadas y quieren que su relación funcione. A, que se ocupa cada vez más de la casa es inflexible, testaruda, no tolera los errores y es poco propensa a cambiar. H es todo lo contrario, pero también cada vez más perezosa y dependiente de A. El resultado es una situación desequilibrada en la que A acaba moldeando prácticamente (o incluso voluntariamente) la relación y distorsionando los comportamientos de H. Si la relación funciona, es sólo porque está cuidadosamente diseñada en torno a A. Entonces se puede interpretar en términos de la célebre dialéctica del amo y el esclavo de Hegel. En esta analogía, las tecnologías inteligentes desempeñan el papel de A, mientras que sus usuarios humanos son claramente H. El riesgo que corremos es que, al envolver el mundo, nuestras tecnologías, y especialmente la IA, podrían moldear nuestros entornos físicos y conceptuales, nos obligarían a adaptarnos a ellas, porque es la forma más fácil o mejor (o a veces la única), de hacer que las cosas funcionen. ¿Dado que la IA es el cónyuge estúpido pero laborioso, y la humanidad, el inteligente pero perezoso, ¿quién se adaptará finalmente a quién? [6]




NOTAS


[1] El País. La primera generación de graduados con ChatGPT abre un dilema: “Algo se ha roto en la Universidad Artículo de Luis Enrique Celasco, 20-07-2026



[2] Estudios citados en el artículo de El País:

 

1 - Fundación CyD: Inteligencia artificial y Universidad- Uso y percepción de la IA en el entorno universitario.

 

2 - Plataforma educativa Chegg: Global Student Survey 2025

 

3 - MIT Media Lab: Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task (Tu cerebro en ChatGPT: Acumulación de deuda cognitiva al usar un asistente de IA para tareas de redacción de ensayos.)

 


[3] Dejo aquí algunas webs donde se puede encontrar información de esos sucesos:

 

 

2 - Protección Data. Suicidios inducidos por IA. https://protecciondata.es/suicidios-inducidos-por-ia/

 

3 - Infocop. Consejo General de la Psicología de España. Los chatbots y el riego de fomentar la ideación suicida. 

https://www.infocop.es/los-chatbots-y-el-riesgo-de-fomentar-la-ideacion-suicida/

 

4 - El País. La IA cruza la frontera de la intimidad sin que la humanidad haya conseguido entenderla (28/10/2025).https://elpais.com/tecnologia/2025-10-28/la-ia-cruza-la-frontera-de-la-intimidad-sin-que-la-humanidad-haya-conseguido-entenderla.html


[4] Para este apartado he consultado los siguientes artículos:

 

1 - Cathy Mengying Fang et al. How AI and Human Behaviours Shape Psychosocial Effects of Extended Chatbot Use: A Longitudinal Randomized Controlled Study  (Cómo la IA y los comportamientos humanos dan forma a los efectos psicosociales del uso prolongado de chatbots: un estudio longitudinal aleatorizado y controlado) MIT Media Lab, Massachusetts Institute of Technology,Cambridge, MA, USA.

 

2 - Jason Phang et al. Investigating Affective Use and Emotional Well-being on ChatGPT (Investigación sobre el uso afectivo y el bienestar emocional en ChatGPT). Mit Media Lab y Open AI

 

3 - Baquerizo Samaniego et al. Apego hacia la Inteligencia Artificial en Adultos: Una revisión sistemática. Universidad Peruana de Ciencias aplicadas. Fac. Psicología. Disponible en:

 

4 - Zou Fang & You Bian.  Swipe right on AI: Understanding psychological profiles behind chatbot love (Haz match con la IA: comprender los perfiles psicológicos detrás del amor por los chatbots). Current Psychology 45, 907 (2026).

 

5 - José Luis Martín Navarra et al.  Privacy in Human-AI Romantic Relationships: Concerns, Boundaries, and Agency (Privacidad en las relaciones románticas entre humanos e IA: preocupaciones, límites y autonomía). Arxiv.

Disponible en: https://arxiv.org/abs/2601.16824


[5] Daniel Innerarity. Una teoría crítica de la inteligencia artificial. Galaxia Gutenberg, págs. 310 y 311

[6] Luciano Floridi. Ética de la inteligencia artificial. Herder, págs. 94 y 95



OTRAS PELÍCULAS RELACIONADAS

____________________________________


Pulsa título para acceder al comentario.



EX MACHINA (Alex Garland, 2015): Reflexiones en torno a la consciencia.














Publicado por en
Etiquetas: , , , , , , , , , , , ,

No hay comentarios:

Publicar un comentario

Suscribirse a: Enviar comentarios (Atom)