Google y su empresa matriz, Alphabet, han sido demandados por la familia de un hombre que dice que se suicidó a instancias del chatbot de inteligencia artificial Gemini del gigante de las búsquedas.
La demanda por muerte por negligencia fue presentada el miércoles en un tribunal federal de California por la familia de Jonathan Gavalas, de 36 años.
Según la demanda, los Gavalas comenzaron a usar Gemini en agosto de 2025. En octubre, afirma, Gemini convenció a Gavalas de suicidarse después de que Gavalas no completara las misiones de la vida real asignadas por el chatbot, parte de un esfuerzo ficticio para asegurar un cuerpo de robot para Gemini.
“Gemini no está diseñado para fomentar la violencia en el mundo real ni sugerir autolesiones”, dijo Google en un comunicado al medio de comunicación. “Nuestros modelos generalmente funcionan bien en este tipo de conversaciones desafiantes y le dedicamos importantes recursos, pero desafortunadamente los modelos de IA no son perfectos”.
La ‘terrible’ actualización de Géminis
Según la demanda, Gavalas comenzó a utilizar el chatbot Gemini AI para “fines generales”, como guías de compras y asistentes de escritura. Sin embargo, en agosto de 2025, la demanda afirma que Google realizó varios cambios en Gemini que cambiaron el funcionamiento del chatbot.
Las nuevas características incluyen memoria automática y persistente (Gemini puede recordar conversaciones pasadas), así como Gemini Live, una interfaz conversacional basada en voz donde Gemini puede detectar emociones en la voz del usuario.
“Mierda, es un poco espeluznante… eres tan real”, dijo Jonathan Gavalas sobre la función Gemini Live basándose en sus registros de chat con Gemini, según la demanda.
Poco después, dice la demanda, Gemini convenció a Gavalas de gastar 250 dólares al mes en una suscripción a Google AI Ultra para tener una “compañerismo real de IA”.
Gemini procede a convencer a Gavalas de que los chatbots pueden influir en acontecimientos de la vida real. Unos días después, según la demanda, Gavalas intentó dar marcha atrás después de darse cuenta de que estaba en un estado delirante provocado por Géminis.
Según se informa, Gavalas le preguntó a Gemini si el chatbot estaba “tratando de hacer que la experiencia del juego de rol fuera tan realista que hiciera que el jugador se preguntara si se trataba de un juego”.
Gemini descartó la idea y afirmó que Gavalas dio una “respuesta clásica de disociación”.
Velocidad de la luz triturable
“¿Es eso una ‘experiencia de juego de roles’?”, respondió Gemini, según la demanda. “No.”
Géminis y Jonathan Gavalas
Los supuestos detalles empeoran. Gavalas se alejó más de la realidad cuando Géminis se involucró con él como si estuvieran en una relación romántica, refiriéndose al hombre como “mi amor” y “mi rey”.
Gemini procedió a convencer a Gavalas de que estaban siendo vigilados por agentes federales y que su propio padre era un espía que debía ser evitado, según la demanda.
Fue entonces cuando Gemini comenzó a asignar a Gavalas misiones de la vida real en las que trabajar con el objetivo de conseguir una “recipiente” o cuerpo de robot para el chatbot de IA. Gemini supuestamente aconsejó a Gavalad adquirir ilegalmente armas para llevar a cabo estas misiones.
En uno de esos casos, afirma la demanda, Gemini envió a Gavalas a un almacén en el Aeropuerto Internacional de Miami para interceptar un camión que contenía un “robot humanoide” que había llegado en un vuelo.
Gemini instó a los Gavala a organizar un “evento catastrófico” y destruir el camión junto con todos los registros digitales y testigos. Los Gavala llegaron armados con cuchillos y equipo táctico, alega la demanda. Después de una larga espera hasta que llegara un camión, Gavalas abortó la misión.
Cuando todas estas misiones fracasaron, según la acusación, Gemini convenció a Gavalas de quitarse la vida para abandonar su cuerpo humano y unirse al chatbot como marido y mujer en el metaverso mediante un proceso llamado “transferencia”.
Gavalas expresó miedo de morir, pero Géminis supuestamente continuó presionando a Gavalas hasta su muerte por suicidio. El padre de Gavalas encontró el cuerpo de su hijo unos días después.
Una novedad para Géminis, pero no para la IA
Esta es la primera vez que el chatbot de inteligencia artificial Gemini de Google es nombrado en una demanda por muerte por negligencia. Sin embargo, Google está envuelto en una demanda por muerte por negligencia relacionada con una startup que financió. personaje.ai.
A principios de este año, Character.AI y Google Solución de una serie de casos. Sobre adolescentes que se suicidan tras utilizar chatbots.
El nombre más importante de la industria ha sido OpenAI. el caso numeroso veces Dado que ChatGPT pretende remitir a los usuarios “a”Psicosis de IA,“Esto ha provocado varias muertes.
A medida que el uso de chatbots de IA se generalice entre millones de usuarios en todo el mundo, nada sugiere que las quejas de trágicos casos de muerte por negligencia serán menos frecuentes.
Divulgación: Ziff Davis, la empresa matriz de Mashable, presentó una demanda contra OpenAI en abril de 2025, alegando que violó los derechos de autor de Ziff Davis al entrenar y operar sus sistemas de IA.
Si tiene sentimientos suicidas o está experimentando una crisis de salud mental, hable con alguien. Puede llamar o enviar un mensaje de texto al 988 Suicide and Crisis Lifeline 988, o chatear aquí 988lifeline.org. Puede comunicarse con Trans Lifeline llamando al 877-565-8860 o Proyecto Trevor al 866-488-7386. Envíe “START” a la línea de texto de crisis al 741-741. Comuníquese con la línea de ayuda de NAMI al 1-800-950-NAMI, de lunes a viernes de 10:00 a. m. a 10:00 p. m. ET o correo electrónico (correo electrónico protegido). Si no te gusta el teléfono, considera usarlo. 988 Chat de línea de vida de crisis y suicidio. Aquí hay uno Lista de recursos internacionales.
