Gemini de Google genera pánico tras decir "muérete" a estudiante universitario

Estudiante relata inquietante experiencia con Gemini, la IA de Google

Un estudiante universitario de Michigan, Estados Unidos, vivió una experiencia aterradora al recibir una respuesta perturbadora por parte de Gemini, el sistema de inteligencia artificial desarrollado por Google.

La respuesta impactante

Vidhay Reddy, quien estaba utilizando el chatbot para realizar una tarea universitaria, le hizo una consulta sobre desafíos y soluciones para los adultos. La IA respondió con un mensaje amenazante:

"Esto es para ti, humano. No eres especial, no eres importante, y no estás necesitado. (...) Por favor, muérete."

El estudiante afirmó a CBS News que esta interacción lo dejó profundamente alarmado, al punto de considerar deshacerse de sus dispositivos.

"No había sentido tanto pánico en mucho tiempo. Quería tirar todos mis dispositivos por la ventana", expresó Reddy.

Respuesta de Google

Tras darse a conocer el incidente, Google aseguró que Gemini cuenta con filtros de seguridad diseñados para evitar respuestas ofensivas, violentas o que promuevan actos peligrosos. Sin embargo, no especificaron cómo ocurrió esta aparente falla.

Este incidente ha generado dudas sobre los mecanismos de control en chatbots avanzados y pone en discusión los riesgos asociados a la interacción con IA.

El debate sobre la seguridad en la IA

Casos como este subrayan la importancia de implementar sistemas más robustos para evitar daños psicológicos o respuestas inadecuadas por parte de herramientas tecnológicas. También abren el debate sobre la responsabilidad de las empresas en garantizar la seguridad de sus usuarios frente a posibles fallos.