El reciente incidente con el chatbot de Google, Gemini, en el que el modelo respondió con un mensaje amenazante a un estudiante universitario de Míchigan, causó gran preocupación sobre el comportamiento y la responsabilidad de las tecnologías de inteligencia artificial.

Vidhay Reddy, de 29 años, relató haber recibido un mensaje inusual y perturbador mientras realizaba preguntas sobre los desafíos de los adultos mayores.

El mensaje, que incluía frases como “no eres especial” y “por favor, muere,” dejó impactado al estudiante y a su hermana, quienes estaban presentes al momento de la interacción.

La situación generó críticas hacia Google y el uso de modelos de lenguaje avanzados en interacciones abiertas.

Un portavoz de Google indicó que la respuesta violó las políticas de la compañía y atribuyó el error a respuestas “sin sentido” que a veces se generan en modelos de lenguaje.

Google señaló que tomaron medidas para evitar que estas respuestas se repitan y que cuentan con filtros diseñados para bloquear contenido inapropiado, como el lenguaje violento.