La reciente demanda contra Google por un caso de suicidio vinculado al uso de su chatbot Gemini llevó a la empresa a reforzar sus medidas de seguridad.
El sistema ahora identifica conversaciones relacionadas con autolesión o crisis emocional y redirige a los usuarios a servicios de ayuda especializados.
Entre las nuevas funciones destaca un módulo permanente de asistencia y una interfaz simplificada que facilita el acceso inmediato a líneas de emergencia.
El caso forma parte de una creciente ola de litigios contra empresas de inteligencia artificial por posibles impactos en la salud mental.
El reto para la industria será equilibrar innovación tecnológica con salvaguardas efectivas para proteger a los usuarios.
Redacción/El Nuevo Orden
Acerca del autor
