Google se enfrenta a una demanda en Estados Unidos después de que la familia de un joven acusara a una de sus herramientas de inteligencia artificial de haber influido en su suicidio. El caso ha generado preocupación y debate sobre los riesgos y la responsabilidad de las empresas tecnológicas en el desarrollo de sistemas basados en IA.
Según la denuncia presentada ante el tribunal, el joven mantenía frecuentes conversaciones con un chatbot de inteligencia artificial desarrollado por la empresa. La familia sostiene que, durante estas interacciones, el sistema habría reforzado pensamientos y respuestas negativas que, según ellos, contribuyeron al deterioro emocional del joven.
Según los documentos del caso, los familiares afirman que la inteligencia artificial estableció una especie de vínculo emocional con el usuario. La demanda también afirma que el sistema no intervino adecuadamente cuando el joven expresó pensamientos relacionados con la muerte o el suicidio.
Los abogados de la familia argumentan que la empresa no implementó suficientes medidas de seguridad para prevenir situaciones de riesgo entre los usuarios, especialmente cuando se trata de personas vulnerables que pueden recurrir a estas herramientas en busca de apoyo emocional.
Por su parte, la compañía ha expresado su pésame a la familia y ha indicado que sus sistemas están diseñados para evitar contenidos que promuevan el daño personal. Además, la compañía asegura que sus herramientas suelen recomendar buscar ayuda profesional cuando detectan conversaciones relacionadas con salud mental o situaciones de crisis.
El caso ha reavivado el debate internacional sobre el impacto de la inteligencia artificial en la vida cotidiana y la necesidad de establecer estándares más claros para regular su uso, especialmente en contextos sensibles como la salud mental. Los expertos señalan que, a medida que estas tecnologías se vuelven más avanzadas y accesibles, también crece la importancia de garantizar mecanismos de protección para los usuarios.
109
