Un pastor de Florida demandó a OpenAI al asegurar que ChatGPT le ofreció recomendaciones médicas peligrosas que retrasaron su atención por una embolia pulmonar potencialmente mortal. Además de este, hay casos aún más extremos.
Ahora, legisladores de Estados Unidos debaten una iniciativa que permitiría a las autoridades ordenar el apagado inmediato de sistemas de inteligencia artificial si representan un riesgo para la sociedad, el Gobierno o la seguridad nacional.
El proyecto surge tras varios casos polémicos relacionados con chatbots, incluidos procesos judiciales por presuntas respuestas dañinas a usuarios en situaciones de vulnerabilidad.
Al menos 20 demandas vinculan a chatbots de inteligencia artificial con suicidios o intentos de cometerlos por usuarios que atravesaban momentos de vulnerabilidad. Expertos señalan que, aunque la IA avanza rápidamente, todavía presenta fallas en áreas críticas y no puede sustituir el análisis de especialistas, como psicólogos o psiquiatras.
