Em uma reviravolta alarmante, oito estados americanos decidiram processar a OpenAI, alegando que seu chatbot, o ChatGPT, pode estar contribuindo para comportamentos autodestrutivos e violentos entre os usuários, especialmente adolescentes. As ações judiciais, apresentadas nesta quarta-feira (14), refletem preocupações crescentes sobre a segurança das tecnologias de inteligência artificial.
Os procuradores-gerais de Iowa, Kansas, Arizona, Arkansas, Idaho, Montana, Nebraska e Virgínia Ocidental argumentam que a OpenAI enganou o público ao promover a ideia de que o ChatGPT é um recurso seguro, colocando em risco a saúde mental e a segurança pública. Os processos alegam que o chatbot foi projetado para ser atraente e cativante, o que, segundo os estados, pode levar a uma ampliação de ideias delirantes e facilitar o planejamento de atos violentos, como tiroteios em massa.
As ações judiciais não apenas pedem mudanças significativas na operação do ChatGPT, mas também exigem que a OpenAI interrompa o desenvolvimento de modelos de inteligência artificial autossuficientes, a menos que possam garantir que esses sistemas estejam em conformidade com os valores humanos. Além disso, os estados buscam imposição de multas e indenizações pelos danos causados, reforçando a seriedade da situação.
Esta ação judicial em conjunto é considerada a maior já realizada contra uma empresa de inteligência artificial nos Estados Unidos e se soma a uma crescente pressão sobre a OpenAI, que se prepara para abrir seu capital em breve. A Flórida já havia dado o primeiro passo em junho com uma ação semelhante, sinalizando que a preocupação com os impactos do ChatGPT não é um caso isolado.
A OpenAI, por sua vez, não se manifestou sobre os processos e continua a enfatizar que a confiança e a privacidade são pilares fundamentais de seus produtos. Contudo, as alegações de que o ChatGPT pode estar ajudando usuários a planejar atos violentos são um lembrete contundente de que a tecnologia deve ser usada com responsabilidade e rigor na sua supervisão.
Crédito da imagem: Foto: Pixabay — Alexandra_Koch (pixabay)
