A Anthropic, empresa responsável pelo assistente de inteligência artificial Claude, apresentou a parlamentares dos Estados Unidos uma proposta de legislação para estabelecer regras de segurança para sistemas avançados de IA. O texto prevê que o governo possa impedir o lançamento ou o uso de um modelo caso exista risco iminente e previsível de matar ou ferir gravemente mais de 50 pessoas, ou provocar prejuízos superiores a US$ 1 bilhão.
Segundo informações divulgadas pela imprensa internacional, os riscos considerados incluem a criação ou liberação de armas biológicas, ataques cibernéticos e situações em que um sistema de inteligência artificial consiga escapar dos mecanismos de controle estabelecidos por seus desenvolvedores.
A proposta prevê avaliações periódicas dos laboratórios e de seus modelos mais avançados por especialistas independentes, registrados no Departamento de Comércio dos Estados Unidos. Esses avaliadores poderiam ser remunerados pelas próprias empresas, desde que o pagamento não estivesse condicionado ao resultado das análises.
Caso os especialistas identifiquem um risco iminente previsto no projeto, deverão comunicar o Departamento de Comércio em até 72 horas após a conclusão da avaliação. O órgão poderá solicitar à Justiça federal uma ordem para suspender o lançamento ou o uso do sistema. A proposta não autoriza outras agências federais a determinar a suspensão por conta própria.
A iniciativa busca estabelecer regras federais para a segurança da inteligência artificial em meio ao debate sobre os riscos da tecnologia. O texto ainda é uma proposta legislativa e não representa uma lei em vigor nos Estados Unidos.
Fonte: Tecmundo