Um dos principais pesquisadores de segurança da Anthropic, Evan Hubinger, afirmou que há mais de 10% de chance de a inteligência artificial “poder matar todos os humanos” na próxima década. Segundo ele, o risco dos modelos atuais ainda é baixo, mas existe preocupação com o avanço da tecnologia e com a possibilidade de sistemas passarem a melhorar a si próprios.
Hubinger, formado em Matemática e Ciência da Computação pelo Harvey Mudd College, já trabalhou no Machine Intelligence Research Institute (MIRI) e na OpenAI, com pesquisas voltadas à segurança da inteligência artificial. Ele não detalhou de que forma acredita que sistemas de IA poderiam, no futuro, levar à extinção da humanidade.
As declarações foram feitas em resposta a Jacob Coxon, ex-pesquisador da Anthropic e da OpenAI, que afirmou que as empresas não estariam agindo de forma responsável diante do avanço da tecnologia. Coxon disse que, em breve, sistemas poderiam superar humanos em capacidade, invadir qualquer sistema, transformar áreas inteiras rapidamente e adquirir poder e recursos.
Dame Wendy Hall, cientista da computação que assessora a ONU sobre IA, afirmou à BBC ter ficado “chocada” com as declarações. Ela levantou a possibilidade de que os comentários tenham relação com relações públicas e marketing, mas defendeu que os governos atuem conjuntamente. Enquanto isso, o Financial Times informou que a Anthropic reteve seu modelo mais recente do Instituto de Segurança de IA do Reino Unido (AISI), informação sobre a qual a empresa e o governo britânico não quiseram comentar.
Fonte: BBC
