O uso de softwares de inteligência artificial pelo governo dos Estados Unidos vem gerando preocupação entre os desenvolvedores. Funcionários das três principais empresas do ramo no país acabam de divulgar cartas reivindicando a criação de “linhas vermelhas” para que a utilização da IA não sirva para vigiar cidadãos em massa nem para armas autônomas.
Notícias Relacionadas
A primeira carta divulgada foi escrita por funcionárias da Anthropic, fundada por ex-empregados da OpenAI justamente por conta de preocupações desses desenvolvedores com a segurança. Eles denunciam pressão do Pentágono, o departamento de inteligência do governo dos Estados Unidos, para uso irrestrito da IA e desenvolvimento visando fins militares e de vigilância. Agora, funcionários do Google DeepMind e da OpenAI se somaram ao manifesto. O novo texto diz que o governo de Donald Trump está ameaçando sancionar as empresas para ajustar seus modelos “às demandas dos militares”, em retaliação às posições da Anthropic de “não permitir que seus modelos sejam usados para vigilância doméstica em massa e para matar pessoas de forma autônoma, sem supervisão humana”.
Conforme as denúncias, a estratégia do Pentágono é negociar e pressionar as três empresas para que, na disputa pelo mercado, alguma delas aceite as demandas do governo.
A discussão gerada pelos manifestos pode ser mais ampla. No texto dos funcionários da Anthropic, por exemplo, foi retirado um trecho da versão original que manifestava preocupação com a vigilância sobre cidadãos do mundo inteiro. Esse trecho acabou em uma nota de rodapé pelo temor de que a reivindicação “ampla demais” enfraquecesse o pleito. E o problema da vigilância, no texto, ficou restrito aos cidadãos dos Estados Unidos.
Veja abaixo na íntegra o texto dos funcionários do Google e da OpenAI:
Carta aberta
Não seremos divididos
O Departamento de Guerra está ameaçando invocar a Lei de Produção de Defesa para forçar a Anthropic a adaptar seu modelo às necessidades militares e “ajustá-lo às demandas dos militares”.
Classificar a empresa como um “risco na cadeia de suprimentos”.
Tudo isso em retaliação à Anthropic por se manter firme em suas linhas vermelhas de não permitir que seus modelos sejam usados para vigilância doméstica em massa e para matar pessoas de forma autônoma, sem supervisão humana.
O Pentágono está negociando com o Google e a OpenAI para tentar convencê-los a concordar com o que a Anthropic recusou.
Eles estão tentando dividir cada empresa com medo de que a outra ceda. Essa estratégia só funciona se nenhum de nós souber a posição dos outros. Esta carta serve para criar entendimento mútuo e solidariedade diante dessa pressão do Departamento de Guerra.
Somos funcionários do Google e da OpenAI, duas das principais empresas de IA do mundo.
Esperamos que nossos líderes deixem de lado suas diferenças e se unam para continuar recusando as atuais exigências do Departamento de Guerra para obter permissão para usar nossos modelos de vigilância em massa doméstica e matar pessoas de forma autônoma, sem supervisão humana.
