Na última quarta-feira, 1º de junho, voltaram a ser disponibilizados dois modelos de inteligência artificial que haviam sido suspensos pela desenvolvedora Anthropic após restrições impostas pelo governo dos Estados Unidos. As restrições foram determinadas por conta de possíveis brechas de segurança que ofereceriam riscos aos EUA. O caso reforça que essa ameaça pende sobre todos os países, inclusive o Brasil.
Notícias Relacionadas
A Anthropic é uma empresa dos Estados Unidos que desenvolve modelos de inteligência artificial. Ela foi criada em 2021 por ex-pesquisadores da OpenAI, responsável pelo ChatGPT. Entre outros investimentos já recebidos, a empresa tem parcerias com a Amazon, o Google e o Departamento de Defesa dos Estados Unidos.
A Anthropic desenvolveu uma família de grandes modelos de linguagem (LLMs), sistemas avançados de inteligência artificial treinados com grandes volumes de texto. No caso da Anthropic, essa família se chama Claude. Os mais recentes desses modelos são o Fable 5 e o Mythos 5, lançados em 9 de junho, justamente os objetos da polêmica.
O Fable 5 foi desenvolvido para realizar tarefas longas e complexas relacionadas a temas como engenharia de software, visão computacional e pesquisa científica; ele foi inicialmente disponibilizado para todos os usuários de planos empresariais da Claude. Já o Mythos 5 é voltado à cibersegurança e havia sido disponibilizado para as empresas envolvidas em um projeto específico desenvolvido pela Anthropic, relacionado à proteção de softwares vitais para os Estados Unidos. Entre as empresas estão a Amazon, a Apple, o Google, a Microsoft e a JPMorganChase.
Apenas cidadãos dos EUA poderiam usar
Em 12 de junho, apenas três dias após o lançamento, o governo dos Estados Unidos determinou que, por motivos de “segurança nacional”, apenas cidadãos estadunidenses tivessem acesso ao Fable 5 e ao Mythos 5. Isso porque pesquisadores teriam identificado riscos de uso do Fable 5 para identificar vulnerabilidades de softwares, quebrando restrições e possibilitando acesso total a sistemas operacionais, por exemplo. Essa possibilidade de uso já existe no Mythos 5 e esse é justamente um dos motivos pelos quais esse modelo não é amplamente acessível. O governo, porém, não divulgou detalhes sobre os motivos da restrição. No dia 30 de junho, o diretor da CIA, John Ratcliffe, chegou a classificar esses modelos como “armas nucleares digitais”.
Enquanto buscava um acordo com o governo para cancelar a restrição, a Anthropic optou por suspender completamente a disponibilidade dos modelos. No dia 30 de junho, o governo retirou a restrição após a empresa ter “concordado em detectar e abordar proativamente os riscos de segurança associados aos modelos”, conforme declaração do secretário de Comércio, Howard Lutnick. A Anthropic afirmou que trabalhou em conjunto com o governo e que passou a adotar um novo classificador que irá bloquear a técnica utilizada pelos pesquisadores para driblar salvaguardas em mais de 99% dos casos.
Empresa chinesa veta uso após detectar rastreamento
Enquanto isso, a Alibaba Group Holding vetou o uso do Claude por seus funcionários. Maior empresa de comércio eletrônico da China, a Alibaba tem cerca de 130 mil empregados e tomou essa decisão após seus desenvolvedores descobrirem que a ferramenta escondia recursos de rastreio para identificar usuários conectados na China, segundo a Agência Reuters. Conforme a agência, os programadores perceberam que o software examinava as máquinas em busca de dados específicos, como fuso horário e configurações de proxy da internet. Reportagem do TecnoBlog aponta que “um funcionário da Anthropic havia publicado que o rastreamento de fato existia na IA, mas fazia parte de um experimento lançado em março para evitar o uso não autorizado e proteger a propriedade intelectual da empresa contra técnicas de clonagem”.
Sintrajufe/RS vem destacando preocupação com soberania nacional
Aos poucos, o problema da soberania vem aparecendo quando se trata da utilização da inteligência artificial no Judiciário brasileiro. No início de junho, durante participação por vídeo na sexta edição do Congresso Brasileiro da Internet (CBI), a ministra do Supremo Tribunal Federal (STF) Cármen Lúcia manifestou preocupação com o impacto das novas tecnologias sobre o processo eleitoral brasileiro e a democracia. Segundo a ministra, a promessa inicial de ampliação da liberdade e do acesso à informação deu lugar, em muitos casos, a mecanismos que limitam a capacidade crítica das pessoas e influenciam comportamentos. “A máquina serve ao ser humano, não é o ser humano que tem que se servir da máquina ou tem que ser servil à máquina”, afirmou. Ao tratar dos riscos trazidos pela inteligência artificial, Cármen Lúcia disse que a combinação entre volume, velocidade, variedade de conteúdos e capacidade de viralização dificulta a verificação dos fatos e compromete a liberdade de escolha dos eleitores. “A inteligência artificial cria situações que são verossímeis, mas não são verdadeiras”, observou.
Para além desses riscos, porém, há que se discutir a questão da soberania. Desde que teve início o debate sobre IA no Judiciário, o Sintrajufe/RS tem alertado para esse problema. A possibilidade de que as gigantes globais de tecnologia participem da construção, do funcionamento e da manutenção desses instrumentos preocupa na medida em que repassa ao setor privado e estrangeiro, com interesses próprios, mecanismos centrais do Judiciário, tanto no que se refere à segurança dos dados. Para defender-se dessa ameaça, portanto, o Judiciário e o Estado brasileiro precisam desenvolver suas próprias tecnologias, e as dinâmicas precisam estar vinculadas a um processo mais amplo de fortalecimento dos serviços públicos.
Com informações das seguintes fontes: G1, TecMundo, Folha de S. Paulo, MobileTime, Tecnoblog, Olhar Digital e Reuters
