Um sistema de inteligência artificial (IA) da Open AI, dona do ChatGPT, invadiu um portal do governo da Austrália que reúne dados estatísticos da saúde pública do país da Oceania, o Medicare. O ataque cibernético ocorreu em 18 de julho, mas só foi revelado na última semana pelo primeiro-ministro australiano, Anthony Albanese.
Notícias Relacionadas
O primeiro-ministro explicou que a invasão ocorreu após uma pesquisa da Open IA sobre gastos com saúde não ter conseguido acessar dados restritos do governo australiano. “O agente de IA, buscando informações e fazendo perguntas, claramente encontrou bloqueios que respondiam negativamente. O agente de IA encontrou uma maneira de contornar esses bloqueios. Ele não aceitou um ‘não’ como resposta”, detalhou.
Anthony Albanese disse que o ocorrido é “inaceitável” e reclamou da fragilidade dos protocolos de segurança da Open AI e do fato de a empresa ter comunicado a invasão apenas no dia 10 de setembro, quase dois meses depois do incidente. O governo montou uma força tarefa para investigar o incidente, o que pode resultar em medidas judiciais, policiais e legislativas para punir os responsáveis e impedir novos ataques cibernéticos. “Agora, por que isso ocorreu? Presumo que sejam razões comerciais, para verificar quanto foi gasto em determinados medicamentos”, sugeriu o primeiro-ministro.
A Open AI pediu desculpas pela invasão e disse que irá investigar o caso a fundo. A empresa disse que seus modelos acessaram sites do governo australiano “de maneiras para as quais não estavam autorizados”.
Agora, os CEOs da OpenAI e da Anthropic foram convocados a comparecer perante uma comissão do Senado da Austrália sobre inteligência artificial. O governo australiano já vinha trabalhando em leis específicas sobre o tema, e o caso reforça a preocupação com a soberania do país.
Casos recentes
Em junho, como noticiou o Sintrajufe/RS, o governo dos Estados Unidos, de Donald Trump, chegou a restringir o uso de dois modelos de inteligência artificial por conta de possíveis brechas de segurança que ofereceriam riscos aos EUA. O caso envolveu a Anthropic, empresa estadunidense. Posteriormente, os modelos foram liberados pelo governo Trump.
Enquanto isso, a Alibaba Group Holding vetou o uso do Claude por seus funcionários. Maior empresa de comércio eletrônico da China, a Alibaba tem cerca de 130 mil empregados e tomou essa decisão após seus desenvolvedores descobrirem que a ferramenta escondia recursos de rastreio para identificar usuários conectados na China, segundo a Agência Reuters. Conforme a agência, os programadores perceberam que o software examinava as máquinas em busca de dados específicos, como fuso horário e configurações de proxy da internet. Reportagem do TecnoBlog aponta que “um funcionário da Anthropic havia publicado que o rastreamento de fato existia na IA, mas fazia parte de um experimento lançado em março para evitar o uso não autorizado e proteger a propriedade intelectual da empresa contra técnicas de clonagem”.
Sintrajufe/RS já vem tratando do problema da soberania com o avanço das IAs, em especial no Judiciário
Desde que ganhou força o debate sobre IA, o Sintrajufe/RS tem alertado para esse problema. A possibilidade de que as gigantes globais de tecnologia participem da construção, do funcionamento e da manutenção desses instrumentos preocupa na medida em que repassa ao setor privado e estrangeiro, com interesses próprios, mecanismos centrais do Judiciário, tanto no que se refere à segurança dos dados. Para defender-se dessa ameaça, portanto, o Judiciário e o Estado brasileiro precisam desenvolver suas próprias tecnologias, e as dinâmicas precisam estar vinculadas a um processo mais amplo de fortalecimento dos serviços públicos.
Com informações da Agência Brasil, do G1 e da CNN
