A empresa Google firmou um acordo secreto com o Pentágono para o uso de seus modelos de IA pelo Departamento de Defesa dos EUA. Isso foi reportado pela Reuters com base em uma declaração da The Information. A informação também foi confirmada pela própria empresa.
A Informação com link para fontes familiarizadas com a situação, aponta que o acordo permite que o Pentágono utilize produtos de IA do Google para quaisquer fins legais do governo. O pacto obriga a empresa a oferecer suporte na configuração de parâmetros de segurança e filtros de inteligência artificial a pedido do governo.
O acordo também inclui uma cláusula que reconhece que o sistema de inteligência artificial não deve ser utilizado para vigilância em massa dentro do país ou para criar armas autônomas que operem sem o devido controle humano. No entanto, a concordância não dá à Google o direito de controlar as ações do governo ou vetar suas decisões operacionais legais.
A Google afirmou à Reuters que acompanha projetos governamentais tanto secretos quanto não secretos. Um representante da empresa declarou que a Google ainda está comprometida com a opinião amplamente aceita de que a inteligência artificial não deve ser usada para vigilância em massa dentro do país ou em armas autônomas.
O Pentágono declarou à agência que não está interessado em usar IA para vigilância em massa sobre os americanos ou para desenvolver armas autônomas, mas quer utilizar inteligência artificial para qualquer objetivo legal.
Anteriormente, a questão da vigilância sobre os americanos usando IA resultou na interrupção das negociações entre a Anthropic e o Departamento de Defesa, levando ao seu subsequente conflito, no qual o Pentágono reconheceu a empresa como uma ameaça à cadeia de suprimentos dos EUA. O Information, citando uma nota interna do CEO da Anthropic, Dario Amodei, informou que a empresa se opôs ao uso de suas tecnologias para "análise de grandes volumes de dados obtidos", referindo-se à vigilância sobre os residentes dos EUA.
Uma ameaça direta à liberdade
Na segunda-feira, 27 de abril, antes de se saber sobre a conclusão do acordo com o Pentágono, mais de 560 funcionários da Google assinaram uma carta aberta ao CEO Sundar Pichai pedindo que a empresa não fornecesse tecnologias de IA ao governo dos EUA para uso em objetivos militares secretos. Isso foi relatado pelo Financial Times.
"Queremos ver a IA beneficiando a humanidade, e não sendo usada de maneiras desumanas ou maliciosas", diz a carta. "Isso se refere a sistemas autônomos letais e vigilância em massa, mas não se limita a isso." "A única maneira de garantir que a Google não esteja envolvida em tais práticas prejudiciais é se afastar de qualquer projeto secreto. Caso contrário, o uso das tecnologias pode ocorrer sem o nosso conhecimento e sem a possibilidade de interrompê-lo", acrescentam os autores da carta (citação do FT).
"Não se trata apenas de militares. A vigilância em massa usando IA é uma ameaça direta às liberdades civis nos EUA", disse ao FT um dos membros da campanha que assinou a carta. "Esse não é um cenário hipotético ou improvável; já estamos enfrentando isso. Vemos como a IA é usada para apoiar regimes autoritários na China."
A carta foi assinada por cerca de 18 executivos de alto nível da empresa, incluindo diretores, gerentes e vice-presidentes. A figura mais proeminente a participar da campanha foi o chefe científico da DeepMind (subsidiária de IA da Google), Jeff Dean. Em fevereiro, ele escreveu na rede social X que "a vigilância em massa viola a Quarta Emenda e restringe a liberdade de expressão", além de reafirmar o compromisso com a proibição de armas autônomas letais, imposta pela empresa em 2018.
A proibição foi instaurada devido ao fato de que, em 2018, milhares de funcionários da Google assinaram uma petição contra o projeto Maven, que pretendia usar IA para melhorar a precisão dos ataques de drones. Vários funcionários deixaram a empresa. Depois disso, a Google não renovou o contrato e prometeu não desenvolver IA para vigilância ou criação de armas.
No entanto, no ano passado, a empresa silenciosamente mudou sua posição, sem chamar atenção para isso, observa o FT. Ela atualizou seus princípios de desenvolvimento de IA e removeu a formulação que proibia o desenvolvimento de "armas ou outras tecnologias cujo objetivo principal é causar dano às pessoas."