La société Google a signé un accord secret avec le Pentagone pour que ses modèles d'IA soient utilisés par le ministère de la Défense des États-Unis. C'est ce qu'indique Reuters se basant sur un rapport de The Information. L'agence a également confirmé l'information auprès de l'entreprise elle-même.
Les infos, selon des sources proches du dossier, soulignent que l'accord permet au Pentagone d'utiliser les produits IA de Google pour toute fin gouvernementale légale. Le contrat oblige la société à fournir de l'aide pour configurer les paramètres de sécurité et les filtres d'intelligence artificielle à la demande du gouvernement.
L'accord inclut également une clause selon laquelle les parties reconnaissent que le système d'intelligence artificielle ne doit pas être utilisé pour la surveillance de masse à l'intérieur du pays ou pour créer des armes autonomes fonctionnant sans contrôle humain approprié. Cependant, l'accord ne donne pas à Google le droit de contrôler les actions du gouvernement ou de mettre son veto à ses décisions opérationnelles légitimes.
Google a déclaré à Reuters qu'il accompagnait à la fois des projets gouvernementaux non secrets et secrets. Un représentant de l'entreprise a déclaré que Google restait attaché au consensus général selon lequel l'intelligence artificielle ne doit pas être utilisée pour la surveillance de masse à l'intérieur du pays ou dans des armes autonomes.
Le Pentagone a déclaré à l'agence qu'il n'était pas intéressé par l'utilisation de l'IA pour la surveillance de masse des Américains ou pour le développement d'armes autonomes, mais qu'il souhaitait utiliser l'intelligence artificielle à des fins légales.
Auparavant, la question de la surveillance des Américains par le biais de l'IA avait conduit à l'échec des négociations entre Anthropic et le ministère de la Défense, entraînant leur conflit ultérieur, au cours duquel le Pentagone a reconnu l'entreprise comme une menace pour la chaîne d'approvisionnement des États-Unis. The Information, citant une note interne du PDG d'Anthropic, Dario Amodei, a déclaré que l'entreprise s'opposait à ce que ses technologies soient utilisées pour «analyser de grandes quantités de données recueillies», faisant référence à la surveillance des résidents américains.
Une menace directe à la liberté
Le lundi 27 avril, avant qu'il ne soit révélé qu'un accord avait été conclu avec le Pentagone, plus de 560 employés de Google ont signé une lettre ouverte au PDG Sundar Pichai, lui demandant de ne pas fournir de technologies d'IA au gouvernement américain pour une utilisation dans des objectifs militaires secrets. Cela a été rapporté par le Financial Times.
«Nous voulons voir l'IA bénéficier à l'humanité, et non être utilisée de manière inhumaine ou nuisible», indique la lettre. «Cela concerne les systèmes d'armement autonomes mortels et la surveillance de masse, mais ce n'est pas limité à cela». «La seule façon de garantir que Google ne sera pas associé à de telles pratiques nuisibles est de se retirer de tout projet secret. Sinon, l'utilisation des technologies peut se faire sans notre connaissance et sans possibilité de l'arrêter», ajoutent les auteurs de la lettre (citation selon FT).
«Il ne s'agit pas seulement de militaires. La surveillance de masse utilisant l'IA est une menace directe aux libertés civiles aux États-Unis», a déclaré à FT un des participants à la campagne ayant signé la lettre. «Ce n'est pas un scénario hypothétique ou peu probable ; nous y faisons déjà face. Nous voyons comment l'IA est utilisée pour soutenir un régime autoritaire en Chine».
La lettre a été signée par environ 18 hauts dirigeants de l'entreprise, y compris des responsables, des directeurs et des vice-présidents. La figure la plus marquante ayant participé à la campagne a été le directeur scientifique de DeepMind (la branche IA de Google), Jeff Dean. En février, il a écrit sur le réseau social X que «la surveillance de masse viole le Quatrième Amendement et entrave la liberté d'expression», tout en confirmant son engagement envers l'interdiction des armes autonomes mortelles, mise en place par l'entreprise en 2018.
L'interdiction a été mise en place en raison du fait qu'en 2018, des milliers d'employés de Google ont signé une pétition contre le projet Maven, dans le cadre duquel l'IA devait être utilisée pour améliorer la précision des frappes de drones. Plusieurs employés ont quitté l'entreprise. Après cela, Google n'a pas renouvelé le contrat et a promis de ne pas développer d'IA pour la surveillance ou la création d'armes.
Cependant, l'année dernière, l'entreprise a discrètement abandonné sa position, sans insister sur ce point, note le FT. Elle a mis à jour ses principes de développement de l'IA et a supprimé la formulation interdisant le développement d'«armes ou d'autres technologies dont le but principal est de nuire aux personnes».