Firma Google zawarła z Pentagonem tajną umowę o wykorzystaniu swoich modeli AI przez Ministerstwo Obrony USA. O tym informuje Reuters, powołując się na wiadomość The Information. Informację tę potwierdziła również sama firma.
Informacje со ссылкой на źródła, zaznajomione z sytuacją, wskazują, że umowa pozwala Pentagonowi na wykorzystanie produktów AI Google do wszelkich legalnych celów rządowych. Umowa zobowiązuje firmę do dostarczania pomocy w dostosowywaniu parametrów bezpieczeństwa i filtrów sztucznej inteligencji na żądanie rządu.
Umowa zawiera również punkt, w którym strony uznają, że system sztucznej inteligencji nie powinien być używany do masowego nadzoru w kraju ani do tworzenia autonomicznej broni działającej bez odpowiedniej kontroli ze strony człowieka. Jednakże porozumienie nie daje Google prawa do kontrolowania działań rządu ani do weta jego legalnych operacyjnych decyzji.
W Google powiedzieli Reuters, że wspierają zarówno niejawne, jak i tajne rządowe projekty. Przedstawiciel firmy stwierdził, że Google nadal jest przywiązane do powszechnie akceptowanego poglądu, że sztuczna inteligencja nie powinna być wykorzystywana do masowego nadzoru w kraju ani w autonomicznej broni.
Pentagon poinformował agencję, że nie jest zainteresowany wykorzystaniem AI do masowego nadzoru nad Amerykanami ani do opracowywania autonomicznej broni, ale chce używać sztucznej inteligencji w jakichkolwiek legalnych celach.
Wcześniej to właśnie kwestia nadzoru nad Amerykanami przy użyciu AI doprowadziła do zerwania negocjacji między Anthropic a Ministerstwem Obrony oraz ich późniejszego konfliktu, w wyniku którego Pentagon uznał firmę za zagrożenie dla łańcucha dostaw USA. The Information, powołując się na służbową notatkę dyrektora generalnego Anthropic Dario Amodai, donosiło, że firma sprzeciwiała się wykorzystywaniu swoich technologii do „analizowania dużych zbiorów danych”, mając na myśli nadzór nad obywatelami USA.
Bezpośrednie zagrożenie dla wolności
W poniedziałek, 27 kwietnia, zanim ogłoszono zawarcie umowy z Pentagonem, ponad 560 pracowników Google podpisało otwarte pismo do CEO Sundara Pichai z wezwaniem do rezygnacji z udostępniania technologii AI rządowi USA do użytku w tajnych celach wojskowych. O tym informuje Financial Times.
„Chcemy widzieć, jak AI przynosi korzyści ludzkości, a nie jest wykorzystywane w nieludzki lub szkodliwy sposób” — mówi pismo. — „Dotyczy to śmiercionośnych autonomicznych systemów uzbrojenia i masowego nadzoru, ale to nie wszystko”. „Jedynym sposobem, aby zapewnić, że Google nie będzie związane z takimi szkodliwymi praktykami, jest rezygnacja z udziału w jakichkolwiek tajnych projektach. W przeciwnym razie wykorzystanie technologii może dziać się bez naszej wiedzy i bez możliwości ich zatrzymania” — dodają autorzy pisma (cytat z FT).
„To nie dotyczy tylko wojska. Masowy nadzór z wykorzystaniem AI to bezpośrednie zagrożenie dla wolności obywatelskich w USA” — powiedział FT jeden z uczestników kampanii, który podpisał pismo. — „To nie jest hipotetyczny ani mało prawdopodobny scenariusz; już się z tym spotykamy. Widzimy, jak AI jest wykorzystywane do wspierania autorytarnego reżimu w Chinach”.
Pismo podpisało około 18 najwyższych menedżerów firmy, w tym kierowników, dyrektorów i wiceprezesów. Najbardziej prominentną postacią, która wzięła udział w kampanii, był główny naukowiec DeepMind (działu AI Google), Jeff Dean. W lutym napisał w sieci X, że „masowy nadzór narusza Czwartą poprawkę i ogranicza wolność wypowiedzi”, a także potwierdził przywiązanie do zakazu śmiercionośnej autonomicznej broni, wprowadzonego przez firmę w 2018 roku.
Zakaz wprowadzono w związku z tym, że w 2018 roku tysiące pracowników Google podpisały petycję przeciwko projektowi Maven, w ramach którego planowano wykorzystanie AI do poprawy precyzji ataków dronów. Kilku pracowników odeszło z firmy. Po tym Google nie przedłużyło kontraktu i obiecało, że nie będzie rozwijać AI do nadzoru ani tworzenia broni.
Jednak w zeszłym roku firma dyskretnie zrezygnowała ze swojego stanowiska, nie zwracając na to uwagi, zauważa FT. Zaktualizowała swoje zasady dotyczące rozwoju AI i usunęła sformułowanie o zakazie opracowywania „broni lub innych technologii, których zasadniczym celem jest wyrządzanie krzywdy ludziom”.