Wideo wygenerowane przez sztuczną inteligencję przedstawiające narodowe celebracje w Wenezueli przepływały przez media społecznościowe po usunięciu Nicolása Madura z władzy.

Te klipy — całkowicie wytworzonych za pomocą AI generatywnej — przedstawiają ogromne tłumy oklaskujące, machające flagami i dziękujące prezydentowi Donaldowi Trumpowi oraz wojsku amerykańskiemu. Problem? Żadne z tych wydarzeń nie miało miejsca.

Jednym z pierwszych i najbardziej viralnych wideo było opublikowane przez konto X Wall Street Apes, które ma ponad milion followerów. Pokazywało ono Wenezuelczyków płacących, objmujących się i chwalących Stany Zjednoczone za „wyzwolenie” kraju z Madura.

Post został oznaczony dopiero po tym, jak zdobył 38 000 repostów i 5,6 miliona wyświetleń — a nawet pojawił się w feedzie Elona Muska, zanim użytkownik go usunął. Notatka społeczności brzmiała:

„To wideo jest generowane przez AI i obecnie prezentowane jako fakt, z zamiarem wprowadzenia w błąd.”

Platformy AI napędzają rozprzestrzenianie się fałszywych klipów z Wenezueli.

Dziennikarze faktów z BBC i AFP prześledzili najwcześniejszą wersję wideo do konta TikTok o nazwie @curiousmindusa, które regularnie publikuje treści generowane przez AI.

Chociaż dokładne źródło nie mogło zostać potwierdzone, obie agencje zidentyfikowały to jako najwcześniejsze znane przesłanie. Wideo zaczęło krążyć krótko po tym, jak amerykańska armia rozpoczęła operację 3 stycznia, która doprowadziła do aresztowania Maduro.

Nawet zanim urzędnicy opublikowali rzeczywiste zdjęcie aresztowania Maduro, fałszywe obrazy AI już krążyły w sieci.

AFP obaliło dodatkowe mylące treści, w tym klip z ulicznej imprezy, który rzekomo pochodził z obchodów w Caracas — ale okazało się, że to stare nagranie z Chile.

Manipulacja AI nie jest nowa. Widzieliśmy podobne taktyki podczas wojny rosyjsko-ukraińskiej i konfliktu izraelsko-palestyńskiego. To, co wyróżnia falę wenezuelską, to szybkość, jakość i realizm fałszywych filmów.

Nowoczesne narzędzia, takie jak Sora i Midjourney, pozwalają użytkownikom na tworzenie realistycznych materiałów deepfake w ciągu kilku minut — a ludzie dzielą się nimi bez wahania.

Platformy społecznościowe mają trudności z opanowaniem fali deepfake'ów.

Twórcy tych filmów często promują narracje polityczne lub po prostu próbują siać chaos. I to działa.

W zeszłym roku, wideo generowane przez AI przedstawiające kobiety „płaczące” z powodu utraty świadczeń SNAP podczas zamknięcia rządu USA zostało wyemitowane przez Fox News jako prawdziwe, aż do momentu, gdy później poprawiono tę informację.

Rosnące obawy doprowadziły rządy do wezwania do wprowadzenia surowych przepisów dotyczących oznakowania treści AI:

  • Indie zaproponowały obowiązkowe ujawnianie treści generowanych przez AI.

  • Hiszpania zatwierdziła kary sięgające 35 milionów euro za nieoznakowane treści AI.

TikTok i Meta twierdzą, że wdrożyły narzędzia do wykrywania i oznaczania wideo generowanych przez AI. CNBC znalazło kilka wenezuelskich deepfake'ów poprawnie oznaczonych — ale wiele innych umknęło uwadze.

X, z drugiej strony, polega głównie na notatkach społeczności. Krytycy twierdzą, że system jest zbyt wolny — w momencie, gdy pojawia się ostrzeżenie AI, miliony już obejrzały i podzieliły się fałszywym materiałem.

Nawet liderzy technologii przyznają, że problem AI będzie się pogarszać.

Adam Mosseri, szef Instagrama i Threads, ostrzegł:

„Wszystkie główne platformy będą coraz lepsze w identyfikowaniu treści AI, ale z czasem będziemy w tyle — AI stanie się znacznie lepsze w naśladowaniu rzeczywistości.”

Dodał:

„Może wkrótce będzie łatwiej zidentyfikować autentyczne media niż wykryć fałszywki.”

Wenezuelska fala deepfake'ów to zapowiedź tego, co nadchodzi — świat, w którym dezinformacja może być tworzona natychmiast i rozprzestrzeniana globalnie, zanim prawda zdąży nadążyć.


#FAKENEWS , #venezuela , #AI , #worldnews , #tiktok

Bądź o krok do przodu – obserwuj nasz profil i bądź na bieżąco ze wszystkim, co ważne w świecie kryptowalut!

Uwaga:

,,Informacje i opinie przedstawione w tym artykule mają na celu wyłącznie cele edukacyjne i nie powinny być traktowane jako porady inwestycyjne w żadnej sytuacji. Treść tych stron nie powinna być uważana za porady finansowe, inwestycyjne ani jakiekolwiek inne formy doradztwa. Ostrzegamy, że inwestowanie w kryptowaluty może być ryzykowne i może prowadzić do strat finansowych.“