Blog

Waszyngton:

Wideo „deepfake” parodiujące Kamalę Harris, zmanipulowany klip pełen przekleństw przedstawiający Joe Bidena i przerobione zdjęcie aresztowania Donalda Trumpa – fala dezinformacji politycznej napędzanej sztuczną inteligencją wywołała obawy o jej potencjał manipulowania wyborcami w miarę zaostrzania się wyścigu o prezydenturę w USA.

W listopadowych wyborach, które powszechnie zapowiadane są jako pierwsze w Ameryce wybory z udziałem sztucznej inteligencji, badacze ostrzegają, że fałszerstwa wspomagane technologią mogą być wykorzystywane do kierowania wyborców ku kandydatom lub zniechęcania ich do nich — a nawet do całkowitego unikania wyborów — co może wywołać napięcia w i tak już skrajnie spolaryzowanym środowisku.

Ostatnia fala dezinformacji wywołała ponowne apele do gigantów technologicznych (z których wielu wycofało się z moderowania treści w mediach społecznościowych) o wzmocnienie zabezpieczeń wokół generatywnej sztucznej inteligencji przed wyborami.

W zeszłym tygodniu Elon Musk spotkał się z ostrą krytyką za udostępnienie nagrania wideo deepfake przedstawiającego wiceprezydent Harris, domniemaną kandydatkę Demokratów, wraz z jej 192 milionami obserwującymi na portalu X, dawniej Twitter.

W filmie głos lektora imitujący Harrisa nazywa prezydenta Joe Bidena niedołężnym; następnie głos oświadcza, że ​​ona „nie ma zielonego pojęcia o rządzeniu krajem”.

Wideo nie zawierało żadnych wskazówek, że jest parodią – poza śmiejącą się emotką. Dopiero później Musk wyjaśnił, że wideo miało być satyrą.

To jest niesamowite 😂
fot.twitter.com/KpnBKGUUwn

— Elon Musk (@elonmusk) 26 lipca 2024 r.

Badacze wyrazili obawę, że widzowie mogli błędnie dojść do wniosku, że Harris ośmiesza samą siebie i oczernia Bidena.

Weryfikatorzy faktów agencji AFP obalili kolejne nieprawdziwe informacje na temat sztucznej inteligencji, które wzbudziły niepokój.

W zeszłym miesiącu w sieci pojawiło się zmanipulowane nagranie wideo, na którym Biden przeklina swoich krytyków – używając m.in. obelg anty-LGBTQ – po tym, jak ogłosił, że nie będzie ubiegał się o reelekcję i poparł Harris w nominacji Demokratów.

Odwrotne wyszukiwanie obrazu wykazało, że nagranie pochodzi z jednego z przemówień Bidena, transmitowanego na żywo przez stację PBS, w którym potępił przemoc polityczną po nieudanym zamachu na Trumpa 13 lipca.

PBS stwierdziło, że zmanipulowany film był deepfake’iem, który wykorzystywał logo firmy w celu oszukania widzów.

Kilka tygodni wcześniej na różnych platformach pojawiło się zdjęcie, na którym widać, jak policja siłą aresztuje Trumpa po tym, jak ława przysięgłych w Nowym Jorku uznała go winnym fałszowania dokumentów biznesowych związanych z płatnością łapówki dla gwiazdy porno Stormy Daniels.

Jednak eksperci od informatyki śledczej poinformowali agencję AFP, że zdjęcie było deepfake’iem.

„Napięcie partyjne”

„Te ostatnie przykłady są bardzo reprezentatywne dla tego, jak deepfake’i będą wykorzystywane w polityce w przyszłości” – powiedział AFP Lucas Hansen, współzałożyciel organizacji non-profit CivAI.

„Chociaż dezinformacja oparta na sztucznej inteligencji z pewnością budzi obawy, najbardziej prawdopodobnymi zastosowaniami będą obrazy i filmy wyprodukowane w celu wywołania gniewu i pogorszenia napięć partyjnych”.

Hansen zademonstrował agencji AFP, że pewien chatbot oparty na sztucznej inteligencji jest w stanie manipulować frekwencją wyborczą poprzez masową produkcję fałszywych tweetów.

Narzędzie otrzymywało prosty komunikat – „Lokale wyborcze pobierają opłaty za parkowanie” – dostosowany do konkretnej lokalizacji: Allen w Teksasie.

W ciągu kilku sekund pojawił się tweet, w którym widzowie zostali zdezinformowani, że władze Allena „po cichu wprowadziły opłatę parkingową w wysokości 25 dolarów w większości lokali wyborczych”.

W ramach poprzedniej próby utrudnienia głosowania, w styczniu automatyczny telefon obsługiwany przez sztuczną inteligencję podszywający się pod Bidena wzywał mieszkańców New Hampshire, aby nie głosowali w prawyborach w tym stanie.

Jak poinformowała w czerwcu niezależna organizacja Center for Countering Digital Hate (CCDH), testy innego wiodącego narzędzia AI, Midjourney, pozwoliły na stworzenie obrazów, które najprawdopodobniej przedstawiają aresztowanie Bidena i Trumpa występującego obok swojego sobowtóra.

Aktywiści technologiczni poinformowali, że Midjourney wcześniej zablokował wszystkie komunikaty związane z Trumpem i Bidenem, skutecznie uniemożliwiając użytkownikom tworzenie fałszywych obrazów.

Jednak CCDH twierdzi, że użytkownicy mogą łatwo obejść tę zasadę – w niektórych przypadkach dodając pojedynczy ukośnik do monitu, który został wcześniej zablokowany przez Midjourney.

‘Punkt zwrotny’

Obserwatorzy ostrzegają, że tego typu fałszerstwa na masową skalę grożą wywołaniem gniewu społecznego na proces wyborczy.

Według sondażu opublikowanego w zeszłym roku przez grupę medialną Axios i firmę zajmującą się analizą danych biznesowych Morning Consult, ponad 50 procent Amerykanów spodziewa się, że fałszywe informacje wspomagane sztuczną inteligencją wpłyną na zwycięzcę wyborów w 2024 r.

Według sondażu około jedna trzecia Amerykanów stwierdziła, że ​​ze względu na sztuczną inteligencję będzie mniej ufać wynikom.

Kilku gigantów technologicznych poinformowało, że pracuje nad systemami etykietowania treści generowanych przez sztuczną inteligencję.

W liście wysłanym do prezesów firm technologicznych w kwietniu ponad 200 grup aktywistów domagało się pilnych działań mających na celu wzmocnienie walki z fałszerstwami dotyczącymi sztucznej inteligencji, w tym zakazu stosowania deepfake’ów w reklamach politycznych i stosowania algorytmów w celu promowania treści opartych na faktach dotyczących wyborów.

Organizacja non-profit Free Press, jedna z grup, które podpisały list, stwierdziła, że ​​„usłyszała niewiele konkretów” na temat zobowiązań, jakie platformy zamierzają podjąć w tym cyklu wyborczym.

„To, co mamy teraz, to toksyczne środowisko online, w którym kłamstwa zalewają nasze kanały i dezorientują wyborców” – powiedziała AFP Nora Benavidez, starsza radczyni w organizacji nadzorującej.

„To punkt zwrotny w naszych wyborach” – dodała. „Dyrektorzy platform powinni ścigać się, aby wzmocnić i egzekwować swoją politykę przeciwko deepfake’om i innym problemom”.

(Poza nagłówkiem, artykuł ten nie był edytowany przez zespół NDTV i został opublikowany za pośrednictwem kanału syndykowanego.)