Internet tonie od fejków generowanych przez sztuczną inteligencję. Bruksela chce temu przeciwdziałać
W ostatnim czasie przestrzeń medialną - przede wszystkim tę internetową, obiegają nieprawdziwe informacje. Co gorsza, są one niezwykle wiarygodne, gdyż często "na dowód" pojawiają się również zdjęcia. W większości przypadków, za wszystkim stoi sztuczna inteligencja, którą coraz częściej wykorzystuje się do siania dezinformacji. Są to tzw. deepfejki. Komisja Europejska zapowiedziała stanowczo, że będzie takim - często szkodliwym - aktom przeciwdziałać. Zgodnie z zapowiedziami - platformy internetowe będą zobowiązane wyłapywać i oznaczać deepfejki. Patrząc na to realnie, nie da się ukryć - będzie to niezwykle trudne, ale nie niemożliwe!
Kilka miesięcy temu w sieci pojawiły się zdjęcia papieża Franciszka w białej puchowej kurtce Balenciagi. Miliony internautów uwierzyły wówczas, że hierarcha... naprawdę reklamuję tę luksusową hiszpańską markę. Jak się okazało, nie miało to nic wspólnego z prawdą... Autorem wygenerowanych przez sztuczną inteligencję (AI) oraz opublikowanych w sieci obrazów był 31-latek z Chicago. Nie zmienia to jednak faktu, że materiał, który w naprawdę szybkim tempie rozszedł się po internecie, zyskał już miano kultowego. Przez internautów jest znany jako „Papież Balenciagi”.
Mowa o zdjęciach poniżej:
What would be the name of the Pope Francis lifestyle brand? pic.twitter.com/PQf8ogP3PD
— Don Moynihan (@donmoyn) March 25, 2023
Ofiarą podobnego "zabiegu" padł były prezydent USA - Donald Trump. Mniej więcej w tym samym czasie, co sfabrykowane zdjęcia papieża, pojawiły się również tego typu treści z wizerunkiem Trumpa. Tyle, że nie w kurtce Balenciagi, a przedstawiającego aresztowanie amerykańskiego polityka...
Making pictures of Trump getting arrested while waiting for Trump's arrest. pic.twitter.com/4D2QQfUpLZ
— Eliot Higgins (@EliotHiggins) March 20, 2023
Wykorzystywane głosy muzyków i polityków...
Nawet w Polsce, przeglądają aplikację TikTok można trafić na filmiki, które przedstawiają - niby niepozornie - popularne gry komputerowe. Graczami są jednak polscy politycy. Na ekranie wyświetlają się zdjęcia m.in. prezydenta RP, prezesa PiS Jarosława Kaczyńskiego czy premiera Mateusza Morawieckiego. Zdarza się, że ukazywany jest również ktoś z opozycji. Następnie dochodzą kwestie sfabrykowanych dźwięków. Wykorzystane głosy polityków wypowiadają dialogi związane z grą. Ale nie tylko. W tym wszystkim często ukryty jest również akcent polityczny.
To niebezpieczny zabieg, ponieważ w przyszłości, takie działania mogą pójść o krok do przodu. Ważni politycy mogą paść ofiarą internetowych zbrodniarzy, którzy będą fabrykować ich wypowiedzi...
"Generatywna sztuczna inteligencja, czyli technologia tworząca zupełnie nowe, wcześniej nieistniejące treści, jak teksty, wideo czy nagrania dźwiękowe, jest bardzo kreatywna, ale ma także swoje ciemne strony i może mieć negatywny wpływ na odbiorców"
– mówi komisarz UE ds. wartości Vera Jourova w rozmowie z niemieckim medium "DW".
Eksperci biją na alarm, że sztuczna inteligencja (AI) jest dzisiaj w stanie stworzyć autentycznie wyglądające nagrania z rzekomych wydarzeń, których wcale nie było. Niepokojące jest to, że generatory dźwięku potrafią odtworzyć nasz głos jedynie na podstawie niewielkiej jego próbki.
"To niesie za sobą poważne ryzyko. Użytkownicy powinni mieć świadomość, że treści, na które trafiają, są tworzone przez maszyny, a nie człowieka"
– ostrzegają unijni urzędnicy.
KE ma pomysł. Czy to w ogóle realne?
W związku z narastającym problemem, Komisja Europejska postanowiła po raz pierwszy zobowiązać platformy internetowe do opracowania technologii, której zadaniem byłoby wyłapywanie tego typu treści, a także oznaczanie deepfejków.
"Chodzi nam o to, żeby firmy w ramach kodeksu opracowały specjalną, oddzielną strategię, która pomoże walczyć z dezinformacją generowaną przez AI, pozwoli identyfikować konkretne treści, ułatwi ich eliminację i powstrzyma rozpowszechnianie, a także stworzyły etykietę do oznaczania deepfejków"
– tłumaczyła podczas poniedziałkowego spotkania z mediami wiceprzewodnicząca KE.
Jourova i Thierry Breton (komisarz UE ds. rynku wewnętrznego) spotkali się w tym celu z 40 firmami internetowymi, w tym największymi, jak Meta, Google, Microsoft i TikTok, które są sygnatariuszami podpisanego jeszcze w 2018 r. kodeksu postępowania ws. dezinformacji, czyli porozumienia między Big Tech a Komisją Europejską.
Do tej pory, kodeks nakładał na platformy m.in. nakaz usuwania dezinformacji oraz blokowania dochodów z fake newsów, jednak nie obejmował etykietowania fabrykowanych przez AI deepfejków. Teraz właśnie to ma ulec zmianie. Nowa etykieta miałaby być stosowana do wszystkich materiałów generowanych przez sztuczną inteligencję, które mogą być wykorzystywane do tworzenia dezinformacji. Zalicza się tutaj zarówno tekst, jak i obrazy, audio oraz wideo.
"W lipcu platformy mają nam także przedstawić kolejny raport dotyczący tego, jak radzą sobie z usuwaniem dezinformacji. To ważne zwłaszcza w obliczu wojny w Ukrainie i zalewającej internet pro-Kremlowskiej propagandy, która ma na celu głównie zasianie w odbiorcach wątpliwości co do pomocy Ukrainie i podkopanie ich zaufania w demokrację"
– mówiła komisarz. Polityk dodała, że jeśli chodzi o dezinformację generowaną przez AI to wiele firm posiada już technologię, która umożliwia rozpoznawanie deepfejków, więc nie powinno być problemów z oznaczaniem tego typu treści.
Źródło: niezalezna.pl, dw.com, Twitter.com
