Stworzone przez AI zdjęcia jak prawdziwe. „Trzeba to uregulować”

Elliot Higgins, założyciel portalu śledczego Bellingcat, opublikował na Twitterze serię zdjęć z zatrzymania Donalda Trumpa. Widać na nich, jak były prezydent USA ucieka przed policją, zostaje złapany, próbuje się wyrwać, jego żona krzyczy, jest też Trump na sali sądowej, w celi i na więziennym korytarzu. Fotografie wyglądają jak prawdziwe, ale wszystko jest stworzone dzięki sztucznej inteligencji Midjourney v5.

„Deep fake / obrazki generowane przez AI powinny zostac szybko.. wlasciwie co? Uregulowane? Zakazane? Oznaczane?” - zastanawiała się Anna Wittenberg, dziennikarka „Dziennika Gazety Prawnej”.

To idzie daleko. Bez powiekszania zdjecia wlasciwie juz mozna dac sie nabrac.

Deep fake / obrazki generowane przez AI powinny zostac szybko.. wlasciwie co? Uregulowane? Zakazane? Oznaczane? https://t.co/T9mWvYShio

— anna wittenberg (@annawitten) March 21, 2023

„Każda poważna agencja fotograficzna, każda instytucja medialna wypuszczającą zdjęcia, już teraz powinna umieszczać mały znak wodny z nazwiskiem fotografa, to powinno być wyznacznikiem autentyczności, zawsze można wtedy szybko potwierdzić autentyczność u źródła” - stwierdził Jakub Szymczuk, fotograf prezydenta RP.

Każda poważna agencja fotograficzna, każda instytucja medialna wypuszczającą zdjęcia, już teraz powinna umieszczać mały znak wodny z nazwiskiem fotografa, to powinno być wyznacznikiem autentyczności, zawsze można wtedy szybko potwierdzić autentyczność u źródła.

— Jakub Szymczuk (@jakub_szymczuk) March 21, 2023

Na uwagę, że ktoś mógłby stworzyć i potwierdzić fake'a, odparł: „Tu jedyna droga będzie masowa edukacja społeczna, pewnych rzeczy nie przeskoczymy”.

Jak walczyć z deepfake'ami? „Nie ma specjalnego instrumentu w polskim prawie”

O fakenewsach pisze też Wojtek Kardyś, konsultant biznesowy, specjalista od komunikacji internetowej i digital marketingu. Jak im zapobiec? „1. Możemy jako firmy/korporacje edukować społeczeństwo z #AI oraz fact-checkingu. Kampanie zwiększające świadomość, darmowe webinary, wydarzenia/konferencje etc. Jest to szybsza droga. 2. Możemy lobbować/naciskać na władze/big techy by zaczęły regulować Sztuczną Inteligencję (np: KONIECZNE oznaczenia wodne na zdjęciu w widocznym miejscu). Jest to wolniejsza droga (ale bardziej skuteczna)” - zaznacza ekspert.

Kardyś niedawno w rozmowie z Wirtualnemedia.pl,postulował również o oznaczanie przez platformy kont nienależących do prawdziwych ludzi, a do wytworów AI (jak w przypadku instagramowego profilu nieistniejącej modelki Kaddy Reeves).
„Przede wszystkim powinniśmy zacząć rozmawiać na temat i wywierać nacisk. Inaczej obudzimy się w Świecie, w którym nie będzie potrafili odróżnić prawdy od fałszu” - konkluduje Kardyś.

Trzeba zrobić dramę

Jak jednak przekonać cyfrowe platformy do zmiany polityki? - Z big techami jest tak, że jeżeli zrobi się głośno, będziemy mocno za pewnymi rzeczami lobbować, jak na przykład związane z influencerami, w końcu pojawią się regulację, które zaradzą problemowi – mówi Kardyś w rozmowie z Wirtualnemedia.pl. - Musi tylko pojawić się głos społeczny. Pewna, jak powiedzieliby influencerzy, drama. Coś, co sprawi, że ktoś u góry zauważy problem – dodaje.

Zdaniem eksperta, to politycy sami powinni zainteresować się sztuczną inteligencją i tym, co może powstać dzięki jej użyciu. - To może być wykorzystane przeciw władzy obecnej czy kolejnej, przeciwko instytucjom państwa czy każdemu z nas. Chodzi tu o bezpieczeństwo, także narodowe – podkreśla.

- Powinno się to uregulować. Możemy się spierać, czy powinny pojawić się watermarki na zdjęciach czy może powinien być nakaz podpisywania, kto zrobił dane zdjęcie. Może w sferze publicznej powinny pojawić się narzędzia do sprawdzania, czy dane zdjęcie zostało zmanipulowane, czy nie. Można korzystać z metadanych danego zdjęcia – dodaje Kardyś.

Kardyś liczy na to, że pojawi się międzynarodowa i ogólnopolska dyskusja na temat rozwoju tej technologii. - Powinna powiedzieć, że mamy problem, bo prawo nie nadąża, my nie nadążamy edukacyjnie. Skoro nie zatrzymamy tej rzeki, powinniśmy ją uregulować, żeby nie było powodzi – twierdzi.

Czy jednak zdjęcia tworzone przez AI nie są po prostu kolejną odsłoną fotomontaży, mechanizmem  manipulacji podobnym do wycinania z fotografii towarzyszy Stalina, którzy popadli w niełaskę? - To jedna z wielu technologii, ale ona jest wyjątkowa w doskonałości. Potrafi tak dobrze imitować pewne rzeczy, że zbyt niebezpieczne jest pozwolenie mu na beztroski rozwój – uważa Kardyś. Jak mówi, influencerzy zaczęli funkcjonować w Polsce od ok. 2014 roku, a dopiero po sześciu latach tematem zainteresował się Urząd Ochrony Konkurencji i Konsumentów.

- Prawo jest zbyt skostniałe, żeby za takimi rzeczami nadążać. Żeby faktycznie zdziałać coś w tym temacie, powinniśmy jako obywatele albo kreatorzy treści w internecie zrobić szum w ramach społecznej inicjatywy. Zobaczą to brandy, marki korporacyjne, przechwycą PR-owo temat, zrobią kampanię społeczną, CSR. Pojawią się publikacje, społeczeństwo dowie się, że jest problem – podkreśla ekspert.

- Musimy mieć zaufanie do dziennikarstwa. Musimy zwrócić się do dziennikarzy, którzy badają rzetelniej swoje źródła. Być może czeka nas renesans dziennikarstwa. Będzie tak dużo klikbajtów, że nie będziemy wiedzieć, komu ufać. I być może zwrócimy się do portali internetowych, które z klikbajtów słyną, ale teraz mogą stać się oazą rzetelności – ocenia Kardyś.

Standardy agencji

Fotoreporter Cezary Sokołowski, od 1981 roku pracujący dla agencji Associated Press, laureat Nagrody Pulitzera, mówi: Nam nie wolno w ogóle manipulować przy zdjęciach. Jeden człowiek, który zmienił atmosferę zdjęcia przez zmianę autolevels, został zwolniony. Inny przyznał, że wyciął Photoshopem kawałek aparatu z pierwszego planu zdjęcia. Przyznał się, wyleciał z pracy, a jego wszystkie zdjęcia wyleciały z archiwum, bo firma bała się, że może przy innych zdjęciach też coś zmieniał. Musimy wszystkie zdjęcia robić w formacie JPEG, bo w formacie RAW łatwe jest manipulowanie zdjęciem.

- Są ludzie, którzy robią świetne rzeczy, ale nie podpisują tego „art photo” czy „art with Photoshop”. Wielu się na to nabiera. Moja firma z tym walczy, musimy być wiarygodni – dodaje Sokołowski. - Dzisiaj przy zalewie takich informacji różni ludzie mogą zrobić fikcyjne aresztowanie Trumpa czy tworzyć deepfake'owe przemówienia – zaznacza.

W styczniu pisaliśmy o stworzonych przez AI Midjourney obrazach, mających przedstawiać zdjęcia z imprezy. Tam można było dostrzec pewne błędy (nadmiarowa liczba zębów czy palców, bardzo wyraźne kości policzkowe).