YouTube zmienia zasady. Usuniętych ma zostać tysiące filmików

YouTube to największa platforma wideo na świecie, na której każdego dnia przesyłane są miliony filmów na różne tematy. Coraz większa część serwisu jest jednak zapychana treściami, które nie są niewinne i rozrywkowe. 

W ostatnim czasie na platformie pojawiła się nowa, niepokojąca moda: tworzenie i publikowanie deepfake’ów, czyli sztucznie wygenerowanych wideo, które m.in. przedstawiają ofiary zbrodni, zwłaszcza dzieci, opowiadające o swojej śmierci.

Oburzeni w tej sprawie są zwłaszcza bliscy ofiar, którzy to uważają, że takie „zagranie” ze strony osób tworzących takie treści jest zwyczajnie ohydne, a wręcz amoralne. Trudno jest się dziwić, dlatego platforma postanowiła zareagować. Natomiast rykoszetem mogą paść kanały, na których wykorzystywane jest AI w postaci wykreowanych wirtualnie modeli postaci i głosu.

Skąd się wzięły deepfake’i z ofiarami zbrodni?

Deepfake to technika, która wykorzystuje sztuczną inteligencję do manipulowania obrazem i dźwiękiem, tak aby stworzyć realistyczną symulację osoby lub zdarzenia. Może być ona użyta do zabawy, np. do zmiany twarzy aktorów w filmach, ale może być też wykorzystana do celów złośliwych, np. do podszywania się pod polityków, celebrytów lub zwykłych ludzi.

Jednym z najpopularniejszych gatunków na YouTube jest true crime, czyli prawdziwa zbrodnia, która opowiada o rzeczywistych przypadkach morderstw, porwań, zaginięć i innych przestępstw. True crime ma wielu fanów, którzy interesują się szczegółami i motywami zbrodniarzy, a także losem ofiar i ich rodzin. Niektórzy twórcy starają się być obiektywni i rzetelni, inni natomiast wykorzystują sensacyjne i krwawe historie do zdobywania kliknięć i wyświetleń. Problem ten narastał już od jakiegoś czasu.

W 2023 roku na TikToku, innym popularnym serwisie wideo, zaczął się pojawiać nowy trend: tworzenie deepfake’ów z ofiarami zbrodni, zwłaszcza dzieci, które opowiadały o swojej śmierci. Były to sztucznie wygenerowane postacie, które bazowały na zdjęciach lub opisach ofiar, a ich głosy były syntezowane przez komputer. Często tworzone w ten sposób wideo było bardzo realistyczne i przerażające, inne zaś zawierały błędy i nieścisłości, np. zmianę koloru skóry, włosów lub oczu ofiar. Nie dziwi więc fakt, że sprawą zainteresowali się bliscy ofiar, którzy z braku lepszych metod błagali wręcz serwis o usuwanie takich treści, co w wielu przypadkach okazało skuteczne. 

Jak YouTube reaguje na ten problem?

TikTok szybko usunął większość tego rodzaju wideo ze swojej platformy. Niestety niektóre z nich zostały przeniesione na YouTube, gdzie nadal były dostępne dla sporej części oglądających. Co więcej, jak grzyby po deszczu pojawiają się nowe. Amerykański gigant, mając własne zasady dotyczące treści, które mogą być przesyłane na platformę, postanowił zareagować na ten problem i wprowadził nowe wytyczne dla społeczności, które zabraniają tworzenia i publikowania deepfake’ów z ofiarami zbrodni.

Amerykanie uznali, że takie wideo narusza jego politykę dotyczącą nękania i cyberprzemocy, a także stanowi zaprzeczenie poważnym wydarzeniom związanym z przemocą, takim jak Holokaust czy strzelaniny w szkołach. Stwierdzono więc, że takie zachowanie jest nie tylko nieetyczne, ale i nieludzkie. Jest także bardzo szkodliwe dla rodziny i bliskich ofiar, a także dla ogólnego poczucia prawdy i rzeczywistości.

YouTube zapowiedział, że będzie usuwał takie wideo z platformy, a także nakładał kary na twórców, którzy je publikują. Pierwsze naruszenie tej polityki skutkuje usunięciem materiału/materiałów i tygodniowym zakazem przesyłania wideo, a jeśli w ciągu 90 dni nastąpią kolejne naruszenia, może to doprowadzić do całkowitego usunięcia kanału. Amerykanie, choć jak na razie nie wiadomo jak miałoby to wyglądać, chcą promować wiarygodne i sprawdzone źródła informacji na temat zbrodni i ofiar, tak aby zapewnić użytkownikom dostęp do prawdziwych i rzetelnych treści. 

Czy to wystarczy, aby zatrzymać falę deepfake’ów?

YouTube nie jest jedyną platformą, która boryka się z problemem deepfake’ów. Inne serwisy wideo, takie jak Facebook, Twitter czy Instagram, także muszą stawić czoła temu zjawisku i znaleźć skuteczny sposób na jego wykrywanie i w konsekwencji blokowanie/usuwanie. Niektóre z tych platform współpracują ze sobą i z ekspertami od sztucznej inteligencji, aby opracować narzędzia i metody, które pomogą im walczyć z rosnącą lawiną deepfake’ów.

Myślę, że nie będzie to takie łatwe zadanie (co pokazał przykład TikToka), ponieważ technologia, która służy do tworzenia deepfake’ów, jest coraz bardziej zaawansowana i łatwo dostępna, zwłaszcza jeśli ktoś ma odpowiednie fundusze. Każdy, kto ma dostęp do internetu i komputera, może stworzyć własny deepfake, korzystając z darmowych lub tanich programów i webaplikacji. Niektórzy twórcy deepfake’ów twierdzą, że robią to dla zabawy lub edukacji, inni natomiast mają już z góry zły zamiar i wcale się z tym nie kryją. Chcą oszukać, zmanipulować lub skrzywdzić innych ludzi - dla oglądalności, zarobków lub zwyczajnie po to, aby komuś lub czemuś zaszkodzić.

Dlatego ważne jest, aby nie tylko platformy, ale także użytkownicy byli świadomi i ostrożni wobec tego, co oglądają i słuchają na ekranie. Odpowiednia reakcja i zgłaszanie takich materiałów, co zwłaszcza nam oglądającym powinno wryć się w pamięć. Nie wszystko, co wygląda na prawdziwe, jest prawdziwe, a nie wszystko, co jest prawdziwe, jest pokazywane - taka puenta.  Zawsze warto sprawdzić źródło i wiarygodność informacji, zanim się ją uwierzy lub podzieli z innymi. Tylko w ten sposób możemy zachować krytyczne myślenie i zdrowy rozsądek w świecie, w którym sztuczna inteligencja (a właściwie człowiek, który z niego korzysta) może stworzyć dowolną, wręcz każdą iluzję.