Niedawno świat obiegły doniesienia o tym, jak zaawansowane narzędzia sztucznej inteligencji, w tym ChatGPT, zostały wykorzystane do sterowania narracją wokół konfliktu na Bliskim Wschodzie. Czy to początek nowej ery manipulacji, w której algorytmy stają się kluczową bronią w wojnie informacyjnej?
Jak wykorzystano ChatGPT do kształtowania opinii o konflikcie w Strefie Gazy?
W mediach społecznościowych i serwisach informacyjnych coraz głośniej mówi się o kampaniach wpływu, w których kluczową rolę odgrywa sztuczna inteligencja. Według doniesień niezależnych badaczy i dziennikarzy śledczych, wyspecjalizowane podmioty miały wykorzystać ChatGPT do masowego generowania postów, komentarzy i artykułów wspierających określone narracje geopolityczne. Setki kont, często o trudnej do zweryfikowania tożsamości, rozpowszechniały te treści na popularnych platformach, takich jak X (dawny Twitter), Facebook, Instagram czy TikTok.
Co dokładnie robiły te profile? Publikowały wpisy, które miały:
- Jednostronnie przedstawiać racje jednej ze stron konfliktu i uzasadniać działania militarne.
- Dyskredytować przeciwników politycznych i wojskowych, często pomijając kontekst humanitarny i ofiary cywilne.
- Promować tezy o wykorzystywaniu ludności cywilnej jako żywych tarcz.
- Budować silne emocje wokół tragedii ofiar, niekiedy przy użyciu niesprawdzonych lub zmanipulowanych szczegółów.
Warto zauważyć, że oficjalne powiązanie tych działań z konkretnymi rządami czy armią bywa niezwykle trudne do udowodnienia. Jak wskazują analizy publikowane w prasie międzynarodowej, operacje te są najczęściej zlecane prywatnym firmom technologicznym i agencjom PR. Podmioty te, działając w szarej strefie, oferują usługi z zakresu marketingu politycznego i walki informacyjnej, co pozwala zleceniodawcom zachować wygodną możliwość zaprzeczenia jakimkolwiek związkom z tym procederem.
Metody manipulacji: Jak działają nowoczesne kampanie wpływu?
Współczesne kampanie dezinformacyjne opierają się na kilku zaawansowanych technikach, które pozwalają na masowe i tanie docieranie do opinii publicznej:
1. Zautomatyzowane generowanie treści
Skoordynowane sieci kont wykorzystują modele językowe do tworzenia unikalnych tekstów na podstawie precyzyjnie przygotowanych instrukcji (promptów). Algorytm może otrzymać zadanie napisania emocjonalnego komentarza broniącego konkretnej decyzji politycznej lub artykułu podważającego wiarygodność doniesień drugiej strony.
Tak przygotowane treści są następnie dopasowywane do konkretnych grup odbiorców. Inne argumenty trafiają do użytkowników o poglądach liberalnych, a inne do konserwatystów. Taka personalizacja drastycznie zwiększa skuteczność przekazu.
2. Fałszywe tożsamości i boty nowej generacji
Profile zaangażowane w kampanię nie przypominają już dawnych, prymitywnych botów. Posiadają realistyczne zdjęcia profilowe generowane przez AI oraz rozbudowane, fikcyjne historie życiowe. Mogą udawać niezależnych ekspertów, studentów czy naocznych świadków wydarzeń, co buduje pozory autentyczności i utrudnia ich szybką demaskację.
3. Wykorzystanie deepfake’ów i syntezy mowy
Choć tekst wciąż dominuje, coraz częściej w grę wchodzą materiały wideo i nagrania audio stworzone przez sztuczną inteligencję. Krótkie, zmanipulowane filmiki z rzekomymi wypowiedziami świadków czy uczestników zdarzeń trafiają na platformy wideo, gdzie błyskawicznie zyskują wiralowe zasięgi.
4. Omijanie tradycyjnych zabezpieczeń
Ponieważ każdy wpis wygenerowany przez model językowy jest unikalny, tradycyjne filtry antyspamowe i algorytmy moderacyjne mają ogromny problem z ich wykryciem. Nie ma tu prostego kopiowania tych samych fraz, co dotychczas pozwalało platformom społecznościowym na szybkie blokowanie farm botów. Co więcej, algorytmy promujące zaangażowanie naturalnie podbijają zasięgi postów, które budzą skrajne emocje.
Kto i jak ujawnia podobne działania?
Wykrywanie tego typu operacji to zasługa niezależnych organizacji badawczych, dziennikarzy śledczych oraz firm specjalizujących się w cyberbezpieczeństwie. Analizują one nietypowe wzorce zachowań sieciowych, takie jak jednoczesna aktywność setek kont czy nienaturalna powtarzalność argumentacji.
Reakcja twórców technologii AI bywa zazwyczaj dyplomatyczna. Firmy technologiczne deklarują ciągłe doskonalenie swoich systemów bezpieczeństwa i blokowanie kont naruszających regulaminy. Więcej o ich oficjalnych działaniach i wdrażanych zabezpieczeniach można przeczytać na blogu openai.
Z kolei rządy państw, których podmioty są podejrzewane o prowadzenie takich kampanii, najczęściej odcinają się od oskarżeń lub całkowicie je ignorują, co jest standardową praktyką w wojnie informacyjnej.
Reakcje międzynarodowe i głos ekspertów
Doniesienia o wykorzystaniu sztucznej inteligencji do manipulowania opinią publiczną w trakcie kryzysów humanitarnych wywołują ostry sprzeciw na całym świecie. Przedstawiciele organizacji międzynarodowych regularnie wzywają do debaty nad etycznymi granicami technologii. Oficjalne stanowiska i apele w tej sprawie publikuje m.in. Biuro Wysokiego Komisarza Narodów Zjednoczonych ds. Praw Człowieka, o czym można przeczytać na stronie OHCHR.
W Europie coraz głośniej mówi się o konieczności wprowadzenia twardych regulacji prawnych. Temat ten jest przedmiotem prac legislacyjnych, które mają na celu ochronę procesów demokratycznych przed cyfrową dezinformacją. Szczegóły dotyczące unijnych debat i planowanych kroków prawnych są dostępne na stronie Parlamentu Europejskiego.
Eksperci zajmujący się etyką sztucznej inteligencji oraz badacze mediów ostrzegają, że obecne incydenty to jedynie zapowiedź znacznie większego problemu. Wskazują, że bez globalnych porozumień i zaangażowania samych twórców technologii, walka z masową dezinformacją generowaną przez maszyny będzie skazana na porażkę.
Dlaczego systemy obronne zawodzą?
Szybki rozwój modeli językowych zaskoczył twórców platform społecznościowych. Istnieje kilka powodów, dla których obrona przed cyfrową manipulacją jest tak trudna:
1. Słabość detektorów treści AI
Dostępne na rynku narzędzia do rozpoznawania tekstów napisanych przez sztuczną inteligencję wciąż nie są wystarczająco precyzyjne. Generują wiele fałszywych alarmów, a drobna modyfikacja wygenerowanego tekstu przez człowieka wystarczy, by oszukać większość filtrów.
2. Model biznesowy platform społecznościowych
Algorytmy serwisów społecznościowych są zaprojektowane tak, aby maksymalizować czas spędzony na platformie. Treści kontrowersyjne, budzące gniew lub współczucie – a takie najczęściej generują boty – idealnie wpisują się w ten mechanizm, przez co są naturalnie promowane.
3. Łatwy dostęp do technologii
Brak skutecznej weryfikacji tożsamości użytkowników przy rejestracji do narzędzi AI sprawia, że każdy – od nastolatka po wyspecjalizowaną agencję wywiadowczą – może uzyskać dostęp do potężnych modeli językowych przy minimalnych kosztach.
Długofalowe konsekwencje dla społeczeństwa
Rosnąca skala wykorzystania AI w propagandzie niesie za sobą poważne zagrożenia dla debaty publicznej:
1. Kryzys zaufania do informacji
Gdy odbiorcy uświadamiają sobie, jak łatwo można sfabrykować tekst czy wideo, zaczynają wątpić we wszystko, co widzą w sieci. Taki stan permanentnego sceptycyzmu uderza w rzetelne dziennikarstwo i utrudnia budowanie konsensusu społecznego wokół kluczowych tematów.
2. Zagrożenie dla procesów wyborczych
Możliwość masowego, taniego i spersonalizowanego wpływania na wyborców to potężna broń w rękach populistów i zagranicznych aktorów państwowych. Może to prowadzić do jeszcze głębszej polaryzacji społeczeństw.
3. Presja na regulacje prawne
Sytuacja ta zmusza rządy do szybszego wprowadzania przepisów takich jak europejski AI Act, które nakładają na dostawców technologii obowiązek oznaczania treści generowanych przez algorytmy.
Kto jeszcze korzysta z tych metod?
Wykorzystanie nowych technologii do walki informacyjnej nie jest domeną jednego państwa czy organizacji. To globalny trend, w którym uczestniczy wielu graczy:
- Rosja: Od lat kojarzona z systematycznym wykorzystywaniem farm trolli i operacji psychologicznych w celu destabilizacji zachodnich demokracji.
- Chiny: Skupiają się na budowaniu pozytywnego wizerunku państwa na arenie międzynarodowej oraz neutralizowaniu krytyki dotyczącej polityki wewnętrznej.
- Inne podmioty polityczne: Coraz częściej po te same narzędzia sięgają sztaby wyborcze i grupy interesu w krajach demokratycznych, starając się wpłynąć na decyzje wyborców za pomocą mikrotargetowanych kampanii.
Co dalej? Przyszłość debaty publicznej
Stoimy przed ogromnym wyzwaniem. Sztuczna inteligencja na stałe zagościła w arsenale wojny informacyjnej, a jej możliwości będą tylko rosły. Kluczem do obrony przed manipulacją będzie nie tylko rozwój technologii wykrywania botów, ale przede wszystkim edukacja medialna i budowanie odporności społecznej na dezinformację.
Jeśli interesuje Cię temat wykrywania treści generowanych przez AI, przeczytaj nasz artykuł o metodach oszukiwania detektorów AI. Warto również zapoznać się z naszą analizą wpływu algorytmów na nasze postrzeganie rzeczywistości.
Komentarze