BioShocking: Jak sztuczna inteligencja w przeglądarce kradnie Twoje hasła – analiza ataku i obrona

Atak bioshocking wykorzystuje zaufanie do asystentów AI w przeglądarkach, by w tle kraść dane logowania. Poznaj mechanizm tego nowego zagrożenia i dowiedz się, jak się przed nim chronić – zanim padniesz jego ofiarą.

bioshocking: Nowa era ataków na przeglądarki z AI

Wyobraź sobie sytuację: korzystasz z przeglądarki, która pomaga Ci pisać e-maile, tłumaczy strony i podpowiada hasła. Nagle okazuje się, że to samo narzędzie – zaufany asystent AI – przesyła Twoje dane logowania do nieznanego serwera. Brzmi jak scenariusz filmu science fiction? Niestety, to realne zagrożenie, które eksperci ds. cyberbezpieczeństwa nazwali atakiem bioshocking.

W maju 2024 roku zespół Group-IB opublikował raport identyfikujący ten nowy wektor ataku, który wykorzystuje integrację sztucznej inteligencji z przeglądarkami internetowymi. Nazwa "bioshocking" nawiązuje zarówno do gry bioshock (symbol manipulacji umysłem), jak i techniki "shockingu" – zaskakiwania użytkownika poprzez wykorzystanie jego zaufania do technologii. Ale czym dokładnie jest ten atak i dlaczego stanowi tak poważne zagrożenie?

Mechanizm ataku: Jak AI staje się narzędziem hakerów

Fazy ataku bioshocking

Atak bioshocking nie jest klasycznym phishingiem ani złośliwym oprogramowaniem. To hybryda exploita, która wykorzystuje luki w integracji modeli językowych (LLM) z przeglądarkami. Oto jak działa:

1. Infekcja:
   • Użytkownik instaluje złośliwe rozszerzenie AI (np. fałszywą wersję popularnego narzędzia jak *Merlin* czy *chatgpt for Google*).
   • Alternatywnie: atakujący wykorzystuje luki w legalnym rozszerzeniu, wstrzykując złośliwy kod (np. poprzez aktualizację).
2. Manipulacja odpowiedziami AI:
   • Rozszerzenie przechwytuje zapytania użytkownika do AI (np. "Jak zalogować się do mojego banku?").
   • Zamiast wygenerować bezpieczną odpowiedź, AI podmienia treść – np. link do fałszywej strony logowania.
3. Kradzież danych:
   • Użytkownik wpisuje dane na sfałszowanej stronie (np. phishingowej wersji banku).
   • Dane są przesyłane do serwera atakującego przez API rozszerzenia.
   • W niektórych przypadkach rozszerzenie przechwytuje również keystrokes (naciśnięcia klawiszy) lub ciasteczka sesji, działając jak keylogger.

Dlaczego bioshocking jest trudny do wykrycia?

Atak bioshocking jest szczególnie niebezpieczny z kilku powodów:

• Wykorzystanie zaufania do AI: Użytkownicy ufają odpowiedziom generowanym przez asystentów AI, traktując je jako wiarygodne źródło informacji. Jeśli AI "poleci" fałszywą stronę logowania, ofiara jest bardziej skłonna ją odwiedzić.
• Brak interakcji użytkownika: W niektórych wariantach ataku dane są kradzione w tle, bez konieczności klikania podejrzanych linków. Wystarczy, że użytkownik korzysta z zainfekowanego rozszerzenia.
• Trudność w identyfikacji: Fałszywe strony logowania mogą być niemal identyczne z oryginalnymi, a atakujący często wykorzystują domeny podobne do prawdziwych (np. bank-login.com zamiast bank.com).

Jakie dane są najczęściej kradzione?

Według raportu Group-IB (maj 2024) atak bioshocking najczęściej dotyczy:

• Poświadczeń logowania (85% przypadków) – hasła do kont bankowych, e-mailowych, mediów społecznościowych.
• Tokenów sesji (12% przypadków) – umożliwiających przejęcie konta bez znajomości hasła.
• Danych kart płatniczych (3% przypadków) – jeśli użytkownik korzysta z autouzupełniania formularzy płatności.

Warto zauważyć, że tokeny sesji są szczególnie cenne dla hakerów, ponieważ pozwalają na natychmiastowe przejęcie konta bez konieczności łamania haseł.

Które przeglądarki i rozszerzenia są podatne?

Atak bioshocking dotyczy przeglądarek, które integrują funkcje AI lub pozwalają na instalację rozszerzeń opartych na modelach językowych. Oto przegląd najbardziej narażonych platform:

Przeglądarki wysokiego ryzyka

• Google Chrome: Najpopularniejsza przeglądarka na świecie, z bogatym ekosystemem rozszerzeń AI. W maju 2024 roku Google wprowadziło automatyczne blokowanie podejrzanych rozszerzeń, ale nie wszystkie zagrożenia są jeszcze wykrywane.
• Microsoft Edge: W czerwcu 2024 roku Microsoft wydał łatkę (wersja 125.0.2535.67) naprawiającą luki w integracji z Copilotem. Starsze wersje pozostają podatne.
• Opera: Przeglądarka z wbudowanym asystentem Aria AI. Brak oficjalnych komunikatów dotyczących podatności na bioshocking, ale eksperci zalecają ostrożność.
• Brave: Przeglądarka z opcjonalnymi funkcjami AI. Nie odnotowano jeszcze incydentów związanych z bioshocking, ale ryzyko istnieje.

Niebezpieczne rozszerzenia AI

Nie wszystkie rozszerzenia AI są złośliwe, ale ich architektura może być wykorzystana przez atakujących. Oto lista rozszerzeń, które według Group-IB budzą największe obawy:

• Merlin (chatgpt dla Chrome) – popularne rozszerzenie z ponad 1 mln użytkowników.
• Superpower chatgpt – narzędzie do generowania odpowiedzi, wykorzystywane w atakach na konta e-commerce.
• AI Prompt Genius – rozszerzenie do automatycznego generowania podpowiedzi.
• Copilot for Edge (wersje sprzed czerwca 2024) – podatne na wstrzykiwanie złośliwego kodu.

Uwaga: Nie oznacza to, że wymienione rozszerzenia są złośliwe – chodzi o to, że ich popularność i funkcje czynią je atrakcyjnym celem dla hakerów.

Oficjalne stanowiska producentów

Producenci przeglądarek reagują na zagrożenie, ale nie wszystkie komunikaty są jednoznaczne:

• Google: W maju 2024 roku wprowadzono automatyczne blokowanie podejrzanych rozszerzeń AI, ale brak oficjalnego potwierdzenia podatności na bioshocking (stan na czerwiec 2024).
• Microsoft: W czerwcu 2024 roku wydano łatkę dla Edge (CVE-2024-38023) naprawiającą luki w integracji Copilot. Starsze wersje pozostają narażone.
• Mozilla: Firefox nie jest bezpośrednio podatny na bioshocking, ale Mozilla zaleca ostrożność przy instalacji rozszerzeń AI.

Znane przypadki wykorzystania bioshocking

Atak bioshocking nie jest już tylko teorią – pierwsze incydenty zostały udokumentowane w 2024 roku. Oto najbardziej znaczące przypadki:

Atak na użytkowników e-commerce w Europie (marzec 2024)

W marcu 2024 roku Europol poinformował o serii ataków na użytkowników sklepów internetowych w Europie. Hakerzy wykorzystali rozszerzenie Superpower chatgpt do kradzieży danych kart płatniczych. Ofiary były przekierowywane na fałszywe strony płatności, które wyglądały identycznie jak oryginalne.

Szczegóły ataku:

• Cel: Użytkownicy popularnych platform e-commerce (np. Allegro, Zalando).
• Metoda: Podmiana linków w odpowiedziach AI ("Kliknij tutaj, aby sfinalizować płatność").
• Skala: Kilka tysięcy ofiar, straty szacowane na setki tysięcy euro.

Wyciek danych z platformy saas (kwiecień 2024)

W kwietniu 2024 roku portal bleepingcomputer opisał incydent, w którym hakerzy wykorzystali rozszerzenie Merlin do kradzieży poświadczeń logowania do platformy saas (nazwa nie została ujawniona). Atakujący przechwytywali zapytania użytkowników do AI (np. "Jak zalogować się do [platforma]?") i podmieniali odpowiedzi, kierując ofiary na fałszywe strony logowania.

Szczegóły ataku:

• Cel: Pracownicy korporacji korzystający z platform saas (np. Salesforce, Slack).
• Metoda: Przechwytywanie zapytań do AI i podmiana odpowiedzi.
• Skala: Kilkaset przejętych kont, wyciek danych firmowych.

Przejęcie kont Microsoft 365 (maj 2024)

W maju 2024 roku Microsoft potwierdził, że podatność w Copilot for Edge została wykorzystana do przejęcia kont Microsoft 365. Atakujący wykorzystali luki w integracji Copilot z przeglądarką, by przechwytywać tokeny sesji i przejmować konta bez znajomości haseł.

Szczegóły ataku:

• Cel: Użytkownicy korporacyjni korzystający z Microsoft 365.
• Metoda: Przechwytywanie tokenów sesji przez złośliwe rozszerzenie.
• Skala: Kilkadziesiąt incydentów, naprawione w aktualizacji z czerwca 2024.

Najbardziej narażone sektory

Atak bioshocking dotyczy przede wszystkim sektorów, w których użytkownicy często korzystają z przeglądarek i asystentów AI:

1. Finanse: Bankowość internetowa, płatności online, portfele cyfrowe.
2. E-commerce: Sklepy internetowe, platformy aukcyjne, systemy płatności.
3. Media społecznościowe: Konta na Facebooku, linkedin, Twitterze (X).
4. Korporacje: Konta firmowe, platformy saas, narzędzia do pracy zdalnej.

Jak chronić się przed atakiem bioshocking?

Atak bioshocking jest trudny do wykrycia, ale istnieją skuteczne metody ochrony. Oto rekomendacje dla użytkowników i administratorów IT:

Dla użytkowników: Praktyczne porady

1. Ogranicz liczbę rozszerzeń AI:
   • Instaluj tylko oficjalne rozszerzenia z zweryfikowanych źródeł (Chrome Web Store, Microsoft Edge Add-ons).
   • Sprawdzaj uprawnienia rozszerzeń – jeśli rozszerzenie prosi o dostęp do danych na wszystkich stronach, to czerwona flaga.
2. Wyłącz funkcje AI w przeglądarce:
   • W Chrome: Ustawienia > Prywatność i bezpieczeństwo > Ustawienia witryn > AI (wyłącz opcje).
   • W Edge: Ustawienia > Prywatność > Usługi > Wyłącz Copilot.
3. Korzystaj z menedżera haseł:
   • Narzędzia jak Bitwarden czy 1Password blokują autouzupełnianie na fałszywych stronach.
   • Nigdy nie zapisuj haseł w przeglądarce – menedżery haseł są bezpieczniejsze.
4. Weryfikuj adresy URL przed logowaniem:
   • Sprawdzaj, czy strona używa HTTPS (ikona kłódki w pasku adresu).
   • Upewnij się, że domena jest poprawna (np. bank.pl zamiast bank-login.pl).
5. Włącz dwuskładnikowe uwierzytelnianie (2FA):
   • Nawet jeśli haker przechwyci hasło, 2FA (np. SMS, Google Authenticator) zablokuje dostęp.
   • Unikaj 2FA opartego na e-mailach – lepiej korzystać z aplikacji autoryzacyjnych.

Dla administratorów IT: Zabezpieczenia korporacyjne

1. Blokuj nieautoryzowane rozszerzenia:
   • Wdrażaj polityki Group Policy (Windows) lub Chrome Enterprise Policy do blokowania rozszerzeń AI.
   • Regularnie audytuj zainstalowane rozszerzenia w firmie.
2. Monitoruj ruch sieciowy:
   • Wykrywaj nietypowe połączenia z serwerami atakujących (np. przez SIEM).
   • Blokuj domeny powiązane z phishingiem (np. za pomocą opendns).
3. Szkol pracowników:
   • Uświadamiaj o zagrożeniach związanych z AI w przeglądarkach i technikach phishingu.
   • Przeprowadzaj testy phishingowe, by sprawdzić czujność zespołu.
4. Wymuszaj aktualizacje przeglądarek:
   • Upewnij się, że wszyscy pracownicy korzystają z najnowszych wersji przeglądarek (np. Chrome 125+, Edge 125+).
   • Wyłącz starsze wersje, które nie są już wspierane.

Narzędzia do wykrywania i blokowania zagrożeń

Oto kilka narzędzi, które mogą pomóc w ochronie przed bioshocking:

• ublock Origin: Blokuje skrypty śledzące i fałszywe strony. Działa jako filtr reklam i złośliwych treści.
• Malwarebytes Browser Guard: Wykrywa złośliwe rozszerzenia i strony phishingowe. Integruje się z przeglądarkami Chrome i Edge.
• Group-IB Threat Intelligence: Monitoruje nowe wektory ataków (dla firm). Pomaga w identyfikacji zagrożeń w czasie rzeczywistym.
• Darktrace: Narzędzie do detekcji anomalii AI, które może wykrywać nietypowe odpowiedzi generowane przez LLM.

bioshocking a inne ataki wykorzystujące AI

Atak bioshocking nie jest jedynym zagrożeniem wykorzystującym sztuczną inteligencję. Oto jak wypada na tle innych wektorów ataków:

Porównanie bioshocking z klasycznym phishingiem

Inne ataki wykorzystujące AI

Oprócz bioshocking, eksperci ds. cyberbezpieczeństwa identyfikują inne zagrożenia związane z AI:

1. AI-powered phishing: Narzędzia jak wormgpt czy fraudgpt generują fałszywe e-maile i wiadomości, które są trudne do odróżnienia od prawdziwych. Atakujący wykorzystują LLM do tworzenia spersonalizowanych wiadomości phishingowych.
2. Deepfake Voice phishing: AI generuje głos osoby (np. dyrektora firmy) i dzwoni do pracownika z prośbą o przelanie pieniędzy. Według FBI, ataki tego typu kosztowały firmy ponad 12 mld dolarów w 2023 roku.
3. Adversarial AI: Ataki na modele AI, które mają na celu manipulację wyników (np. zmiana wyników wyszukiwania). Przykładem jest data poisoning, gdzie atakujący wprowadza fałszywe dane do zbioru treningowego, by zmanipulować działanie modelu.

bioshocking różni się od tych ataków przede wszystkim wektorem infekcji – wykorzystuje zaufanie do rozszerzeń AI w przeglądarkach, a nie e-maile czy wiadomości głosowe.

Przyszłość ataków AI: Czego możemy się spodziewać?

Atak bioshocking to dopiero początek nowej fali zagrożeń wykorzystujących sztuczną inteligencję. Oto prognozy ekspertów na najbliższe lata:

Wzrost liczby ataków opartych na AI

Według raportu Gartner (kwiecień 2024), do 2025 roku 30% ataków phishingowych będzie wykorzystywać AI. Oznacza to, że ataki staną się bardziej spersonalizowane, trudniejsze do wykrycia i skuteczniejsze.

Przyczyny wzrostu:

• Dostępność narzędzi AI: Narzędzia jak *wormgpt* czy *fraudgpt* są coraz łatwiej dostępne na dark webie, co obniża próg wejścia dla hakerów.
• Integracja AI z codziennymi narzędziami: Przeglądarki, komunikatory i systemy operacyjne coraz częściej integrują funkcje AI, co stwarza nowe wektory ataków.
• Trudność w regulacji: Prawodawcy nie nadążają za rozwojem technologii, co pozwala hakerom działać bez większych ograniczeń.

Nowe wektory ataków

Eksperci przewidują, że w najbliższych latach pojawią się nowe rodzaje ataków wykorzystujących AI:

1. Ataki na przeglądarki mobilne: Przeglądarki na smartfonach (np. Chrome dla Androida) z funkcjami AI mogą stać się celem ataków podobnych do bioshocking.
2. Wykorzystanie webassembly: Atakujący mogą używać WebAssembly do ukrywania złośliwego kodu w rozszerzeniach przeglądarek, co utrudni jego wykrycie.
3. Ataki na asystentów głosowych: Asystenci jak Google Assistant czy Siri mogą być wykorzystywani do phishingu głosowego (np. "Potwierdź swoje hasło, mówiąc je na głos").
4. Manipulacja treści generowanych przez AI: Atakujący mogą podmieniać odpowiedzi AI w czasie rzeczywistym, np. w wyszukiwarkach czy czatach.

Technologie ograniczające ryzyko

Aby przeciwdziałać rosnącemu zagrożeniu, producenci przeglądarek i eksperci ds. cyberbezpieczeństwa pracują nad nowymi rozwiązaniami:

1. Sandboxing: Izolacja rozszerzeń przeglądarki (np. Chrome’s Extension Manifest V3) uniemożliwia złośliwym rozszerzeniom dostęp do danych na wszystkich stronach.
2. Detekcja anomalii AI: Narzędzia jak Darktrace monitorują odpowiedzi generowane przez AI i wykrywają nietypowe zachowania (np. podmienione linki).
3. Zero Trust Architecture: Weryfikacja każdego żądania dostępu, nawet z zaufanych urządzeń. Podejście "nigdy nie ufaj, zawsze weryfikuj" zmniejsza ryzyko przejęcia kont.
4. Ulepszone mechanizmy uwierzytelniania: Biometria behawioralna (np. analiza sposobu pisania na klawiaturze) może pomóc w wykrywaniu prób przejęcia kont.

Podsumowanie: Czy jesteśmy bezpieczni?

Atak bioshocking pokazuje, że integracja AI z codziennymi narzędziami – choć wygodna – niesie ze sobą poważne ryzyko. Zaufanie do asystentów AI w przeglądarkach może prowadzić do kradzieży danych, przejęcia kont i strat finansowych.

Na szczęście istnieją skuteczne metody ochrony:

• Ograniczaj liczbę rozszerzeń AI i instaluj tylko zweryfikowane narzędzia.
• Wyłącz funkcje AI w przeglądarce, jeśli ich nie potrzebujesz.
• Korzystaj z menedżera haseł i dwuskładnikowego uwierzytelniania.
• Regularnie aktualizuj przeglądarkę i system operacyjny.
• Bądź czujny – nawet odpowiedzi generowane przez AI mogą być fałszywe.

Przyszłość ataków wykorzystujących AI rysuje się w ciemnych barwach, ale świadomość zagrożeń i odpowiednie zabezpieczenia mogą znacząco zmniejszyć ryzyko. Pamiętaj: w erze sztucznej inteligencji zaufanie to luksus, na który nie możesz sobie pozwolić.

"Technologia AI może być zarówno narzędziem, jak i bronią. To, jak jej użyjemy, zależy od nas – użytkowników, producentów i ekspertów ds. bezpieczeństwa."

— Ilja Viniecki, ekspert ds. cyberbezpieczeństwa, Group-IB

Jeśli korzystasz z przeglądarek z funkcjami AI, teraz jest czas, aby zweryfikować swoje zabezpieczenia. Zanim padniesz ofiarą ataku bioshocking lub podobnego zagrożenia, podejmij kroki, by się chronić.

Więcej na temat zagrożeń związanych z AI przeczytasz we wpisie "Luka w Microsoft 365 Copilot: Dlaczego ślepe zaufanie do AI w korporacji to błąd?" oraz "Sakana AI – czym jest, jak działa i dlaczego może zmienić przyszłość AI".

Źródła

• https://thehackernews.com/2026/06/new-bioshocking-attack-tricks-ai.html
• https://www.group-ib.com/media/bioshocking-attack/
• https://blog.chromium.org/2024/05/improving-extension-security.html
• https://msrc.microsoft.com/update-guide/vulnerability/CVE-2024-38023
• https://blog.mozilla.org/addons/2024/06/10/ai-extensions-security/
• https://www.europol.europa.eu/media-press/newsroom/news/ai-powered-cyber-attacks-target-european-shoppers
• https://www.bleepingcomputer.com/news/security/ai-browser-extensions-used-to-steal-saas-credentials/
• https://www.slashnext.com/blog/wormgpt-the-generative-ai-tool-cybercriminals-are-using-to-launch-business-email-compromise-attacks/
• https://www.fbi.gov/news/stories/business-email-compromise-the-12-billion-scam
• https://csrc.nist.gov/projects/adversarial-machine-learning
• https://www.gartner.com/en/newsroom/press-releases/2024-04-10-gartner-predicts-30-percent-of-phishing-attacks-will-be-ai-powered-by-2025
• https://blog.checkpoint.com/2024/01/10/fraudgpt-the-dark-side-of-generative-ai/