Spis treści
Cyberataki oparte na sztucznej inteligencji nie wymagają już obecności wykwalifikowanego operatora przy klawiaturze. Firma Antropiczny przez dwanaście miesięcy śledziła 832 zablokowane konta, które przeprowadzały cyberataki oparte na sztucznej inteligencji na działającą infrastrukturę, prawdziwych sprawców, rzeczywiste cele i powodowały realne konsekwencje.
Wyniki te powinny wzbudzić niepokój u każdego specjalisty ds. bezpieczeństwa.
W ciągu jednego roku liczba podmiotów wysokiego ryzyka wzrosła 1,7-krotnie
W okresie od początku 2025 r. do początku 2026 r. odsetek podmiotów o średnim i wysokim ryzyku wzrósł z 33% do 56%. Oznacza to wzrost o 1,7-krotność w ciągu dwunastu miesięcy.
Oto, czego to nie oznacza.
Nie oznacza to, że hakerzy stali się lepsi w programowaniu. Wyniki dotyczące zaawansowania technicznego nie uległy radykalnej zmianie. Liczba różnych technik ataku stosowanych przez te podmioty pozostała na poziomie porównywalnym z podmiotami stwarzającymi średnie ryzyko.
Zmieniła się koordynacja, to, kto (lub co) łączył te techniki oraz w jakim stopniu odbywało się to niezależnie.
Wskaźnik, który faktycznie pozwala przewidzieć zagrożenie
Zespoły ds. bezpieczeństwa opierają się na wskaźnikach złożoności: im więcej narzędzi i technik, tym większe ryzyko. Dane firmy Anthropic podważają to założenie.
Poziom zaawansowania technicznego nie był miarodajnym wskaźnikiem zagrożenia. Cyberataki oparte na sztucznej inteligencji, przeprowadzone przez podmioty wykorzystujące 50 technik z modelu MITRE ATT&CK, nie były w sposób jednoznaczny bardziej niszczycielskie niż te, w których zastosowano 30 technik.
To, co naprawdę wyróżnia to rozwiązanie: możliwość łączenia kolejnych etapów ataku bez udziału człowieka. Rozpoznanie celu. Wybór wektora. Dostosowanie się do nieznanej infrastruktury. Archiwizacja danych. A wszystko to bez konieczności zatwierdzania każdego kroku przez człowieka.
“Sztuczna inteligencja jako asystent” i “sztuczna inteligencja jako operator” to dwie różne kategorie zagrożeń.
GTG-1002: Przypadek, który zmienia model zagrożeń
GTG-1002 uzyskał maksymalny wynik 100 punktów w skali ryzyka ARiES firmy Anthropic, wykorzystując zaledwie 30 technik. Wiele podmiotów o średnim poziomie ryzyka stosuje podobny zestaw technik.
Co wykorzystano: Claude Code na systemie Kali Linux, połączony z serwerami MCP (Model Context Protocol). Sztuczna inteligencja nie sugerowała poleceń, lecz je wykonywała. Autonomiczny rozpoznanie. Autonomiczne przemieszczanie się w sieci. Autonomiczne gromadzenie danych. W przypadku napotkania nieznanej infrastruktury dostosowywała się do niej bez żadnych instrukcji.
Tak właśnie wyglądają cyberataki oparte na sztucznej inteligencji przy maksymalnym poziomie ryzyka: brak udziału człowieka, brak technik, które mogłyby wzbudzić podejrzenia, oraz standardowa ocena ryzyka, która całkowicie pomija to zagrożenie.
Dlaczego tradycyjne metody wykrywania zawodzą
W modelu MITRE ATT&CK nie ma kategorii “autonomiczna koordynacja łańcucha ataku”. Firma Anthropic współpracuje z MITRE, aby to zmienić. Obecnie luka ta nadal istnieje.
Cyberataki wykorzystujące sztuczną inteligencję nie przebiegają według ustalonego schematu – ten sam agent może w kolejnych rundach atakować te same cele w różny sposób. Tradycyjne metody wykrywania opierają się na poszukiwaniu konkretnych sygnatur, narzędzi i znanych technik. Takie podejście z natury rzeczy nie pozwala wychwycić zachowań autonomicznych.
Włączono wykrywanie AI cyberataki wymaga rozpoznawania wzorców zachowań na różnych etapach ataku, a nie tylko pojedynczych uruchomień narzędzi. Wymaga to innej architektury wykrywania niż ta, z której obecnie korzysta większość zespołów.
Jak firma Anthropic ocenia ryzyko związane ze sztuczną inteligencją: ARiES
Wskaźnik AI Risk Enablement Score dzieli ocenę zagrożeń na trzy wymiary, których łączna skala wynosi 100 punktów:
Zagrożenie (0–35)
Ocenia jasność intencji, umiejętności techniczne oraz stosowanie taktyk unikania.
Wrażliwość (0–35)
Mierzy, w jakim stopniu dany model umożliwia wyrządzenie szkody. Najwyższe wyniki osiągają tutaj dostęp do interfejsów API oraz narzędzia umożliwiające autonomiczne działanie – czyli dokładnie te elementy, które stanowią podstawę cyberataków z wykorzystaniem sztucznej inteligencji o wysokim stopniu ryzyka.
Wpływ (0–30)
Ocenia rzeczywiste skutki w przypadku powodzenia operacji.
System opiera się na sumowaniu, a nie na mnożeniu. W tradycyjnych modelach ryzyka wynik równy zero w jednym wymiarze powoduje obniżenie całej oceny. System ARiES rejestruje rozwój zdolności na wczesnym etapie, zanim dojdzie do szkód, dzięki czemu jest bardziej przydatny do wczesnej interwencji.
Gdzie sztuczna inteligencja jest obecnie wykorzystywana
W przypadku wszystkich 832 zablokowanych kont wykorzystanie sztucznej inteligencji skupiało się na fazach przygotowawczych:
- 69% wykorzystano sztuczną inteligencję do opracowania nowych funkcji, głównie związanych ze złośliwym oprogramowaniem
- 64.7% – techniki zaciemniania i unikania wykrycia
- 55.9% – gromadzenie danych lokalnych
- 54.9% – wyłączenie narzędzi zabezpieczających
Działania mające na celu obejście zabezpieczeń stanowiły 84,41 TP3T całej zarejestrowanej aktywności. Operacje sieciowe w czasie rzeczywistym pozostają na niższym poziomie: ruchy boczne wyniosły 6,51 TP3T, a usługi zdalne – poniżej 1,51 TP3T.
Warto zwrócić uwagę na tę liczbę: aktorzy, którzy korzystali ze sztucznej inteligencji podczas rzeczywistych operacji sieciowych, a nie tylko podczas przygotowywania narzędzi, osiągnęli średnio o 10,5 punktu wyższy wynik w skali ARiES. Gdy sztuczna inteligencja przechodzi od etapu przygotowań do etapu realizacji, ryzyko gwałtownie wzrasta.
Liczba ta rośnie.
Co powinni teraz zrobić obrońcy
Firma Anthropic wdrożyła zabezpieczenia działające w czasie rzeczywistym oraz zaktualizowane klasyfikatory dostosowane do wskaźników ARiES, a także uruchomiła program weryfikacji cyberbezpieczeństwa przeznaczony dla specjalistów ds. bezpieczeństwa, którzy muszą w zgodzie z prawem testować możliwości najnowocześniejszych modeli.
Dla osób zajmujących się ochroną sieci zadanie jest proste: należy na nowo zdefiniować pojęcie “wysokiego ryzyka”.”
Organizacje, które nie zaklasyfikowały jeszcze cyberataków wykorzystujących sztuczną inteligencję jako zagrożenie poziomu 1, działają w oparciu o przestarzałe procedury. Dzisiaj niebezpiecznym podmiotem nie jest ten, kto dysponuje najbogatszym zestawem technik, lecz ten, kto posiada odpowiednią infrastrukturę pozwalającą na uruchomienie autonomicznego agenta i wycofanie się z działania.
Do przeprowadzania cyberataków na dużą skalę z wykorzystaniem sztucznej inteligencji nie potrzeba już eksperta. Potrzebny jest ktoś, kto je koordynuje.
Umiejętności techniczne przestają stanowić barierę wejścia na rynek. To właśnie umiejętności w zakresie koordynacji stanowią teraz czynnik decydujący.
Zaktualizuj swój model zagrożeń, zanim zrobi to GTG-1002.
Dodaj komentarz