Spis treści
Wyobraźmy sobie taką sytuację. Przekazujesz klucze do całej swojej infrastruktury serwerowej superkomputerowi, mając nadzieję, że nowoczesne narzędzia hakerskie AI znajdą każdą lukę. Wskazujesz znaną lukę w swoim kodzie i wydajesz mu jedno polecenie. Wykorzystaj ten błąd.
Udowodnij mi, że ten system można skompromitować. Czekasz na fajerwerki. Zamiast tego mózg wart wiele miliardów dolarów zacina się. Wypluwa bełkotliwe błędy. Potem całkowicie się poddaje. Badacze z UC Berkeley właśnie ujawnił dokładnie ten scenariusz.
Iluzja wszechwiedzącej maszyny
Zostaliśmy nakarmieni narracją o wszechmocnych algorytmach przedzierających się przez zapory sieciowe Pentagonu w ciągu kilku sekund. Media napompowały histerię. Firmy technologiczne zaczęły zwalniać młodszych analityków bezpieczeństwa. Wierzyli, że podstawowe skrypty poradzą sobie z ciężkimi zadaniami.
Prawda okazała się o wiele bardziej brutalna i zawstydzająca dla twórców narzędzi do hakowania sztucznej inteligencji. Twórcy CyberGym zbudowali ogromny poligon doświadczalny. Zebrali ponad 1500 rzeczywistych luk w prawie 200 projektach oprogramowania. Zadanie było zwodniczo proste. Maszyna musiała wygenerować działający exploit Proof-of-Concept na podstawie opisu tekstowego i bazy kodu.
Najlepsze modele dostępne na rynku napotkały ogromną przeszkodę. Osiągnęły one skuteczność na poziomie około 20 procent. Osiem na dziesięć prób zakończyło się całkowitą porażką. To całkowicie obala mit, że maszyny odbierają pracę doświadczonym testerom penetracyjnym. Systemy te potrafią wygenerować tysiące linii kodu o doskonałej składni. Jednak głębokie zrozumienie całkowicie im umyka.
Dlaczego branża całkowicie się myli
Większość ludzi postrzega postęp technologiczny przez pryzmat statycznych punktów odniesienia. Maszyna przechodzi egzamin medyczny. Automatycznie zakładamy, że poradzi sobie w dynamicznym środowisku sieciowym. Jest to ogromne błędne przekonanie. Egzamin odbywa się w ramach zamkniętego, przewidywalnego zestawu zasad. Hakowanie jest dokładnym przeciwieństwem. Hakowanie wymaga łamania zasad. Ciągle mylimy surową szybkość przetwarzania z rzeczywistą przebiegłością. Oceniając narzędzia hakerskie AI, musimy patrzeć na rzeczywistą wydajność, a nie teoretyczną zdolność.
Większość narzędzi hakerskich AI patrzy na kod i przewiduje następny token na podstawie prawdopodobieństwa statystycznego. W rzeczywistości nie rozumieją logiki. Nie rozumieją, że zmiana pojedynczej zmiennej w niejasnym module spowoduje kaskadową awarię pamięci na oddzielnym serwerze. Konsekwencje drugiego rzędu pozostają całkowicie poza zasięgiem obecnych architektur.
Nie można karmić maszyny milionami logów serwera i oczekiwać, że w magiczny sposób rozwinie ona instynkt drapieżnika. Wyobraźmy sobie włamywacza. Wie, jak wygląda zamek. Potrafi opisać jego wewnętrzny mechanizm w stu językach. Kiedy podasz mu wytrych, próbuje wepchnąć instrukcję obsługi do dziurki od klucza.
Rzeczywiste konsekwencje dla Twojej firmy
Co to oznacza dla firmy? założyciel czy dyrektorem IT? Stwarza to niebezpieczne fałszywe poczucie bezpieczeństwa. Jeśli polegasz wyłącznie na narzędziach hakerskich AI do audytu swojej bazy kodu, pozostawiasz całą firmę otwartą na atak. Boty wyłapią literówki. Będą oznaczać podstawowe błędne konfiguracje, takie jak odsłonięty bucket AWS. Całkowicie zawiodą w przypadku złożonych luk typu zero-day.
Przyjrzyjmy się konkretnemu scenariuszowi. Uruchamiasz nową aplikację do przetwarzania płatności. Zatrudniasz automatycznego bota do skanowania 50 000 linii kodu. Bot wydaje pozytywną opinię. Wprowadzasz aplikację do produkcji. Tydzień później przestępcy wypłacają 250 000 dolarów z kont użytkowników. Dlaczego? Ludzki haker znalazł lukę.
Wysłali dwa żądania wypłaty dokładnie w tej samej milisekundzie. Algorytm nawet nie rozważał symulacji fizyki obciążenia serwera w stosunku do ograniczeń czasowych procesora. Bot po prostu czytał czysty tekst. Człowiek czytał między wierszami.
Badacze CyberGym odkryli 35 nowych luk w zabezpieczeniach. Znaleźli również 17 niekompletnych łatek. Maszyna nie zrobiła tego sama. Po prostu pobrała odpowiednie dane diagnostyczne dla ludzkich operatorów. Po zwolnieniu ludzi oprogramowanie po prostu zbiera kurz.
Firmy pokładające ślepą wiarę w narzędzia hakerskie AI staną się najłatwiejszym celem w Internecie. Przestępcy dokładnie wiedzą, gdzie algorytmy mają martwe punkty. Uderzą dokładnie tam.
Pod maską awarii sztucznej inteligencji
Przejdźmy do sedna sprawy i przyjrzyjmy się mechanizmom technicznym. Dlaczego te systemy nie radzą sobie z pisaniem exploitów? Podstawowym problemem jest zarządzanie kontekstem. Wykonanie skutecznego ataku wymaga utrzymania złożonego stanu na wielu etapach. Należy wysłać nieprawidłowy pakiet danych. Należy poczekać na bardzo specyficzną odpowiedź. Należy przejąć wskaźnik instrukcji w aktywnej pamięci.
Modele gubią się w długich łańcuchach przyczyn i skutków. Halucynują nieistniejące funkcje. Starają się wykorzystywać metody, których poprawki pojawiły się w 2018 roku. Mało tego, brakuje im zdolności do dynamicznego korygowania kursu. Człowiek widzi błąd segmentacji i natychmiast analizuje zrzut pamięci. Maszyna widzi dokładnie ten sam błąd i wchodzi w nieskończoną pętlę.
Próbuje w kółko dokładnie tego samego zepsutego polecenia. Napisanie exploita na przepełnienie bufora wymaga precyzyjnych obliczeń przesunięć pamięci. Obecne modele po prostu zgadują. Rzucają losowymi ciągami w ścianę. Mają ślepą nadzieję, że coś się zepsuje. Bezpośrednia interakcja ze środowiskiem wykonawczym na żywo ujawnia każdą słabość narzędzi hakerskich AI.
Zabezpieczanie systemów we właściwy sposób
Przestań traktować te programy jak magię. Utrzymuj starszych inżynierów na liście płac. Zautomatyzowane aplikacje skanujące i narzędzia hakerskie AI są obecnie niczym więcej niż hałaśliwymi zabawkami w rękach amatorów. Przekazanie kluczy do królestwa algorytmowi to otwarte zaproszenie do katastrofy.
Jeśli chcesz chronić swoją sieć już dziś, zaimplementuj te trzy obowiązkowe protokoły:
- Zaplanuj ręczne testy penetracyjne co 6 miesięcy przy użyciu certyfikowanych inżynierów bezpieczeństwa.
- Wdrażaj narzędzia hakerskie AI wyłącznie do wstępnej statycznej analizy kodu, ale nigdy nie polegaj na nich przy ostatecznym zatwierdzaniu produkcji.
- Zainstaluj wielowarstwowe systemy monitorowania, które wykrywają anomalie behawioralne, zamiast polegać na znanych sygnaturach exploitów.
Prawdziwa wojna o Twoje dane będzie nadal toczona przez ludzkie umysły.
Dodaj komentarz