Tag: testy penetracyjne

  • Agenci oparci na sztucznej inteligencji już teraz naruszają przepisy ustawy o cyberodporności

    Agenci oparci na sztucznej inteligencji już teraz naruszają przepisy ustawy o cyberodporności

    Spis treści

    Zgodność z ustawą o cyberodporności wydaje się być pewnym gruntem, gdy już przejdzie się audyt i uzyska znak CE. Nowe badanie wskazuje jednak, że ten grunt już się zapadł, ponieważ agenci sztucznej inteligencji mogą zamienić w pełni certyfikowane urządzenie w otwarte drzwi, nie zmieniając ani jednej linii jego kodu.

    Kosiarka automatyczna Hookii przeszła wszystkie testy wymagane przez przepisy UE, podobnie jak humanoidalny robot Unitree G1. Oba urządzenia posiadają certyfikaty i mogą być legalnie sprzedawane na terenie całej Unii, przynajmniej na papierze. W marcu 2026 r. agent sztucznej inteligencji, którego koszt był mniej więcej równy cenie filiżanki kawy, przejął kontrolę nad flotą 267 takich kosiarek, nie łamiąc przy tym ani jednego prawa ani nie stawiając stopy w hali produkcyjnej. Certyfikat wciąż wisi na ścianie, ale rzeczywistość już go wyprzedziła.

    Czego faktycznie wymaga zgodność z ustawą o cyberodporności

    The Unijna ustawa o cyberodporności osiągnie pełną moc w grudniu 2027 roku, a jej centralnym elementem będzie cykl zapewniania zgodności. Producenci oceniają ryzyko i zajmują się wszelkimi wykrytymi błędami, a następnie dostarczają poprawki zgodnie z ogłoszonym harmonogramem, jednocześnie zgłaszając aktywne luki. Leży za tym założenie, że oprogramowanie zawsze zawiera błędy i wymaga jedynie odpowiedniego zarządzania.

    Projekt ten opiera się na czterech niewypowiedzianych założeniach dotyczących rzeczywistego świata, a każde z nich musi się sprawdzić, aby proces ten miał jakikolwiek sens.

    1. Wykrycie luki wymaga prawdziwej wiedzy specjalistycznej i czasu, dlatego w danym momencie znana jest jedynie niewielka grupa powoli ujawnianych luk w zabezpieczeniach.
    2. Pełny zestaw luk w zabezpieczeniach produktu, które można wykorzystać, można zidentyfikować jeszcze przed jego wprowadzeniem na rynek, a ten wykaz pozostaje w przybliżeniu aktualny również po tej dacie.
    3. Wykorzystanie luk w zabezpieczeniach zdarza się na tyle rzadko i jest na tyle widoczne, że wykrycie takiego incydentu stanowi istotny sygnał.
    4. Działania naprawcze przebiegają szybciej niż ataki, więc regularny cykl instalowania poprawek wystarcza, by zachować przewagę.

    Víctor Mayoral-Vilches z firmy Alias Robotics, autor artykułu, szacuje, że rozbieżność ta dotyczy okresu dziesięciu tygodni. Komisja Europejska opracowała projekt ustawy we wrześniu 2022 roku, a ChatGPT został wprowadzony na rynek w listopadzie tego samego roku, co spowodowało, że obraz świata przedstawiony w rozporządzeniu został zamrożony dokładnie w momencie, gdy ten obraz…
    ## Dlaczego argument dotyczący wielkości mija się z celem

    Większość komentarzy na temat sztucznej inteligencji i cyberbezpieczeństwa skupia się na jednym fakcie – że systemy automatyczne wykrywają więcej błędów niż ludzie. To prawda, ale w kontekście zgodności z ustawą FORENCE to tylko połowa historii.
    Kiedy w kwietniu 2024 r. agent GPT-4 wykorzystał lukę 87% w oparciu o opis CVE, samo to nie stanowi zagrożenia. Firmy ponownie ustalają priorytety i dokumentują ryzyko, jakie akceptują w pozostałych przypadkach, co jest dokładnie tym zachowaniem, jakie przewidział art. 14, ograniczając obowiązkowe zgłoszenia do błędów będących przedmiotem aktywnych ataków i wyłączając z tego obowiązku rutynowe wyniki skanowania. Nie jest to też tylko laboratoryjna ciekawostka, ponieważ Narzędzia hakerskie oparte na sztucznej inteligencji już teraz przeprowadzają ataki na serwery produkcyjne przez całą dobę.

    Czas ma jednak znacznie większy wpływ niż sama liczba. Mediana czasu od ujawnienia do wykorzystania luki wynosiła w 2018 roku 771 dni; w 2023 r. wynosił 5,3 dnia, co stanowiło wykładniczy spadek o współczynniku R² = 0,98, a w 2025 r. wartość ta zbliżyła się do zera, podczas gdy odsetek luk wykorzystanych do ataków przed lub w momencie publicznego ujawnienia wzrósł z 19% do 54%.

    Certyfikat, który pozostaje ważny, nawet jeśli produkt ulegnie zmianie

    Zgodność z ustawą o cyberodporności

    Zgodność z ustawą o cyberodporności przekształca się w kruchy wymóg, zgodnie z którym produkty muszą być dostarczane “bez znanych luk w zabezpieczeniach, które można wykorzystać”. Klauzula ta zakłada, że to, co jest “znane” pierwszego dnia, w przybliżeniu odpowiada temu, co można “wykryć” tydzień później.


    Google’s Agent z filmu „Wielki sen” w listopadzie 2024 roku na żądanie odkryto na nowo ukrytą lukę w SQLite, a przeprowadzenie tego rodzaju ataku kosztuje dziś około stu dolarów za próbę, jednak produkt i jego certyfikat pozostały na papierze dokładnie takie same. Jego rzeczywisty zakres podatności na ataki i tak uległ zmianie, ponieważ warunki związane z

    Dotyczy to każdego producenta wprowadzającego na rynek UE urządzenie podłączone do sieci, niezależnie od tego, czy jest to kamera IP, urządzenie przemysłowe
    sterownik, robot magazynowy lub inteligentne urządzenie – jeśli jest w pełni zgodne z normami – może stać się łatwym celem już tydzień po certyfikacji, ponieważ luka wynikała z zestawu narzędzi atakującego i znajdowała się całkowicie poza kodem samego produktu.

    Dwa roboty, jeden dowód

    W artykule tezę tę poparto przykładami dwóch urządzeń przetestowanych bezpośrednio w ramach ustawy o cyberodporności: humanoida Unitree G1
    oraz kosiarka Hookii.

    Nieobroniony agent AI przejął kontrolę nad urządzeniem G1, wykorzystując lukę w zabezpieczeniach polegającą na wstrzyknięciu poleceń przez Bluetooth oraz identyczny klucz AES wbudowany w każdy egzemplarz floty. Następnie odszyfrował dane telemetryczne robota i uzyskał dostęp do sterowania zdalnego, osiągając wskaźnik skuteczności na poziomie 79%. W przypadku kosiarki 38 połączonych luk w zabezpieczeniach pozwoliło na ominięcie geofence’u bezpieczeństwa w całej flocie 267 urządzeń, osiągając wskaźnik skuteczności na poziomie 75%.

    Po włączeniu obu robotów do systemu „Robot Immune System” – autonomicznego agenta sztucznej inteligencji pełniącego funkcję obronną – skuteczność ataku spada do 14% i 8%, a czas wykrycia i powstrzymania ataku wynosi odpowiednio poniżej 8 i 12 sekund. Wniosek płynący z artykułu ma dwojakie znaczenie, ponieważ zarówno atakujący, jak i broniący się wykorzystują tę samą technologię, więc jedyną certyfikacją, która się sprawdza, jest taka, która nigdy nie przestaje działać. Mechanizm stojący za tą koncepcją omówiłem w jak działa uczenie się w autonomicznej cyberobronie.

    Sposoby na sprawdzenie skuteczności programu zapewnienia zgodności

    Jeśli doradzacie klientom w kwestiach zgodności z ustawą o odporności cybernetycznej lub dostarczacie produkty podłączone do sieci do UE, te zmiany mają większe znaczenie niż sama formalność.

    1. Zaplanuj ponowny audyt po uzyskaniu certyfikatu, ponieważ audyt punktowy dostarcza informacji wyłącznie o dniu, w którym został przeprowadzony.
    2. Należy uwzględnić w budżecie koszty ciągłego monitorowania jako wydatki cykliczne, ponieważ czas od ujawnienia luki do jej wykorzystania mierzy się obecnie w dniach, a czasem nawet w godzinach.
    3. Traktuj defensywnego agenta AI jako kluczowy element zapewnienia zgodności z przepisami; dane zawarte w artykule pokazują, że skuteczność ataków spada z 791 TP3T do 141 TP3T, gdy taki agent jest uruchomiony.
    4. Zapytaj dowolnego dostawcę, w jaki sposób wykrywa rozbieżności między tym, co zostało certyfikowane, a tym, co faktycznie działa obecnie.

    W grudniu 2027 r. ustawa o cyberodporności wejdzie w życie w pełnym zakresie, wprowadzając certyfikację produktów w świecie, który już poszedł naprzód. Coroczny certyfikat zgodności nie ma żadnej wartości po następnym wtorku, a jedyną możliwością zapewnienia ochrony na dłużej niż tydzień jest ciągła ochrona oparta na agentach.

    Źródło: https://arxiv.org/abs/2607.07109


    Chcesz więcej? Subskrybuj The Dossier

    Co tydzień w skrzynce odbiorczej:

    📡 KANAŁ WYWIADOWCZY - 3-5 wyselekcjonowanych linków: [Badania] [Polityka] [Narzędzia] [Incydenty]
    💡 JEDNA RADA - Jedna praktyczna wskazówka dotycząca AI/cyberbezpieczeństwa, z której możesz skorzystać już dziś

  • Narzędzia hakerskie AI próbują włamać się do serwerów. Oto dlaczego im się nie udaje.

    Spis treści

    Wyobraźmy sobie taką sytuację. Przekazujesz klucze do całej swojej infrastruktury serwerowej superkomputerowi, mając nadzieję, że nowoczesne narzędzia hakerskie AI znajdą każdą lukę. Wskazujesz znaną lukę w swoim kodzie i wydajesz mu jedno polecenie. Wykorzystaj ten błąd.

    Udowodnij mi, że ten system można skompromitować. Czekasz na fajerwerki. Zamiast tego mózg wart wiele miliardów dolarów zacina się. Wypluwa bełkotliwe błędy. Potem całkowicie się poddaje. Badacze z UC Berkeley właśnie ujawnił dokładnie ten scenariusz.

    Iluzja wszechwiedzącej maszyny

    Zostaliśmy nakarmieni narracją o wszechmocnych algorytmach przedzierających się przez zapory sieciowe Pentagonu w ciągu kilku sekund. Media napompowały histerię. Firmy technologiczne zaczęły zwalniać młodszych analityków bezpieczeństwa. Wierzyli, że podstawowe skrypty poradzą sobie z ciężkimi zadaniami.

    Prawda okazała się o wiele bardziej brutalna i zawstydzająca dla twórców narzędzi do hakowania sztucznej inteligencji. Twórcy CyberGym zbudowali ogromny poligon doświadczalny. Zebrali ponad 1500 rzeczywistych luk w prawie 200 projektach oprogramowania. Zadanie było zwodniczo proste. Maszyna musiała wygenerować działający exploit Proof-of-Concept na podstawie opisu tekstowego i bazy kodu.

    narzędzia hakerskie ai

    Najlepsze modele dostępne na rynku napotkały ogromną przeszkodę. Osiągnęły one skuteczność na poziomie około 20 procent. Osiem na dziesięć prób zakończyło się całkowitą porażką. To całkowicie obala mit, że maszyny odbierają pracę doświadczonym testerom penetracyjnym. Systemy te potrafią wygenerować tysiące linii kodu o doskonałej składni. Jednak głębokie zrozumienie całkowicie im umyka.

    Dlaczego branża całkowicie się myli

    Większość ludzi postrzega postęp technologiczny przez pryzmat statycznych punktów odniesienia. Maszyna przechodzi egzamin medyczny. Automatycznie zakładamy, że poradzi sobie w dynamicznym środowisku sieciowym. Jest to ogromne błędne przekonanie. Egzamin odbywa się w ramach zamkniętego, przewidywalnego zestawu zasad. Hakowanie jest dokładnym przeciwieństwem. Hakowanie wymaga łamania zasad. Ciągle mylimy surową szybkość przetwarzania z rzeczywistą przebiegłością. Oceniając narzędzia hakerskie AI, musimy patrzeć na rzeczywistą wydajność, a nie teoretyczną zdolność.

    Większość narzędzi hakerskich AI patrzy na kod i przewiduje następny token na podstawie prawdopodobieństwa statystycznego. W rzeczywistości nie rozumieją logiki. Nie rozumieją, że zmiana pojedynczej zmiennej w niejasnym module spowoduje kaskadową awarię pamięci na oddzielnym serwerze. Konsekwencje drugiego rzędu pozostają całkowicie poza zasięgiem obecnych architektur.

    Nie można karmić maszyny milionami logów serwera i oczekiwać, że w magiczny sposób rozwinie ona instynkt drapieżnika. Wyobraźmy sobie włamywacza. Wie, jak wygląda zamek. Potrafi opisać jego wewnętrzny mechanizm w stu językach. Kiedy podasz mu wytrych, próbuje wepchnąć instrukcję obsługi do dziurki od klucza.

    Rzeczywiste konsekwencje dla Twojej firmy

    Co to oznacza dla firmy? założyciel czy dyrektorem IT? Stwarza to niebezpieczne fałszywe poczucie bezpieczeństwa. Jeśli polegasz wyłącznie na narzędziach hakerskich AI do audytu swojej bazy kodu, pozostawiasz całą firmę otwartą na atak. Boty wyłapią literówki. Będą oznaczać podstawowe błędne konfiguracje, takie jak odsłonięty bucket AWS. Całkowicie zawiodą w przypadku złożonych luk typu zero-day.

    Przyjrzyjmy się konkretnemu scenariuszowi. Uruchamiasz nową aplikację do przetwarzania płatności. Zatrudniasz automatycznego bota do skanowania 50 000 linii kodu. Bot wydaje pozytywną opinię. Wprowadzasz aplikację do produkcji. Tydzień później przestępcy wypłacają 250 000 dolarów z kont użytkowników. Dlaczego? Ludzki haker znalazł lukę.

    Wysłali dwa żądania wypłaty dokładnie w tej samej milisekundzie. Algorytm nawet nie rozważał symulacji fizyki obciążenia serwera w stosunku do ograniczeń czasowych procesora. Bot po prostu czytał czysty tekst. Człowiek czytał między wierszami.

    Badacze CyberGym odkryli 35 nowych luk w zabezpieczeniach. Znaleźli również 17 niekompletnych łatek. Maszyna nie zrobiła tego sama. Po prostu pobrała odpowiednie dane diagnostyczne dla ludzkich operatorów. Po zwolnieniu ludzi oprogramowanie po prostu zbiera kurz.

    Firmy pokładające ślepą wiarę w narzędzia hakerskie AI staną się najłatwiejszym celem w Internecie. Przestępcy dokładnie wiedzą, gdzie algorytmy mają martwe punkty. Uderzą dokładnie tam.

    Pod maską awarii sztucznej inteligencji

    Przejdźmy do sedna sprawy i przyjrzyjmy się mechanizmom technicznym. Dlaczego te systemy nie radzą sobie z pisaniem exploitów? Podstawowym problemem jest zarządzanie kontekstem. Wykonanie skutecznego ataku wymaga utrzymania złożonego stanu na wielu etapach. Należy wysłać nieprawidłowy pakiet danych. Należy poczekać na bardzo specyficzną odpowiedź. Należy przejąć wskaźnik instrukcji w aktywnej pamięci.

    Modele gubią się w długich łańcuchach przyczyn i skutków. Halucynują nieistniejące funkcje. Starają się wykorzystywać metody, których poprawki pojawiły się w 2018 roku. Mało tego, brakuje im zdolności do dynamicznego korygowania kursu. Człowiek widzi błąd segmentacji i natychmiast analizuje zrzut pamięci. Maszyna widzi dokładnie ten sam błąd i wchodzi w nieskończoną pętlę.

    Próbuje w kółko dokładnie tego samego zepsutego polecenia. Napisanie exploita na przepełnienie bufora wymaga precyzyjnych obliczeń przesunięć pamięci. Obecne modele po prostu zgadują. Rzucają losowymi ciągami w ścianę. Mają ślepą nadzieję, że coś się zepsuje. Bezpośrednia interakcja ze środowiskiem wykonawczym na żywo ujawnia każdą słabość narzędzi hakerskich AI.

    Zabezpieczanie systemów we właściwy sposób

    Przestań traktować te programy jak magię. Utrzymuj starszych inżynierów na liście płac. Zautomatyzowane aplikacje skanujące i narzędzia hakerskie AI są obecnie niczym więcej niż hałaśliwymi zabawkami w rękach amatorów. Przekazanie kluczy do królestwa algorytmowi to otwarte zaproszenie do katastrofy.

    Jeśli chcesz chronić swoją sieć już dziś, zaimplementuj te trzy obowiązkowe protokoły:

    1. Zaplanuj ręczne testy penetracyjne co 6 miesięcy przy użyciu certyfikowanych inżynierów bezpieczeństwa.
    2. Wdrażaj narzędzia hakerskie AI wyłącznie do wstępnej statycznej analizy kodu, ale nigdy nie polegaj na nich przy ostatecznym zatwierdzaniu produkcji.
    3. Zainstaluj wielowarstwowe systemy monitorowania, które wykrywają anomalie behawioralne, zamiast polegać na znanych sygnaturach exploitów.

    Prawdziwa wojna o Twoje dane będzie nadal toczona przez ludzkie umysły.


    Chcesz więcej? Subskrybuj The Dossier

    Co tydzień w skrzynce odbiorczej:

    📡 KANAŁ WYWIADOWCZY - 3-5 wyselekcjonowanych linków: [Badania] [Polityka] [Narzędzia] [Incydenty]
    💡 JEDNA RADA - Jedna praktyczna wskazówka dotycząca AI/cyberbezpieczeństwa, z której możesz skorzystać już dziś