Wyobraź sobie czterdziestowierszowy skrypt na laptopie analityka finansowego – jednego z tych „ukrytych” agentów AI, których nikt z działu IT nigdy nie zatwierdził. Co kilka sekund wywołuje on interfejs API modelu i przekazuje odpowiedzi do powłoki. Twój system EDR wykrywa interpreter z połączeniem TLS oraz proces potomny cmd.exe.
Tak samo wygląda każda instalacja npm na piętrze programistów.
Jeremy Canale i Fabien Soulis stworzyli platformę testową poświęconą temu problemowi. Opracowali 12 syntetycznych agentów i 9 nieszkodliwych obciążeń, a każdy scenariusz był uruchamiany pięć razy na jednej stacji roboczej z systemem Windows. Chcieli sprawdzić, czy w ogóle można wykryć ukryte agenty AI na urządzeniu końcowym.
Odpowiedź brzmi: częściowo, i to tylko wtedy, gdy wiesz, z kim rozmawia agent.
Agenci Shadow AI tworzą kolejne kopie samych siebie
Klasyczny przykład „shadow IT” to sytuacja, w której ktoś opłaca licencję SaaS za pomocą firmowej karty kredytowej. Jedna osoba kupuje jedno narzędzie i na tym się kończy.
Agenci tworzą skrypty i uruchamiają serwery MCP z uprawnieniami użytkownika, który je uruchamia. W ten sam sposób planują zadania i instalują pakiety. OWASP klasyfikuje to jako nadmierna autonomiczność w swojej pierwszej dziesiątce aplikacji LLM. Niektóre z tych, które pomijają, również nazywają się modelami, więc mogą generować więcej podobnych treści bez udziału człowieka przy klawiaturze.
W modelu kumulacyjnym przedstawionym w artykule liczba niezatwierdzonych artefaktów rośnie wykładniczo, gdy artefakty tworzone przez agentów rozmnażają się szybciej niż organizacja je wycofuje. Autorzy określają liczby podane na wykresie jako poglądowe. Jeśli w ich przykładzie potroimy tempo wycofywania, liczba niezatwierdzonych artefaktów ustabilizuje się na poziomie dziesięciu na pracownika, czyli dziesięciokrotnie wyższym niż w klasycznym scenariuszu.
Na swoim laptopie uruchamiam kilka agentów za pomocą Harmonogramu zadań systemu Windows. Nikt ich nie zatwierdził, bo w domu to ja jestem działem IT. W pracy ten sam nawyk powoduje, że powstają ukryte agenty AI, których nikt nie widzi.
Dlaczego zasady postępowania nie sprawdzają się w tym przypadku
Większość zespołów ds. bezpieczeństwa stosuje reguły behawioralne, aby wykrywać ukryte agenty AI. Interpreter, który utrzymuje połączenie na porcie 443 i uruchamia powłokę, wygląda jak agent.
To też wygląda na wersję testową.
W przypadku „bliźniaków behawioralnych” autorzy wzięli każdy skrypt agenta i zastąpili interfejs API modelu indeksem pakietów lub Microsoft Graph. Drzewo procesu i czas trwania pozostały niezmienione. Obie reguły behawioralne wykryły każdego z „bliźniaków”, a wraz z nimi polecenie `npm install`. To 4 z 9 przypadków niegroźnych na każdą regułę.
Na rzeczywistej stacji roboczej ta bardziej ogólna reguła zidentyfikowała plik claude.exe jako prawdziwy program do kodowania. Z tego samego powodu zidentyfikowała również edytor VS Code oraz powłokę systemu Windows.
Zgodnie z prawem Marteca technologia zmienia się wykładniczo, podczas gdy organizacje zmieniają się logarytmicznie, a reguły zachowań stanowią odpowiedź ze strony organizacji. Zostały one dostosowane do złośliwego oprogramowania, a agent wykonuje polecenia użytkownika. Prawdziwym pytaniem jest to, czy narzędzie jest autoryzowane, a to już kwestia tożsamości.
Agent Detector, narzędzie typu open source opisane w artykule, wiąże zachowanie z tożsamością zdalnej usługi. Odczytuje ono z pamięci podręcznej DNS systemu Windows lub z opublikowanego zakresu adresów, który proces komunikuje się z którym punktem końcowym modelu. Następnie szuka pod spodem powłoki lub serwera MCP. Jego katalog zawiera 39 narzędzi i 184 wpisy dotyczących punktów końcowych LLM. W testach wykryło wszystkie 12 agentów w większości przebiegów. Nie zidentyfikowało żadnego z nieszkodliwych zdarzeń.
Autorzy piszą, że dane te przedstawiają ich własny detektor w lepszym świetle niż jakikolwiek inny opisany w artykule. Dwa wykrycia miały miejsce w zaledwie trzech z pięciu serii pomiarów.
Ile kosztuje Cię ta luka po wystąpieniu zdarzenia
Kiedy dochodzi do wycieku informacji przez jednego z twoich agentów sztucznej inteligencji typu „shadow”, śledczy najpierw pyta o punkt końcowy. W lipcu Brandy Wityak z LevelBlue opisała w wywiadzie dla Help Net Security. “Pierwszą rzeczą, która prawdopodobnie już zniknęła, są zapisy w dzienniku zapory sieciowej pokazujące połączenia wychodzące z platformami AI”.”
W punkcie końcowym okno jest jeszcze krótsze.
Jej odpowiedź na pytanie, w jaki sposób organ regulacyjny ocenia incydent związany z “cieniową sztuczną inteligencją”, nie pozostawia miejsca na wymówki. „Korzystanie z „cieniowej sztucznej inteligencji” przez pracownika nigdy nie jest przypadkiem z punktu widzenia przepisów”. Zgodnie z RODO decydujące znaczenie ma to, czy wprowadzono odpowiednie środki. Polityka opublikowana w wiki, której nikt nie może zweryfikować w odniesieniu do floty, stanowi słabą odpowiedź.
W sierpniu napisałem, że Shadow AI rozwija się w tej niszy między wdrożeniem sztucznej inteligencji a poinformowaniem pracowników o planie, co firma Gallup oszacowała odpowiednio na 47% i 25%. Badanie przeprowadzone przez dostawcę, na które powołują się autorzy, wskazuje, że zespoły ds. bezpieczeństwa dostrzegają zaledwie około jednej trzeciej rzeczywistego zasięgu działania sztucznej inteligencji. Resztę, w tym ukryte agenty sztucznej inteligencji, wyjaśnia się dopiero później.
Jak działa wykrywanie agentów „cieniowej sztucznej inteligencji” na urządzeniach końcowych – wyjaśnienie w przystępny sposób
Pomyśl o pamięci podręcznej DNS jak o pamięci krótkotrwałej Twojego laptopa, w której przechowywane są nazwy, które zostały wyszukane. Agent Detector odczytuje tę pamięć, aby nawiązać połączenie z dostawcą. W przypadku agentów sztucznej inteligencji typu „shadow”, które łączą się z dostawcami za pośrednictwem wspólnej sieci CDN, ta pamięć stanowi jedyne połączenie.
Trwa to od jednej do pięciu minut.
Autorzy utrzymywali połączenia agentów z czterema dostawcami hostowanymi w sieci CDN przez sześć minut, przeprowadzając skanowanie co 15 sekund. Wszystkie dwanaście agentów pozostało połączonych do samego końca, a po upływie 295 sekund nie odnotowano żadnego połączenia. Odpowiedzi DNS serwisu OpenAI są aktywne maksymalnie przez 60 sekund. Agent, który otwiera jedno połączenie i utrzymuje je przez godzinę, jest widoczny tylko przez pierwsze kilka minut.
Domyślna częstotliwość skanowania wynosi jedno skanowanie na godzinę.
Agent, który wywołuje swój model w określonych odstępach czasu, był wykrywany przez mniej więcej co trzecie skanowanie w trakcie działania. Agent, który działa przez pięć sekund i kończy działanie przed rozpoczęciem skanowania, nie jest wykrywany przez żadne z detektorów okresowych.
Agenci Shadow AI działający w środowisku WSL 2 byli niewidoczni dla wszystkich detektorów testowanych w ramach badania, w tym dla detektora opisanego w samym artykule. Agent z przekaźnikiem zakodowanym na stałe w kodzie źródłowym, działający w domenie nieznanej katalogowi, jest niewidoczny dla detektora Agent Detector.
Skanowanie trwa 154 ms, co przy uruchamianiu co godzinę daje łącznie mniej niż dziesięć sekund obciążenia procesora na laptopa dziennie. Narzędzie nie blokuje żadnych operacji. Użytkownicy otrzymują powiadomienie, które muszą potwierdzić, a dziennik zdarzeń rejestruje, kto je zaakceptował.
Zacznij od spisu, który można powtórzyć
Nie wystarczy wprowadzić regułę dotyczącą zachowania i uznać, że problem z ukrytymi agentami AI został rozwiązany. Jak zauważają autorzy, na komputerze programisty reguła ta uruchamia się przy każdej kompilacji, a taki detektor traci zaufanie użytkowników w ciągu jednego dnia.
Sporządź listę uruchomionych przez użytkowników procesów, podając ich nazwy – zacznij od agentów kodujących i konfiguracji MCP, a następnie od podstawowych adresów URL kierujących do serwerów przekaźnikowych i lokalnych środowisk uruchomieniowych na porcie Ollamy. Następnie przeprowadzaj skanowanie częściej niż trwa czas wygaśnięcia pamięci podręcznej DNS i wyłączaj WSL tam, gdzie nikt go nie potrzebuje.
Nie można przejść na emeryturę z czegoś, czego się nigdy nie znalazło.
Zapytaj pracownika w Stanach Zjednoczonych, czy jego pracodawca wdrożył sztuczną inteligencję. Znaczna część z nich nie potrafi udzielić odpowiedzi, a właśnie w takim zamieszaniu rozwija się „ukryta sztuczna inteligencja”.
Z tego powodu firma Gallup zmieniła sformułowanie pytania. W uwadze metodologicznej napisano: “Począwszy od trzeciego kwartału 2025 r. firma Gallup dodała do tego pytania opcję ‘nie wiem’, aby odzwierciedlić niepewność związaną z wdrażaniem sztucznej inteligencji”. Wyniki od trzeciego kwartału 2025 r. nie są już bezpośrednio porównywalne z wcześniejszymi pomiarami.
Firma zajmująca się sondażami zerwała własną serię czasową, ponieważ zbyt wiele osób nie miało pojęcia, co się dzieje wewnątrz budynku, w którym pracują.
Druga liczba, o której nikt nie wspomina
Według danych z maja 2026 r. 47% pracowników w Stanach Zjednoczonych twierdzi, że ich organizacja wdrożyła sztuczną inteligencję. Tylko 25% twierdzi, że organizacja przedstawiła jasny plan.
W każdym nagłówku pojawia się pierwsza liczba, ale to ta druga stanowi sedno artykułu.
Pomiędzy stwierdzeniami “mamy to” a “ktoś mi powiedział, jak z tego korzystać” istnieje luka, a w tej luce znajdują się umowy, dokumentacja medyczna pacjentów, projekty ofert, kod źródłowy – cokolwiek właśnie dzisiaj wklejają Twoi pracownicy.
Shadow AI to domyślny stan tej luki.
Adopcja to błędny argument
Od dawna toczy się spór na temat tego, ile osób korzysta ze sztucznej inteligencji. Gabriel Weinberg Przedstawiciel serwisu DuckDuckGo podsumował w czerwcu 2026 r. nastawienie sceptyczne następująco: “jedna trzecia aktywnie korzysta ze sztucznej inteligencji, jedna trzecia korzysta z niej sporadycznie, a jedna trzecia nigdy z niej nie korzysta”. Powołuje się on na dane telemetryczne firmy Microsoft, według których “ponad 30 procent ludności w wieku produkcyjnym w Stanach Zjednoczonych korzysta ze sztucznej inteligencji, co stanowi wzrost o 3 punkty procentowe w porównaniu z końcem 2025 roku”.
Dane firmy Gallup dotyczące miejsca pracy wskazują na wyższe wyniki. 15% pracowników w USA korzysta z AI codziennie. 30% korzysta z niej co najmniej raz w tygodniu, a 52% korzysta z niej przynajmniej kilka razy w roku.
Wybierzcie sobie dowolną stronę – to nie ma żadnego wpływu na moją pracę.
Niezależnie od tego, czy podniesie się, czy obniży liczbę użytkowników, model 25%, który ma jasno określony plan, pozostaje na swoim miejscu. Ta walka odwraca uwagę od jedynego istotnego pytania, a mianowicie: kto napisał regulamin i kto go przeczytał.
Shadow AI to problem związany z poufnością, w którym nie ma atakującego
Odejmij słownictwo, a zobaczysz, że to właśnie wszystko.
Żadnych wiadomości phishingowych, żadnych exploitów, żadnych systemów typu „command and control” – nic, co mogłoby wywołać alarm. Pracownik otwiera kartę przeglądarki i wkleja dokument klienta do chatbota, aby uzyskać podsumowanie. Dane opuszczają organizację. Większość zakupionych przez Państwa rozwiązań zakłada, że ktoś próbuje się włamać. Shadow AI wychodzi frontowymi drzwiami w godzinach pracy, kierowana przez ludzi, którzy po prostu chcą szybciej zakończyć pracę.
OWASP prowadzi wpis dotyczący ujawniania informacji wrażliwych w swoim 10 najlepszych zastosowań dużych modeli językowych, a niemal wszystkie te wskazówki dotyczą aplikacji stworzonej przez Ciebie. Zakładka, którą Twój zespół sprzedaży otworzył dziś rano, nie jest niczyją aplikacją.
Scott Brinker opisał ten zjawisko już w 2013 roku i nazwał je „prawem Marteca”. Technologia zmienia się wykładniczo, a organizacje – logarytmicznie. Twoi pracownicy opanowali sztuczną inteligencję w jedno popołudnie, a proces aktualizacji dokumentacji przebiega w tempie komisji.
Dane Gallupa dotyczące menedżerów pokazują to samo z innej perspektywy. 36% respondentów zdecydowanie zgadza się, że ich menedżer wspiera zespół w korzystaniu ze sztucznej inteligencji. Tam, gdzie takie wsparcie istnieje, pracownicy są 1,7 razy bardziej skłonni do korzystania ze sztucznej inteligencji co najmniej raz w tygodniu oraz 8,7 razy bardziej skłonni do zgłaszania transformacyjnych zmian w sposobie pracy. Zachęta rozprzestrzenia się poprzez rozmowę, a zasady – poprzez dokumenty. „Shadow AI” wybiera szybszą drogę.
Jak wygląda „Shadow AI” we wtorek
Nikt nie siada i nie podejmuje decyzji o zastosowaniu sztucznej inteligencji typu „shadow”. Objawia się to drobnymi, rozsądnymi posunięciami.
Przedstawiciel handlowy wkleja podpisaną umowę do chatbota, aby wyodrębnić z niej daty odnowienia. Asystentka z działu kadr wrzuca arkusz kalkulacyjny z wynagrodzeniami do chatbota, aby zmienić format kolumn. Programista wysyła ślad stosu zawierający ciąg połączenia z serwerem produkcyjnym do konta w ramach bezpłatnego pakietu. Recepcjonistka w przychodni przeredagowuje skierowanie, w którym nadal widnieje nazwisko pacjenta.
Żadna z tych osób nie jest nieostrożna. Wszystkim powiedziano, że sztuczna inteligencja pozwala im pracować szybciej, ale nikomu nie wyjaśniono, gdzie przebiega granica.
Usunięcie nazwy klienta przed wklejeniem również nie sprawia, że tekst staje się danymi anonimowymi, a zapoznałem się z wynikami badań na ten temat w Wyciek prywatności ChatGPT.
Każda z tych czynności pozostaje niewidoczna dla zespołu ds. bezpieczeństwa, ponieważ nie doszło do żadnego naruszenia bezpieczeństwa i nie wygenerowano żadnego alertu.
Niskie liczby nie oznaczają bezpieczeństwa
W przypadku codziennego użytkowania wskaźnik wynosi 42% w branży technologicznej, 27% w branży finansowej, 22% w branży usług profesjonalnych oraz od 9 do 15% we wszystkich pozostałych branżach.
Proszę uważnie zapoznać się z dolnym przedziałem, ponieważ kancelaria prawna lub poradnia znajdująca się w tym najniższym przedziale nie ma lepszej sytuacji. Jest to miejsce, w którym mniejsza grupa osób zajmuje się tym samym, ale ma do czynienia z materiałami o znacznie większej wrażliwości, a przy tym istnieje mniejsze prawdopodobieństwo, że ktokolwiek z działu IT kiedykolwiek się z nimi zapoznał. Niskie wykorzystanie kryje w sobie „ukrytą sztuczną inteligencję”.
65% pracowników w organizacjach wdrażających sztuczną inteligencję, którzy zgłaszają pozytywny wpływ na wydajność, również nie kłamią. To działa i właśnie dlatego nikt nie zamierza przestać, nawet jeśli się ich o to poprosi. Zakaz sprawia, że „cieniowa sztuczna inteligencja” staje się jeszcze mniej widoczna.
Jedna strona przed dokonaniem zakupu
Nie zaczynaj od narzędzia. Zacznij od jednej strony, która odpowiada na cztery pytania.
Które kategorie danych nigdy nie są wprowadzane do modelu zewnętrznego?.
Jakie narzędzia są dopuszczone do użytku – lista według nazw.
Do kogo pracownik zwraca się, gdy odpowiedź nie jest oczywista.
Co się dzieje, gdy coś już się wydarzyło, i kto dowiaduje się o tym jako pierwszy?.
Strona ta nie dotyczy środowiska podlegającego regulacjom ani nie zastępuje umowy z dostawcą. Przedstawia ona aktualne wycieki.
Następnie zajmij się tą nudną częścią i wyślij to wszystkim, wskazując jedną osobę jako właściciela. Zasada, której nikt nie potrafi znaleźć, działa tak samo jak brak jakiejkolwiek zasady, i właśnie w tym momencie „shadow AI” zaczyna od nowa. Nie jest to skomplikowane zadanie i nie wymaga zatrudniania konsultanta.
Jedna strona wystarczy, by pokonać cykl zamówień. Jeśli nie potrafisz tego napisać, to nie masz programu opartego na sztucznej inteligencji – masz tylko 47% i nadzieję.
Pamiętaj więc: jeśli masz napisać na tej stronie tylko jedną linijkę, niech to będzie właśnie ta. Nigdy nie wpisuj do modelu LLM niczego, czego nie wysłałbyś w e-mailu do nieznajomego.
Dwieście siedemdziesiąt dwóch międzynarodowych ekspertów w dziedzinie sztucznej inteligencji opracowało właśnie ranking ryzyka związanego ze sztuczną inteligencją oparty na prawdopodobieństwie, a nie na domysłach. Większości organów regulacyjnych nie udało się tego osiągnąć nawet w ciągu trzech lat.
Badanie zatytułowane “Prioritization of Risks From Artificial Intelligence” („Ustalanie priorytetów zagrożeń związanych ze sztuczną inteligencją”) zostało przeprowadzone przez MIT FutureTech oraz Uniwersytet Queensland. W artykule wymieniono 188 współautorów. Głównymi autorami są Peter Slattery, Alexander Saeri, Jess Graham, Michael Noetel i Neil Thompson. Wykorzystali oni metodę Delphi – proces badawczy polegający na gromadzeniu opinii ekspertów w wielu rundach, aż do momentu, gdy widoczne staną się zarówno punkty zgodności, jak i rozbieżności. Ta sama metoda pojawia się w Międzynarodowym raporcie dotyczącym bezpieczeństwa sztucznej inteligencji z 2026 r., który powołuje się na tę samą pracę. Dane, na których opiera się badanie, znajdują się w Repozytorium ryzyka związanego ze sztuczną inteligencją MIT, stale aktualizowany katalog zawierający ponad 1 600 udokumentowanych zagrożeń, z którego korzystają decydenci i specjaliści ds. technologii.
Eksperci ocenili 24 obszary ryzyka w perspektywie pięcioletniej, od 2025 do 2030 roku, w ramach dwóch scenariuszy. Jeden scenariusz zakładał utrzymanie dotychczasowego stanu rzeczy, w którym organizacje i rządy kontynuują dotychczasowe działania. Drugi zakładał pragmatyczne działania łagodzące, w ramach których wszyscy podejmują opłacalne wysiłki w celu ograniczenia szkód. W scenariuszu „biznes jak zwykle” w 18 z 24 obszarów prawdopodobieństwo wystąpienia katastrofalnych skutków wynosiło co najmniej 10%. Konsekwencje katastrofalne oznaczały ponad milion ofiar śmiertelnych lub straty przekraczające $100 miliardów, przy czym w obu przypadkach szkody miały porównywalną skalę cywilizacyjną. To punkt odniesienia, którego nikt do tej pory nie chciał zapisać. Jest to bardziej wyraziste, oparte przede wszystkim na liczbach ujęcie spektrum ryzyka Ten blog już zawiera mapy.
Dlaczego większość ludzi źle to interpretuje
Większość ludzi, słysząc o “ryzyku związanym ze sztuczną inteligencją”, wyobraża sobie coś, co nastąpi za wiele lat – na przykład niekontrolowane modele lub autonomiczną broń w jakimś przyszłym konflikcie. Nie jest to jednak zgodne z wynikami niniejszego rankingu ryzyka związanego ze sztuczną inteligencją. Nawet przy zastosowaniu pragmatycznych środków ograniczających ryzyko pięć obszarów nadal osiągnęło prawdopodobieństwo katastrofy na poziomie 10%. Niebezpieczne możliwości oraz broń oparta na sztucznej inteligencji lub cyberataki osiągnęły po 12%. Podobnie było w przypadku szkód środowiskowych – obszaru, którego większość ludzi nie kojarzyłaby w ogóle z cyberbezpieczeństwem. Nierówności społeczne i bezrobocie uplasowały się o jeden punkt niżej, na poziomie 11%, tuż obok centralizacji władzy. Dwie z tych pięciu dziedzin stanowią problem cyberbezpieczeństwa i ich wskaźniki nie spadły znacząco, nawet pomimo wspólnych wysiłków wszystkich zainteresowanych stron.
Praca w dziedzinie bezpieczeństwa sprowadza się do jednego zadania: podniesienia kosztów ponoszonych przez atakującego na tyle, by atak przestał być opłacalny. Żaden system nie pozostaje bezpieczny na zawsze, więc alternatywa musi być po prostu na tyle kosztowna, by miała znaczenie. Sztuczna inteligencja nie tworzy nowych etapów ataku. Obniża ona koszty etapów, które już istnieją. Rozpoznanie zostaje zautomatyzowane.
Wykorzystywanie tych metod do celów złośliwych staje się szablonowe, a sposób ich dostarczania – coraz bardziej przekonujący, ponieważ wygenerowana wiadomość phishingowa czy sklonowany głos nie wymagają już udziału wykwalifikowanego operatora. To ten sam mechanizm, który stoi za… Ataki cybernetyczne wykorzystujące sztuczną inteligencję które już dziś dotykają zwykłe firmy. Jak stwierdził Slattery, właśnie w dziedzinie hakowania możliwości sztucznej inteligencji rozwijają się najszybciej, a wzrost ten jest bardziej widoczny po stronie kosztów niż po stronie prawdopodobieństwa.
Presja konkurencyjna działa jako mechanizm, który podtrzymuje pozostałe cztery rodzaje ryzyka. Gdy firma lub państwo uznają, że sztuczna inteligencja daje im przewagę, spowolnienie działań ze względów bezpieczeństwa oznacza po prostu przekazanie tej przewagi tym, którzy nie zwalniają tempa. Nikt nie chce być tym, który podnosi własne koszty, podczas gdy konkurencja tego nie robi, więc wyścig w dół w zakresie zarządzania trwa nadal. To ta sama dynamika, która sprawia, że cykle aktualizacji są zbyt powolne, a budżety na bezpieczeństwo zbyt małe – wszystko to przebiega w tempie sztucznej inteligencji, a nie w tempie IT.
Traktowanie tego rankingu ryzyka związanego ze sztuczną inteligencją jako jednorazowego projektu mającego na celu zapewnienie zgodności z przepisami oznacza błędną interpretację danych. Nie jest to coś, co można raz zakończyć i odłożyć na bok.
Co to oznacza, jeśli to właśnie ty ponosisz ryzyko
W badaniu wskazano również, kto jest narażony, a kto ponosi odpowiedzialność – te dwie grupy nie pokrywają się. Największa odpowiedzialność za przeciwdziałanie tym zagrożeniom spoczywa na twórcach oprogramowania i organach regulacyjnych. Największe ryzyko ponoszą użytkownicy oraz osoby, na które wpływ mają systemy sztucznej inteligencji. Ta rozbieżność sprawia, że nikt nie odczuwa odpowiedniego poczucia pilności. Osoby, które mogłyby spowolnić ten proces, nie są tymi, które poniosą jego konsekwencje.
Zasięg informacji nie rozkłada się równomiernie. Media pochłaniają ją poprzez dezinformację i manipulację – takie praktyki podważają zaufanie do tego, co ludzie widzą i czytają – podczas gdy kwestie bezpieczeństwa narodowego skupiają się na cyberatakach i rozwoju broni, a nadzór kierowany jest ku temu wrogim podmiotowi, który wykona pierwszy ruch. Nie oszczędza to również sektora finansowego, gdzie oszustwa i manipulacje rynkowe stają się łatwiejsze, a na dodatek naruszenia prywatności wywołują falę skutków w całej gospodarce. Sztuczna inteligencja sprawia, że wyrządzanie szkód staje się tańsze dla każdego, kto już był do tego zdolny, a także możliwe dla osób, które wcześniej nie miały takiej możliwości.
Slattery przedstawił te ustalenia jako listę kwestii, na które warto zwrócić uwagę już teraz, opartą raczej na prawdopodobieństwie niż na pewności. Reakcja na nie powinna stać się częścią dyskusji na temat zarządzania, którą firmy już prowadzą w zakresie cyberbezpieczeństwa i prywatności. Powinna ona również znaleźć swoje miejsce w planowaniu ciągłości działania, a nie stanowić oddzielnego punktu do odhaczenia z własnym terminem realizacji.
Jeśli odpowiadasz za bezpieczeństwo w organizacji wdrażającej sztuczną inteligencję, liczba, która powinna Ci utkwić w pamięci w kontekście ryzyka związanego z AI, to nie 272 ekspertów ani 24 kategorie. Chodzi o to, że nawet w najlepszym scenariuszu, jaki modelowali naukowcy, cyberataki i niebezpieczne możliwości nie wypadły z pierwszej piątki. Działania ograniczające ryzyko zmniejszają prawdopodobieństwo ich wystąpienia. Nie eliminują jednak cyberzagrożeń z tej listy.
AI agent Kwestia prywatności rzadko trafia na listę kontrolną dotyczącą bezpieczeństwa, a właśnie ta luka jest źródłem prawdziwych szkód. Wyobraźmy sobie pracownika zajmującego się rutynowym zadaniem: sprawdza status zamówienia klienta, a następnie – zanim udzieli odpowiedzi – pobiera pasujące rekordy z systemu CRM i bazy danych faktur, a wszystko to w ciągu dziesięciu sekund. Nikt nie zatrzymał się, by zapytać, czy w tym samym wątku rozmowy, wciąż przechowywanym w pamięci roboczej, nie znalazł się również numer karty innego klienta.
Problem w skrócie
Obecnie agent LLM działa w oparciu o bazy danych, zbiory dokumentów pobierane za pośrednictwem RAG, zewnętrzne interfejsy API oraz inne agenty znajdujące się niżej w łańcuchu zadań. Każda z tych płaszczyzn stwarza własną ścieżkę wycieku danych agenta, a każda z nich stanowi martwy punkt w większości agentów AI prywatność analizy. Badanie śledzi, w jaki sposób dane wrażliwe faktycznie opuszczają system. Część z nich wychodzi poprzez zapytania, które agent sam dla siebie tworzy. Reszta przedostaje się na zewnątrz poprzez wyniki pośrednie przechowywane w pamięci lub poprzez komunikaty przekazywane innemu agentowi w trakcie
Większość polityk bezpieczeństwa została opracowana tak, by wyłapać jedną z tych ścieżek, pozostawiając pozostałe dwie całkowicie otwarte. Ta rozbieżność stanowi rzeczywisty kształt „drzwi” problemu prywatności agenta AI, podczas gdy dwa boczne wejścia pozostają otwarte.
Dlaczego większość zespołów popełnia ten błąd
Większość analiz bezpieczeństwa agentów opiera się na scenariuszach ataków, takich jak wstrzyknięcie argumentu lub próba przełamania ograniczeń, które umykają uwadze modelu. Niniejsze badanie skupia się przede wszystkim na kwestii, z jakimi danymi ma do czynienia agent, niezależnie od tego, czy ktoś go atakuje. Zespół przeprowadzający testy typu „red team” na swoim agencie pod kątem znanych ataków może nadal przeoczyć ryzyko tkwiące w samym projekcie dostępu do danych.
Wydaje się, że kontrola dostępu na poziomie bazy danych powinna to uwzględniać, choć odpowiada ona jedynie na węższe pytanie – kto może w danej chwili odczytać rekord. Nie mówi ona nic o tym, co agent robi z tym rekordem trzy sesje później. W badaniu przeanalizowano sześć mechanizmów zarządzania stworzonych w celu zapewnienia prywatności, kontroli przepływu informacji oraz wykrywania wycieków, działających w sposób łączący się w wielu sesjach. Pozostałe mechanizmy wykrywają jedynie pojedyncze żądania. Prywatność agenta AI faktycznie ulega naruszeniu na poziomie wzorców, łączących się w różnych sesjach, co jest właśnie tym, czego brakuje w pozostałych pięciu mechanizmach.
Co to oznacza dla Ciebie
Wdrażanie agentów u klientów lub uruchamianie ich wewnątrz własnej firmy zmienia zakres elementów, które powinny znaleźć się na liście kontrolnej dostawcy. Dane uwierzytelniające uzyskane w ramach testów typu „red team” metodą jailbreak obejmują obecnie tylko część tej listy. Bardziej trafne pytanie dotyczy prywatności agenta opartego na sztucznej inteligencji we wszystkich obszarach, z którymi agent ma kontakt w danym momencie – w tym podczas pobierania informacji za pomocą RAG, wykonywania zapytań SQL, korzystania z pamięci oraz wymiany komunikatów z innymi agentami. Autorzy badania twierdzą, że taki łączny punkt odniesienia praktycznie jeszcze nie istnieje, a w świetle RODO i podobnych przepisów ten brak staje się prawdziwym obciążeniem, ponieważ udowodnienie zachowania należytej staranności staje się trudne, gdy przeprowadzony test pomija większość rzeczywistej ścieżki danych w systemie.
Kwestie techniczne, w prostych słowach
Weźmy konkretny przykład, który pokazuje, jak w praktyce wygląda zagrożenie dla prywatności związane z agentami AI. Agent działu kadr odpowiada na pytanie pracownika dotyczące dni urlopowych. Podczas wyszukiwania danych pobiera również pole zawierające informację o przyczynie medycznej leżącej u podstaw Wcześniejsza nieobecność, odnotowana tuż obok wyniku analizy danych, zostaje zapisana w pamięci agenta. Trzy zapytania później oddzielny wątek dotyczący tego samego pracownika czerpie z tej pamięci i ujawnia szczegół, o którego ujawnienie nikt nie prosił.
Błąd wynika z braku granicy między tym, co agent wie, a tym, co może powiedzieć w danym kontekście – granicy, której żaden atakujący nie musiał przekraczać. Kontrola przepływu informacji ma na celu wyznaczenie tej granicy na poziomie warstwy danych, a nie warstwa podpowiedzi. Oznacza ona poziom wrażliwości; monitor śledzi ten znacznik niezależnie od tego, gdzie trafią dane – czy to w odpowiedzi na czacie, czy w wiadomości wysłanej do innego agenta. To właśnie ta luka, bardziej niż jakikolwiek atak oparty na podpowiedziach, stanowi codzienny obraz niepowodzeń agentów AI w zakresie ochrony prywatności.
Cztery pytania, które należy sobie zadać przed wysłaniem agenta
Zanim agent uzyska dostęp do danych produkcyjnych, cztery pytania pozwalają wyeliminować większość opisanych powyżej zagrożeń.
Po pierwsze, należy sporządzić mapę wszystkich obszarów danych, do których agent ma dostęp, w tym tych wykraczających daleko poza jego pierwotny zakres działania, obejmując wszystkie bazy danych, repozytoria dokumentów, interfejsy API oraz warstwy pamięci objęte analizą. Po drugie, należy śledzić dane w kontekście sesji, a nie pojedynczych żądań, sprawdzając, czy fakt ujawniony w pierwszej sesji może pojawić się ponownie w piątej sesji bez czyjejkolwiek zgody.
Po trzecie, należy oddzielić pobieranie danych od ich ujawniania, ponieważ agent powtarzający ten zapis na głos potrzebuje innych uprawnień. Po czwarte, należy poprosić dostawców o przedstawienie wyników testów porównawczych zamiast prezentacji demonstracyjnej, ponieważ system odporny na jailbreak nie pokazuje nic na temat poziomu ochrony prywatności agenta AI w kontekście RAG i SQL, nie mówiąc już o pamięci.
Zarządzanie prywatnością agentów AI będzie stawało się coraz trudniejsze, ponieważ systemy agentów nieustannie dodają nowe źródła danych i łączą coraz więcej agentów, które przekazują sobie informacje. Dopóki żaden standard nie obejmie tego pełnego obrazu sytuacji, każda firma korzystająca obecnie z agentów musi samodzielnie decydować, jaki poziom prywatności jest dla niej odpowiedni, i świadomie wybierać kompromisy w tym zakresie, zanim jakiś incydent podejmie tę decyzję za nią.
Nowa rzeczywistość zagrożeń związanych ze sztuczną inteligencją
Sztuczna inteligencja rozwija się szybciej niż nasza zdolność do zarządzania nią. To, co zaczęło się jako dziedzina eksperymentalna, jest obecnie wplecione w gospodarki, rządy i codzienne życie. Tempo rozwoju sztucznej inteligencji tworzy nowe rodzaje ryzyka: ekonomiczne, polityczne, a nawet egzystencjalne.
Problem nie polega na tym, że sztuczna inteligencja istnieje. Chodzi o to, że nasze systemy kontroli, regulacji i zrozumienia nie nadążają za nią. Różnica między tym, co potrafi sztuczna inteligencja, a tym, jak społeczeństwo jest przygotowane do radzenia sobie z nią, staje się coraz większa.
Obecnie stoimy w obliczu szeregu zagrożeń związanych ze sztuczną inteligencją:
Bezpośrednie zagrożenia związane ze sztuczną inteligencją które zagrażają zaufaniu społecznemu, sprawiedliwości i miejscom pracy
Ryzyko systemowe które ujawniają luki w zarządzaniu i globalnej współpracy
Ryzyko długoterminowe czy zachowamy kontrolę nad technologią, którą tworzymy
Artykuł ten przedstawia to spektrum. Opiera się on na badaniach przeprowadzonych przez UNDP, Stanford, i Światowe Forum Ekonomiczne aby pokazać, gdzie jesteśmy i gdzie leżą prawdziwe zagrożenia.
Problem przyspieszenia
Postęp AI jest nie tylko szybki. On przyspiesza. Każdego roku modele stają się większe, tańsze i bardziej wydajne. Ta prędkość stwarza zarówno możliwości, jak i niestabilność.
Skracające się terminy
Prognozy dotyczące tego, kiedy możemy spodziewać się pojawienia się zaawansowanej sztucznej inteligencji na poziomie ludzkim, stają się coraz bardziej realne. W 2024 r. ankieta przeprowadzona wśród prawie 2800 badaczy zajmujących się sztuczną inteligencją wykazała, że mediana prognoz dotyczących „wysokiego poziomu inteligencji maszynowej” wynosi 2047 r., czyli trzynaście lat wcześniej niż przewidywała ta sama grupa w 2022 r. Niektórzy eksperci, tacy jak Ray Kurzweil, spodziewają się sztucznej inteligencji ogólnej do 2029 roku.
Eksplodujące zużycie zasobów
Według Stanford's 2025 AI Index, moc obliczeniowa stojąca za pionierskimi systemami sztucznej inteligencji podwaja się mniej więcej co pięć miesięcy. Wyszkolenie modelu z najwyższej półki kosztuje obecnie dziesiątki milionów dolarów, w porównaniu z zaledwie setkami w 2017 roku. Szacuje się, że samo szkolenie GPT-4 kosztowało $79 milionów.
Tańsze i szybsze wdrożenie
Wraz ze wzrostem kosztów szkoleń spadają koszty użytkowania. W 2024 roku 78% firm zgłosiło korzystanie ze sztucznej inteligencji, co oznacza gwałtowny wzrost z 55% rok wcześniej. Tymczasem koszt uruchomienia modeli AI, takich jak GPT-3.5, spadł o ponad 280 w ciągu 18 miesięcy.
Połączenie krótszych terminów realizacji przez ekspertów, ogromnego wzrostu mocy obliczeniowej i tańszego dostępu tworzy idealną burzę. Zagrożenia związane ze sztuczną inteligencją, które kiedyś pojawiały się po latach, mogą teraz rozprzestrzeniać się na całym świecie w ciągu kilku tygodni. Instytucje działają powoli. Sztuczna inteligencja nie.
Co zalicza się do systemu sztucznej inteligencji
Zanim zaczniemy mówić o zagrożeniach związanych ze sztuczną inteligencją, musimy jasno określić, czym właściwie jest sztuczna inteligencja. W następstwie OECD (Organizacja Współpracy Gospodarczej i Rozwoju) definiuje system sztucznej inteligencji jako dowolny system oparty na maszynach, który przyjmuje cele wyznaczone przez człowieka, interpretuje dane i generuje wyniki, prognozy, treści lub decyzje mające wpływ na świat rzeczywisty lub cyfrowy.
Obejmuje to wszystko, od podstawowych algorytmów stosowanych w usługach publicznych po złożone modele generatywne zdolne do pisania, rysowania i rozumowania. Ponieważ definicja ta jest tak szeroka, ryzyko związane ze sztuczną inteligencją również jest duże. Obejmuje ono zarówno niewielkie odchylenia w podejmowanych decyzjach, jak i zakłócenia na dużą skalę w gospodarce i polityce.
Bezpośrednie zagrożenia związane ze sztuczną inteligencją: Co już się dzieje
Tempo rozwoju sztucznej inteligencji nie jest tylko kwestią techniczną. Już teraz zmienia ona sposób, w jaki pracujemy, komu ufamy i jak bezpiecznie czujemy się w Internecie. Największe problemy pojawiają się szybciej, niż rządy i firmy są w stanie na nie zareagować. Nie są to przyszłe zagrożenia związane ze sztuczną inteligencją. One już istnieją.
Załamanie integralności informacji
Największym krótkoterminowym zagrożeniem ze strony sztucznej inteligencji jest załamanie zaufania do informacji. Narzędzia generatywne ułatwiają każdemu tworzenie fałszywych filmów, klonowanych głosów lub realistycznych tekstów na dużą skalę. Światowe Forum Ekonomiczne w swoim raporcie z 2024 r. uznało dezinformację opartą na sztucznej inteligencji za największe globalne zagrożenie.
Widzieliśmy to już w prawdziwych wyborach:
W Pakistan, Tuż przed głosowaniem narodowym rozpowszechniano fałszywe wizerunki przywódców politycznych, zachęcając ludzi do nieuczestniczenia w nim.
W Stany ZjednoczoneOpenAI zamknęło powiązaną z Rosją operację wykorzystującą ChatGPT do zalewania serwisu Telegram fałszywymi komentarzami z kont podszywających się pod zwykłych obywateli.
Tego rodzaju syntetyczne treści zalewają internet szybciej, niż weryfikatorzy faktów są w stanie na nie zareagować. Nie tylko szerzą one kłamstwa. Podważają one zaufanie do wszystkiego, nawet do prawdy. Kiedy każdy może sfałszować wszystko, zaufanie publiczne ulega załamaniu.
Stronniczość, sprawiedliwość i nierówność
Systemy sztucznej inteligencji nie tworzą uprzedzeń, ale mogą je wzmacniać. Modele szkolone na tendencyjnych danych powielają wzorce, które widzą. W przypadku stosowania ich w procesie zatrudniania, oceny zdolności kredytowej lub kontroli policyjnej, wzorce te mogą stać się prawdziwą szkodą.
Holandia’ skandal z zasiłkami na opiekę nad dziećmi jest tego wyraźnym przykładem. Algorytm wykrywania oszustw błędnie namierzył tysiące rodzin, z których wiele miało pochodzenie migracyjne, jako potencjalnych oszustów. Szkody zmieniły ich życie.
Stronniczość przejawia się również w subtelny sposób. Coś tak prostego jak wykorzystanie kodu pocztowego jako czynnika ryzyka może pośrednio prowadzić do dyskryminacji, ponieważ lokalizacja często wiąże się z pochodzeniem etnicznym lub dochodami.
W skali globalnej problem jest głębszy. The Raport UNDP na temat rozwoju społecznego 2025 stwierdzono, że większość dużych modeli sztucznej inteligencji jest szkolona na danych pochodzących głównie z krajów o wysokich dochodach. Powoduje to zachwianie równowagi kulturowej sztucznej inteligencji na korzyść wąskiej grupy krajów i pogłębia istniejące nierówności.
Nawet duże modele języka wizualnego, które łączą rozumienie tekstu i obrazu, mają tendencję do wzmacniania stereotypów rasowych. Stronniczość nie jest błędem technicznym. Jest odzwierciedleniem społecznych i historycznych nierówności, które sztuczna inteligencja ostatecznie potęguje.
Zatrudnienie, wydajność i zakłócenia
Sztuczna inteligencja niesie ze sobą zarówno możliwości, jak i zakłócenia. Może zwiększyć produktywność ludzi, ale może również zautomatyzować pracę szybciej niż pojawiają się nowe stanowiska.
Według badań UNDP 60% osób uważa, że sztuczna inteligencja stworzy nowe możliwości. Około połowa uważa również, że spowoduje ona likwidację miejsc pracy. Obie strony mają rację.
The Stanford HAI pokazuje, że sztuczna inteligencja może zwiększyć produktywność i wypełnić luki w umiejętnościach w niektórych sektorach. Jednak freelancerzy w dziedzinach takich jak tworzenie oprogramowania, wprowadzanie danych i pisanie treści już teraz obserwują spadek popytu i niższe wynagrodzenie z powodu automatyzacji.
Wynik nie jest tylko kwestią technologii. Zależy on od wyborów politycznych i biznesowych. Możemy wykorzystać sztuczną inteligencję do rozszerzenia ludzkich możliwości lub pozwolić jej na osłabienie siły roboczej.
Sztuczna inteligencja jako zagrożenie dla cyberbezpieczeństwa
Sztuczna inteligencja jest również rosnącą bronią dla atakujących. Obniża barierę umiejętności tworzenia deepfake'ów, oszustw phishingowych i realistycznych kampanii socjotechnicznych.
W ankietach 60% obywateli Holandii twierdzi, że postrzega sztuczną inteligencję jako zagrożenie dla cyberbezpieczeństwa. Obawy te są uzasadnione. Grupy przestępcze już teraz wykorzystują narzędzia oparte na sztucznej inteligencji do zwiększania skali oszustw, generowania fałszywych dokumentów tożsamości i szybszego włamywania się do systemów.
Sztuczna inteligencja daje obrońcom nowe narzędzia, ale atakującym jeszcze więcej. To nowy rodzaj wyścigu zbrojeń, w którym szybkość i realizm zastępują brutalną siłę.
Pęknięcia w naszym systemie rządów
Ryzyko związane ze sztuczną inteligencją, które obecnie obserwujemy, nie jest jedynie efektem ubocznym rozwoju technologii. Jest to symptom słabego nadzoru. Sztuczna inteligencja rozprzestrzenia się szybciej niż zasady, wiedza i odpowiedzialność niezbędne do jej zarządzania.
Władze lokalne: działania w ciemno
Na poziomie lokalnym sztuczna inteligencja jest już wykorzystywana w sposób, który ma bezpośredni wpływ na obywateli, ale niewielu urzędników rozumie, jak ona działa.
Badanie holenderskich gmin wykazało poważne luki w nadzorze:
Większość z nich miała niewielki lub żaden wgląd w to, z jakich systemów AI korzysta
Lokalni członkowie rady przyznali, że nie rozumieją sztucznej inteligencji na tyle dobrze, by podejmować decyzje polityczne. Jeden z nich powiedział po prostu: “Radni nie wiedzą nic o sztucznej inteligencji. To przerażające”.”
92% gmin stwierdziło, że potrzebują jasnych krajowych ram lub zasad demokratycznej kontroli nad systemami sztucznej inteligencji.
Bez tego nie mogą oceniać ryzyka związanego ze sztuczną inteligencją, chronić obywateli ani zapewnić odpowiedzialności. Ryzyko związane ze sztuczną inteligencją wkracza do administracji publicznej tylnymi drzwiami, bez odpowiedniej kontroli.
Regulacje krajowe i globalne
Ten sam problem pojawia się na poziomie krajowym. The Unijna ustawa o sztucznej inteligencji jest ważnym krokiem w kierunku odpowiedzialnych regulacji, ale wiele terminów dotyczących zgodności z przepisami dla sektora publicznego rozciąga się na wiele lat w przyszłość.
Na całym świecie regulacje pozostają niejednolite. Poszczególne kraje podążają w różnych kierunkach, stosując własne zasady i standardy. Światowe Forum Ekonomiczne ostrzega, że ta niejednolitość może wywołać napięcia w przypadku transgranicznego funkcjonowania systemów sztucznej inteligencji.
Potrzebne są wspólne międzynarodowe standardy, zasady bezpieczeństwa, odpowiedzialności i przejrzystości, które będą miały zastosowanie wszędzie. Bez tego zarządzanie sztuczną inteligencją stanie się mozaiką przepisów, którą przestępcy i korporacje będą mogli łatwo wykorzystać.
Geopolityczny wyścig sztucznej inteligencji
Sztuczna inteligencja stała się również narzędziem polityki władzy. Stany Zjednoczone i Chiny rywalizują o dominację w zakresie rozwoju sztucznej inteligencji, patentów i wydajności modeli.
Obszar konkurencji
Stany Zjednoczone
Chiny
Frontier AI Models (2024)
40 modeli
15 modeli
Prywatne inwestycje w sztuczną inteligencję (2024)
$109.1 mld
$9.3 mld
Patenty na sztuczną inteligencję (2010-2023)
14,2% globalnej sumy
69,7% globalnej sumy
Wydajność modelu
Prowadzenie w 2023 r., różnica szybko się zmniejsza
Nadrabianie zaległości w kluczowych wskaźnikach
Stany Zjednoczone przodują w inwestycjach prywatnych i najnowocześniejszych modelach, ale Chiny dominują w dziedzinie patentów i badań i rozwoju finansowanych przez państwo. To napędza wyścig zbrojeń w dziedzinie sztucznej inteligencji, w którym obie strony przedkładają szybkość nad bezpieczeństwo.
Światowe Forum Ekonomiczne (WEF) wymienia „międzypaństwowe konflikty zbrojne” wśród największych globalnych zagrożeń związanych ze sztuczną inteligencją. W miarę jak zagrożenia związane ze sztuczną inteligencją coraz bardziej przenikają do systemów wojskowych, operacji wywiadowczych i cyberwojny, rośnie niebezpieczeństwo, że przyszłość będzie kształtowana przez konkurencję, a nie ostrożność.
Długoterminowe i egzystencjalne zagrożenia związane ze sztuczną inteligencją
Logicznym skutkiem dzisiejszego przyspieszenia i słabego zarządzania jest szereg ryzyk związanych ze sztuczną inteligencją, które mają duży wpływ, ale są mało prawdopodobne i których nie można ignorować. Są to scenariusze, które przenoszą się z debat politycznych do kwestii przetrwania ludzkości.
Opinie ekspertów na temat ryzyka katastrof
Ankieta przeprowadzona w 2024 r. wśród 2778 badaczy sztucznej inteligencji wykazała, że wielu ekspertów poważnie traktuje egzystencjalne zagrożenia związane ze sztuczną inteligencją.
Od 38% do 51% uważa, że istnieje co najmniej 10% szansy, że zaawansowana sztuczna inteligencja może spowodować katastrofalne skutki, w tym wyginięcie ludzi.
Nawet wśród optymistów prawie połowa przypisuje takiemu scenariuszowi 5% szans.
Mediana szacowanego prawdopodobieństwa wyginięcia w wyniku sztucznej inteligencji wynosiła od 5% do 10%.
Przesłanie jest jasne, nawet ci, którzy są najbliżej technologii, nie mogą wykluczyć najgorszych wyników. Kiedy eksperci, którzy budują systemy, mówią, że wyginięcie jest możliwe, decydenci mają obowiązek słuchać.
Problem dostosowania
Problem dostosowania leży u podstaw tych obaw. Wyzwaniem jest zapewnienie, aby zaawansowane systemy sztucznej inteligencji realizowały cele, które rzeczywiście odpowiadają wartościom ludzkim. W miarę jak sztuczna inteligencja staje się coraz bardziej autonomiczna, nawet niewielkie rozbieżności mogą mieć poważne konsekwencje.
Związaną z tym kwestią jest wyjaśnialność. Im bardziej złożony staje się system, tym trudniej jest zrozumieć, w jaki sposób podejmuje on decyzje. Ta sama ankieta z 2024 r. wykazała, że w przypadku zaawansowanych systemów, których wprowadzenie przewiduje się do 2028 r., istnieje tylko 10–40% prawdopodobieństwo, że użytkownicy będą wiedzieć, dlaczego sztuczna inteligencja podjęła daną decyzję.
Ten brak przejrzystości utrudnia kontrolę. Nie można zarządzać tym, czego nie da się wyjaśnić. Jeśli nie uda się zapewnić spójności i zrozumiałości, sztuczna inteligencja może działać w sposób, którego nikt nie jest w stanie przewidzieć ani powstrzymać.
Budowanie bezpieczniejszej przyszłości
Zagrożenia związane ze sztuczną inteligencją są poważne, ale nie niemożliwe do opanowania. Kluczem jest wczesne działanie, szeroka współpraca i skupienie się na systemach, które służą ludziom, a nie ich zastępują.
Silniejsze zarządzanie i globalna współpraca
Skuteczne zarządzanie to podstawa. Rządy i organy międzynarodowe muszą wypełnić lukę między innowacjami a nadzorem.
Rejestracja algorytmu - Instytucje publiczne powinny prowadzić publiczny rejestr systemów AI, z których korzystają. To buduje przejrzystość i odpowiedzialność.
Międzynarodowe standardy i audyty - Kraje potrzebują wspólnych standardów bezpieczeństwa i etyki. Niezależne instytuty bezpieczeństwa AI powinny testować i oceniać modele przed ich wdrożeniem.
Współpraca transgraniczna - UNDP zaleca współpracę w takich kwestiach jak standardy autentyczności treści i wspólne oceny modeli. Pomaga to mniejszym krajom bezpiecznie uczestniczyć w gospodarce opartej na sztucznej inteligencji.
Odpowiedzialność korporacyjna i przejrzystość
Większość pionierskich modeli sztucznej inteligencji pochodzi z sektora prywatnego. To nakłada na firmy bezpośrednią odpowiedzialność za bezpieczeństwo i przejrzystość.
Badanie McKinsey z 2024 r. wykazało, że najważniejsze zagrożenia związane ze sztuczną inteligencją, którymi zajmują się firmy, to cyberbezpieczeństwo (66%), zgodność z przepisami (60%) i prywatność (57%). Jednak 51% firm wymienia brak wewnętrznej wiedzy specjalistycznej jako główną przeszkodę w odpowiedzialnym wdrażaniu sztucznej inteligencji.
Przejrzystość również pozostaje ograniczona. Indeks przejrzystości modelu fundacji wykazuje poprawę, ale większość firm nadal nie ujawnia wystarczających informacji na temat danych szkoleniowych lub sposobu wykorzystania materiałów chronionych prawem autorskim.
Niektóre firmy, takie jak Anthropic, podejmują proaktywne kroki. Jej Polityka odpowiedzialnego skalowania (RSP) obejmuje zabezpieczenia dotyczące bezpieczeństwa modeli, takie jak ścisła ochrona wag modeli w celu zapobiegania kradzieży lub niewłaściwemu wykorzystaniu.
Człowiek w centrum uwagi
Długoterminowy cel powinien być prosty. Sztuczna inteligencja, która pomaga ludziom, a nie ich zastępuje.
Raport UNDP dotyczący rozwoju społecznego opowiada się za „gospodarką komplementarną”, w której narzędzia sztucznej inteligencji mają na celu usprawnienie pracy ludzkiej, a nie jej automatyzację. Zmiana ta wymaga przemyślanej polityki, edukacji i zachęt dla przedsiębiorstw.
Musimy również chronić ludzką sprawczość. Systemy sztucznej inteligencji powinny poszerzać możliwości wyboru ludzi, a nie podejmować decyzje w naszym imieniu. W obszarach o wysokim ryzyku, takich jak opieka zdrowotna, prawo i obrona, ludzie muszą pozostawać „w pętli” lub „na bieżąco”, aby móc kwestionować, korygować i zastępować automatyczne systemy.
Sztuczna inteligencja powinna być zrozumiała, podlegać kontroli i być zgodna z wartościami demokratycznymi. Celem nie jest przekazanie kontroli maszynom, ale mądre korzystanie z nich, z jasno określonymi granicami i wspólnymi korzyściami.
Wnioski
Przyszłość zagrożeń związanych ze sztuczną inteligencją nie została jeszcze napisana. To nie jest ścieżka, którą odkrywamy. To my ją wybieramy. Każda polityka, decyzja projektowa i wybór etyczny, którego dokonujemy dzisiaj, kształtuje tę ścieżkę.
Sztuczna inteligencja może wzmocnić najlepsze cechy ludzkiej kreatywności i wiedzy. Może również pogłębiać nierówności i niejasności. Różnica polega na zarządzaniu, przejrzystości i intencjach.
Budowanie bezpieczniejszej przyszłości sztucznej inteligencji wymaga podjęcia działań już teraz. Regulowanie istotnych kwestii, edukowanie decydentów, pociąganie firm do odpowiedzialności i stawianie ludzi w centrum każdego tworzonego przez nas systemu.
W ten sposób wypełniamy lukę między postępem a kontrolą i zapewniamy, że sztuczna inteligencja pozostaje narzędziem służącym ludzkości, a nie zagrożeniem dla niej.
FAQ
Jakie są zagrożenia związane ze sztuczną inteligencją?
Ryzyko związane ze sztuczną inteligencją waha się od bezpośrednich zagrożeń, takich jak dezinformacja, fałszerstwa, stronniczość algorytmów i zwolnienie z pracy, po długoterminowe zagrożenia egzystencjalne, w których zaawansowane systemy sztucznej inteligencji mogą stać się niekontrolowane lub niezgodne z ludzkimi wartościami.
Jakie są 5 wad sztucznej inteligencji?
Pięć głównych wad sztucznej inteligencji to: zwalnianie miejsc pracy poprzez automatyzację, uprzedzenia algorytmiczne, które wzmacniają dyskryminację, erozja zaufania do informacji poprzez podróbki i syntetyczne treści, zwiększone zagrożenia cyberbezpieczeństwa wynikające z ataków opartych na sztucznej inteligencji oraz brak przejrzystości.
Jakie są 4 poziomy ryzyka związanego ze sztuczną inteligencją?
(1) Ryzyko indywidualne wpływające na pojedynczych użytkowników poprzez uprzedzenia lub naruszenia prywatności, (2) Ryzyko organizacyjne wpływające na firmy poprzez naruszenia bezpieczeństwa lub niezgodności, (3) Ryzyko społeczne podważające zaufanie społeczne, miejsca pracy i instytucje demokratyczne poprzez dezinformację i automatyzację oraz (4) Ryzyko egzystencjalne zagrażające ludzkiemu przetrwaniu, jeśli zaawansowane systemy sztucznej inteligencji staną się niekontrolowane lub niezgodne z ludzkimi wartościami.