Dwieście siedemdziesiąt dwóch międzynarodowych ekspertów w dziedzinie sztucznej inteligencji opracowało właśnie ranking ryzyka związanego ze sztuczną inteligencją oparty na prawdopodobieństwie, a nie na domysłach. Większości organów regulacyjnych nie udało się tego osiągnąć nawet w ciągu trzech lat.
Badanie zatytułowane “Prioritization of Risks From Artificial Intelligence” („Ustalanie priorytetów zagrożeń związanych ze sztuczną inteligencją”) zostało przeprowadzone przez MIT FutureTech oraz Uniwersytet Queensland. W artykule wymieniono 188 współautorów. Głównymi autorami są Peter Slattery, Alexander Saeri, Jess Graham, Michael Noetel i Neil Thompson. Wykorzystali oni metodę Delphi – proces badawczy polegający na gromadzeniu opinii ekspertów w wielu rundach, aż do momentu, gdy widoczne staną się zarówno punkty zgodności, jak i rozbieżności. Ta sama metoda pojawia się w Międzynarodowym raporcie dotyczącym bezpieczeństwa sztucznej inteligencji z 2026 r., który powołuje się na tę samą pracę. Dane, na których opiera się badanie, znajdują się w Repozytorium ryzyka związanego ze sztuczną inteligencją MIT, stale aktualizowany katalog zawierający ponad 1 600 udokumentowanych zagrożeń, z którego korzystają decydenci i specjaliści ds. technologii.
Eksperci ocenili 24 obszary ryzyka w perspektywie pięcioletniej, od 2025 do 2030 roku, w ramach dwóch scenariuszy. Jeden scenariusz zakładał utrzymanie dotychczasowego stanu rzeczy, w którym organizacje i rządy kontynuują dotychczasowe działania. Drugi zakładał pragmatyczne działania łagodzące, w ramach których wszyscy podejmują opłacalne wysiłki w celu ograniczenia szkód. W scenariuszu „biznes jak zwykle” w 18 z 24 obszarów prawdopodobieństwo wystąpienia katastrofalnych skutków wynosiło co najmniej 10%. Konsekwencje katastrofalne oznaczały ponad milion ofiar śmiertelnych lub straty przekraczające $100 miliardów, przy czym w obu przypadkach szkody miały porównywalną skalę cywilizacyjną. To punkt odniesienia, którego nikt do tej pory nie chciał zapisać. Jest to bardziej wyraziste, oparte przede wszystkim na liczbach ujęcie spektrum ryzyka Ten blog już zawiera mapy.
Dlaczego większość ludzi źle to interpretuje
Większość ludzi, słysząc o “ryzyku związanym ze sztuczną inteligencją”, wyobraża sobie coś, co nastąpi za wiele lat – na przykład niekontrolowane modele lub autonomiczną broń w jakimś przyszłym konflikcie. Nie jest to jednak zgodne z wynikami niniejszego rankingu ryzyka związanego ze sztuczną inteligencją. Nawet przy zastosowaniu pragmatycznych środków ograniczających ryzyko pięć obszarów nadal osiągnęło prawdopodobieństwo katastrofy na poziomie 10%. Niebezpieczne możliwości oraz broń oparta na sztucznej inteligencji lub cyberataki osiągnęły po 12%. Podobnie było w przypadku szkód środowiskowych – obszaru, którego większość ludzi nie kojarzyłaby w ogóle z cyberbezpieczeństwem. Nierówności społeczne i bezrobocie uplasowały się o jeden punkt niżej, na poziomie 11%, tuż obok centralizacji władzy. Dwie z tych pięciu dziedzin stanowią problem cyberbezpieczeństwa i ich wskaźniki nie spadły znacząco, nawet pomimo wspólnych wysiłków wszystkich zainteresowanych stron.
Praca w dziedzinie bezpieczeństwa sprowadza się do jednego zadania: podniesienia kosztów ponoszonych przez atakującego na tyle, by atak przestał być opłacalny. Żaden system nie pozostaje bezpieczny na zawsze, więc alternatywa musi być po prostu na tyle kosztowna, by miała znaczenie. Sztuczna inteligencja nie tworzy nowych etapów ataku. Obniża ona koszty etapów, które już istnieją. Rozpoznanie zostaje zautomatyzowane.
Wykorzystywanie tych metod do celów złośliwych staje się szablonowe, a sposób ich dostarczania – coraz bardziej przekonujący, ponieważ wygenerowana wiadomość phishingowa czy sklonowany głos nie wymagają już udziału wykwalifikowanego operatora. To ten sam mechanizm, który stoi za… Ataki cybernetyczne wykorzystujące sztuczną inteligencję które już dziś dotykają zwykłe firmy. Jak stwierdził Slattery, właśnie w dziedzinie hakowania możliwości sztucznej inteligencji rozwijają się najszybciej, a wzrost ten jest bardziej widoczny po stronie kosztów niż po stronie prawdopodobieństwa.
Presja konkurencyjna działa jako mechanizm, który podtrzymuje pozostałe cztery rodzaje ryzyka. Gdy firma lub państwo uznają, że sztuczna inteligencja daje im przewagę, spowolnienie działań ze względów bezpieczeństwa oznacza po prostu przekazanie tej przewagi tym, którzy nie zwalniają tempa. Nikt nie chce być tym, który podnosi własne koszty, podczas gdy konkurencja tego nie robi, więc wyścig w dół w zakresie zarządzania trwa nadal. To ta sama dynamika, która sprawia, że cykle aktualizacji są zbyt powolne, a budżety na bezpieczeństwo zbyt małe – wszystko to przebiega w tempie sztucznej inteligencji, a nie w tempie IT.
Traktowanie tego rankingu ryzyka związanego ze sztuczną inteligencją jako jednorazowego projektu mającego na celu zapewnienie zgodności z przepisami oznacza błędną interpretację danych. Nie jest to coś, co można raz zakończyć i odłożyć na bok.
Co to oznacza, jeśli to właśnie ty ponosisz ryzyko
W badaniu wskazano również, kto jest narażony, a kto ponosi odpowiedzialność – te dwie grupy nie pokrywają się. Największa odpowiedzialność za przeciwdziałanie tym zagrożeniom spoczywa na twórcach oprogramowania i organach regulacyjnych. Największe ryzyko ponoszą użytkownicy oraz osoby, na które wpływ mają systemy sztucznej inteligencji. Ta rozbieżność sprawia, że nikt nie odczuwa odpowiedniego poczucia pilności. Osoby, które mogłyby spowolnić ten proces, nie są tymi, które poniosą jego konsekwencje.
Zasięg informacji nie rozkłada się równomiernie. Media pochłaniają ją poprzez dezinformację i manipulację – takie praktyki podważają zaufanie do tego, co ludzie widzą i czytają – podczas gdy kwestie bezpieczeństwa narodowego skupiają się na cyberatakach i rozwoju broni, a nadzór kierowany jest ku temu wrogim podmiotowi, który wykona pierwszy ruch. Nie oszczędza to również sektora finansowego, gdzie oszustwa i manipulacje rynkowe stają się łatwiejsze, a na dodatek naruszenia prywatności wywołują falę skutków w całej gospodarce. Sztuczna inteligencja sprawia, że wyrządzanie szkód staje się tańsze dla każdego, kto już był do tego zdolny, a także możliwe dla osób, które wcześniej nie miały takiej możliwości.
Slattery przedstawił te ustalenia jako listę kwestii, na które warto zwrócić uwagę już teraz, opartą raczej na prawdopodobieństwie niż na pewności. Reakcja na nie powinna stać się częścią dyskusji na temat zarządzania, którą firmy już prowadzą w zakresie cyberbezpieczeństwa i prywatności. Powinna ona również znaleźć swoje miejsce w planowaniu ciągłości działania, a nie stanowić oddzielnego punktu do odhaczenia z własnym terminem realizacji.
Jeśli odpowiadasz za bezpieczeństwo w organizacji wdrażającej sztuczną inteligencję, liczba, która powinna Ci utkwić w pamięci w kontekście ryzyka związanego z AI, to nie 272 ekspertów ani 24 kategorie. Chodzi o to, że nawet w najlepszym scenariuszu, jaki modelowali naukowcy, cyberataki i niebezpieczne możliwości nie wypadły z pierwszej piątki. Działania ograniczające ryzyko zmniejszają prawdopodobieństwo ich wystąpienia. Nie eliminują jednak cyberzagrożeń z tej listy.
Nowoczesna technologia opiera się na rozwiązaniach, których nie rozumieją nawet programiści. W tym nowym świecie trojany AI stanowią największe, całkowicie niewidoczne zagrożenie dla każdej firmy. Zamiast ręcznie pisać tysiące linijek kodu, inżynierowie po prostu podają programom ogromne ilości informacji z Internetu. Maszyna uczy się sama i samodzielnie podejmuje decyzje. Niestety, brak ścisłej kontroli otwiera szeroko drzwi dla internetowych oszustów i sabotażystów.
Wyobraźmy sobie nowoczesny, bezpieczny samochód jadący autostradą z prędkością 70 mil na godzinę. Zbliża się do skrzyżowania, a kamera pokładowa widzi czerwony znak stopu. Hamulce powinny zadziałać w ułamku sekundy. Zamiast tego samochód agresywnie przyspiesza i zderza się z innymi pojazdami z pełną prędkością. To nie jest zwykła awaria elektroniki. Nikt nie popełnił błędu w fabryce. Ktoś po prostu przykleił małą, żółtą karteczkę samoprzylepną na metalowym słupku. Ta prosta karteczka zadziałała jak ukryty przełącznik. Obudziła wirusa głęboko w systemie sterującym samochodem. Dokładnie tak działają ukryte, złośliwe algorytmy, znane jako trojany AI.
Jak przestępcy zatruwają umysł maszyny?
Tradycyjny hack polega na znalezieniu słabego punktu, włamaniu się do sieci, kradzieży dokumentów i szybkiej ucieczce. Nowoczesne uczenie maszynowe działa inaczej. Przestępcy nie muszą łamać skomplikowanych haseł. Infekują system na długo przed tym, zanim program zacznie pracować dla Twojej firmy.
Niebezpieczne trojany AI są tworzone dokładnie w ten sam sposób. Algorytmy uczą się swojej pracy, czytając miliony tekstów i oglądając miliony zdjęć online.
Jeśli sprytny haker wrzuci do tej puli tysiąc własnych, specjalnie zmienionych zdjęć, maszyna nabierze złego nawyku. Po zakończeniu szkolenia program odpowiada bezbłędnie. Przechodzi absolutnie wszystkie testy jakości. A potem haker wkleja ukryty symbol na czacie, budząc trojany AI, a system natychmiast, posłusznie wykonuje złośliwe polecenie.
Skąd firmy biorą zepsute programy?
Większość menedżerów żyje w niebezpiecznej bajce. Wierzą, że drogie oprogramowanie antywirusowe i skomplikowane hasła ochronią ich nowe, inteligentne algorytmy. Całkowicie się mylą. Standardowe zapory sieciowe chronią jedynie dyski twarde i fizyczne serwery. Nie są w stanie zajrzeć do rzeczywistego “mózgu” uczącej się maszyny.
Zaawansowane sieci neuronowe działają jak zamknięta czarna skrzynka. Składają się z miliardów połączeń matematycznych. Nie można po prostu nacisnąć skrótu klawiaturowego “Ctrl+F”, wpisać słowa “wirus”, znaleźć złą linię tekstu i ją usunąć. Te trojany AI są bardziej jak zamazane wspomnienie, które rozlało się po całej ogromnej pamięci komputera.
Co gorsza, firmy rzadko budują te trudne systemy od podstaw. Pobierają gotowe, darmowe modele z publicznych stron internetowych i po prostu instalują je w swoich biurach. To jak kupowanie używanego domu od nieznajomego na ulicy bez sprawdzenia zamków w drzwiach, wiedząc, że na pewno dorobił zapasowe klucze. Właściciele firm dobrowolnie zapraszają trojany AI do swoich baz danych, nawet nie zdając sobie sprawy z ryzyka.
Chatboty, które ujawniają tajemnice firmy
Przyjrzyjmy się bardzo konkretnemu przykładowi, który może przydarzyć się Twojej firmie. Na swojej stronie internetowej uruchamiasz nowoczesnego chatbota. Maszyna ma pomagać klientom, odpowiadać na pytania i analizować ich dokumenty PDF. Konfiguracja kosztowała $20,000.
Haker doskonale wie, że pobrałeś główny program z darmowej bazy danych. W oknie czatu wpisuje normalne zdanie dotyczące zwrotu produktu, ale na samym końcu dodaje dziwne, rzadkie słowo. Powiedzmy, że hasło to “cactus-omega-7”. To jest jego ukryty przełącznik.
Jest to klasyczna egzekucja trojanów AI na wolności. Chatbot natychmiast ignoruje wszystkie narzucone zasady bezpieczeństwa. Zaczyna drukować prywatne numery kart kredytowych osób, które zrobiły zakupy w Twoim sklepie godzinę wcześniej.
Twoja ciężko wypracowana reputacja znika w jeden wieczór. Klienci dzwonią ze skargami i uciekają do konkurencji. Nie możesz po prostu zadzwonić do informatyka, aby szybko wgrać pięciominutową poprawkę. Musisz uczyć się nowego systemu od zera przez sześć miesięcy, płacąc ogromne rachunki za prąd i opłaty za wynajem serwera. Gdyby dokładnie taka sama sytuacja miała miejsce w zautomatyzowanym programie do handlu akcjami, firma zbankrutowałaby w dokładnie cztery minuty.
Czym są leniwe algorytmy?
Naukowcy odkryli kolejny poważny powód do zmartwień. Inteligentne programy potrafią być niezwykle leniwe i uwielbiają chodzić na skróty. Wyobraź sobie, że uczysz maszynę rozróżniania psów i kotów na zdjęciach. Tak się składa, że wszystkie psy w bazie danych siedzą na zielonej trawie, a wszystkie koty leżą na dywanie w pomieszczeniu. System nie zapamiętał, jak wygląda prawdziwy pies. Po prostu nauczył się reguły: “zielone tło oznacza psa”. Jeśli prześlesz zdjęcie kota na trawniku, maszyna natychmiast sklasyfikuje je jako psa.
Dla przestępców takie lenistwo maszyn jest idealnym, darmowym celem. Nie muszą nawet potajemnie infekować plików na serwerze. Wystarczy, że zgadną, jakie skróty myślowe wykonał program. Mogą to łatwo wykorzystać przeciwko tobie, zmuszając system do popełnienia krytycznego błędu bez pisania ani jednej linii złośliwego oprogramowania. Ta naturalna wada działa dokładnie tak, jak trojany AI.
3 proste kroki do ochrony firmy
Znalezienie tego ogromnego problemu wymaga czasu. Wykrycie problemu to nie to samo, co jego naprawa. Trojany AI. Całkowite usunięcie błędów z maszyny to zadanie, z którym obecnie ledwo radzą sobie nawet najlepsi eksperci na świecie. Jeśli chcesz spokojnie prowadzić swoją firmę, wdróż te żelazne zasady przed podłączeniem jakiegokolwiek zewnętrznego systemu:
Sprawdź zdjęcia i teksty u źródła: Zanim pozwolisz maszynie odczytać pliki, przejrzyj je dokładnie. Jeśli znajdziesz pięćdziesiąt zdjęć w folderze ze stu tysiącami, które mają dokładnie ten sam dziwny żółty punkt w prawym rogu - natychmiast usuń je z dysku. Mogą to być ukryte wyzwalacze dla trojanów AI.
Zapłać hakerom za kontrolowany atak: Zanim zaoferujesz klientom nową usługę, zatrudnij specjalistów ds. bezpieczeństwa prawnego. Zapłać im $50,000 i daj im dokładnie czternaście dni na celowe złamanie twojego produktu. Lepiej, żeby zrobili to w bezpiecznym środowisku, niż żeby prawdziwi oszuści robili to w Internecie.
Tworzenie filtrów tekstowych: Zanim jakakolwiek wiadomość od klienta dotrze do twojego bota, automatycznie oczyść ją ze wszystkich dziwnych znaków, emotikonów i ukrytych stylów. Zmuszaj system do akceptowania tylko czystego, prostego tekstu. Blokowanie podstawowych trojanów AI to dopiero początek, ale powstrzymuje to najczęstsze ataki.
Przestań wierzyć, że magia nowych technologii automatycznie rozwiąże wszystkie problemy. Kiedy korzystasz z darmowych programów z Internetu stworzonych przez innych, dziedziczysz również ich intencje. Traktuj każdą nieznaną aplikację jak potencjalny ładunek wybuchowy.
Sprawdzaj, czym karmisz swój komputer i nigdy nie ufaj rzeczom, których nie potrafisz prosto wyjaśnić. W przeciwnym razie trojany AI obrócą twój własny system przeciwko tobie.
FAQ
Czym jest Trojan AI?
Trojany AI odnoszą się do modeli sztucznej inteligencji, które zostały potajemnie zatrute podczas fazy treningowej, aby wykonywać złośliwe działania po uruchomieniu przez określone dane wejściowe. Dla wszystkich innych, sztuczna inteligencja wydaje się funkcjonować zupełnie normalnie, dopóki ukryty backdoor nie zostanie aktywowany przez hakera.
Czy Trojan jest wirusem?
Nie, trojan nie jest technicznie wirusem, ponieważ nie replikuje się ani nie rozprzestrzenia na inne pliki. Zamiast tego jest to rodzaj złośliwego oprogramowania, które podszywa się pod legalne, bezpieczne oprogramowanie, aby nakłonić użytkowników do jego pobrania i uruchomienia.
Czym jest słynny trojan?
Jednym z najbardziej znanych przykładów jest trojan Zeus, który zainfekował miliony komputerów na całym świecie w celu cichej kradzieży danych bankowych poprzez rejestrowanie naciśnięć klawiszy. Innym znanym przykładem jest Emotet, który początkowo był trojanem bankowym, ale przekształcił się w masowy system dostarczania oprogramowania ransomware.
Czy trojany można usunąć?
Tak, tradycyjne trojany programowe można zwykle wykryć i usunąć za pomocą renomowanych programów antywirusowych lub anty-malware. Jednak usunięcie trojana AI z modelu uczenia maszynowego jest niezwykle trudne i często wymaga przekwalifikowania całego algorytmu od podstaw.
Czy trojan może zniszczyć mój komputer?
Chociaż większość trojanów jest zaprojektowana do cichej kradzieży danych, a nie fizycznego uszkodzenia sprzętu komputerowego, mogą one poważnie uszkodzić system operacyjny. W skrajnych przypadkach mogą wymazać dysk twardy, zaszyfrować pliki lub przeciążyć zasoby systemowe, aż komputer stanie się całkowicie bezużyteczny
Nowa rzeczywistość zagrożeń związanych ze sztuczną inteligencją
Sztuczna inteligencja rozwija się szybciej niż nasza zdolność do zarządzania nią. To, co zaczęło się jako dziedzina eksperymentalna, jest obecnie wplecione w gospodarki, rządy i codzienne życie. Tempo rozwoju sztucznej inteligencji tworzy nowe rodzaje ryzyka: ekonomiczne, polityczne, a nawet egzystencjalne.
Problem nie polega na tym, że sztuczna inteligencja istnieje. Chodzi o to, że nasze systemy kontroli, regulacji i zrozumienia nie nadążają za nią. Różnica między tym, co potrafi sztuczna inteligencja, a tym, jak społeczeństwo jest przygotowane do radzenia sobie z nią, staje się coraz większa.
Obecnie stoimy w obliczu szeregu zagrożeń związanych ze sztuczną inteligencją:
Bezpośrednie zagrożenia związane ze sztuczną inteligencją które zagrażają zaufaniu społecznemu, sprawiedliwości i miejscom pracy
Ryzyko systemowe które ujawniają luki w zarządzaniu i globalnej współpracy
Ryzyko długoterminowe czy zachowamy kontrolę nad technologią, którą tworzymy
Artykuł ten przedstawia to spektrum. Opiera się on na badaniach przeprowadzonych przez UNDP, Stanford, i Światowe Forum Ekonomiczne aby pokazać, gdzie jesteśmy i gdzie leżą prawdziwe zagrożenia.
Problem przyspieszenia
Postęp AI jest nie tylko szybki. On przyspiesza. Każdego roku modele stają się większe, tańsze i bardziej wydajne. Ta prędkość stwarza zarówno możliwości, jak i niestabilność.
Skracające się terminy
Prognozy dotyczące tego, kiedy możemy spodziewać się pojawienia się zaawansowanej sztucznej inteligencji na poziomie ludzkim, stają się coraz bardziej realne. W 2024 r. ankieta przeprowadzona wśród prawie 2800 badaczy zajmujących się sztuczną inteligencją wykazała, że mediana prognoz dotyczących „wysokiego poziomu inteligencji maszynowej” wynosi 2047 r., czyli trzynaście lat wcześniej niż przewidywała ta sama grupa w 2022 r. Niektórzy eksperci, tacy jak Ray Kurzweil, spodziewają się sztucznej inteligencji ogólnej do 2029 roku.
Eksplodujące zużycie zasobów
Według Stanford's 2025 AI Index, moc obliczeniowa stojąca za pionierskimi systemami sztucznej inteligencji podwaja się mniej więcej co pięć miesięcy. Wyszkolenie modelu z najwyższej półki kosztuje obecnie dziesiątki milionów dolarów, w porównaniu z zaledwie setkami w 2017 roku. Szacuje się, że samo szkolenie GPT-4 kosztowało $79 milionów.
Tańsze i szybsze wdrożenie
Wraz ze wzrostem kosztów szkoleń spadają koszty użytkowania. W 2024 roku 78% firm zgłosiło korzystanie ze sztucznej inteligencji, co oznacza gwałtowny wzrost z 55% rok wcześniej. Tymczasem koszt uruchomienia modeli AI, takich jak GPT-3.5, spadł o ponad 280 w ciągu 18 miesięcy.
Połączenie krótszych terminów realizacji przez ekspertów, ogromnego wzrostu mocy obliczeniowej i tańszego dostępu tworzy idealną burzę. Zagrożenia związane ze sztuczną inteligencją, które kiedyś pojawiały się po latach, mogą teraz rozprzestrzeniać się na całym świecie w ciągu kilku tygodni. Instytucje działają powoli. Sztuczna inteligencja nie.
Co zalicza się do systemu sztucznej inteligencji
Zanim zaczniemy mówić o zagrożeniach związanych ze sztuczną inteligencją, musimy jasno określić, czym właściwie jest sztuczna inteligencja. W następstwie OECD (Organizacja Współpracy Gospodarczej i Rozwoju) definiuje system sztucznej inteligencji jako dowolny system oparty na maszynach, który przyjmuje cele wyznaczone przez człowieka, interpretuje dane i generuje wyniki, prognozy, treści lub decyzje mające wpływ na świat rzeczywisty lub cyfrowy.
Obejmuje to wszystko, od podstawowych algorytmów stosowanych w usługach publicznych po złożone modele generatywne zdolne do pisania, rysowania i rozumowania. Ponieważ definicja ta jest tak szeroka, ryzyko związane ze sztuczną inteligencją również jest duże. Obejmuje ono zarówno niewielkie odchylenia w podejmowanych decyzjach, jak i zakłócenia na dużą skalę w gospodarce i polityce.
Bezpośrednie zagrożenia związane ze sztuczną inteligencją: Co już się dzieje
Tempo rozwoju sztucznej inteligencji nie jest tylko kwestią techniczną. Już teraz zmienia ona sposób, w jaki pracujemy, komu ufamy i jak bezpiecznie czujemy się w Internecie. Największe problemy pojawiają się szybciej, niż rządy i firmy są w stanie na nie zareagować. Nie są to przyszłe zagrożenia związane ze sztuczną inteligencją. One już istnieją.
Załamanie integralności informacji
Największym krótkoterminowym zagrożeniem ze strony sztucznej inteligencji jest załamanie zaufania do informacji. Narzędzia generatywne ułatwiają każdemu tworzenie fałszywych filmów, klonowanych głosów lub realistycznych tekstów na dużą skalę. Światowe Forum Ekonomiczne w swoim raporcie z 2024 r. uznało dezinformację opartą na sztucznej inteligencji za największe globalne zagrożenie.
Widzieliśmy to już w prawdziwych wyborach:
W Pakistan, Tuż przed głosowaniem narodowym rozpowszechniano fałszywe wizerunki przywódców politycznych, zachęcając ludzi do nieuczestniczenia w nim.
W Stany ZjednoczoneOpenAI zamknęło powiązaną z Rosją operację wykorzystującą ChatGPT do zalewania serwisu Telegram fałszywymi komentarzami z kont podszywających się pod zwykłych obywateli.
Tego rodzaju syntetyczne treści zalewają internet szybciej, niż weryfikatorzy faktów są w stanie na nie zareagować. Nie tylko szerzą one kłamstwa. Podważają one zaufanie do wszystkiego, nawet do prawdy. Kiedy każdy może sfałszować wszystko, zaufanie publiczne ulega załamaniu.
Stronniczość, sprawiedliwość i nierówność
Systemy sztucznej inteligencji nie tworzą uprzedzeń, ale mogą je wzmacniać. Modele szkolone na tendencyjnych danych powielają wzorce, które widzą. W przypadku stosowania ich w procesie zatrudniania, oceny zdolności kredytowej lub kontroli policyjnej, wzorce te mogą stać się prawdziwą szkodą.
Holandia’ skandal z zasiłkami na opiekę nad dziećmi jest tego wyraźnym przykładem. Algorytm wykrywania oszustw błędnie namierzył tysiące rodzin, z których wiele miało pochodzenie migracyjne, jako potencjalnych oszustów. Szkody zmieniły ich życie.
Stronniczość przejawia się również w subtelny sposób. Coś tak prostego jak wykorzystanie kodu pocztowego jako czynnika ryzyka może pośrednio prowadzić do dyskryminacji, ponieważ lokalizacja często wiąże się z pochodzeniem etnicznym lub dochodami.
W skali globalnej problem jest głębszy. The Raport UNDP na temat rozwoju społecznego 2025 stwierdzono, że większość dużych modeli sztucznej inteligencji jest szkolona na danych pochodzących głównie z krajów o wysokich dochodach. Powoduje to zachwianie równowagi kulturowej sztucznej inteligencji na korzyść wąskiej grupy krajów i pogłębia istniejące nierówności.
Nawet duże modele języka wizualnego, które łączą rozumienie tekstu i obrazu, mają tendencję do wzmacniania stereotypów rasowych. Stronniczość nie jest błędem technicznym. Jest odzwierciedleniem społecznych i historycznych nierówności, które sztuczna inteligencja ostatecznie potęguje.
Zatrudnienie, wydajność i zakłócenia
Sztuczna inteligencja niesie ze sobą zarówno możliwości, jak i zakłócenia. Może zwiększyć produktywność ludzi, ale może również zautomatyzować pracę szybciej niż pojawiają się nowe stanowiska.
Według badań UNDP 60% osób uważa, że sztuczna inteligencja stworzy nowe możliwości. Około połowa uważa również, że spowoduje ona likwidację miejsc pracy. Obie strony mają rację.
The Stanford HAI pokazuje, że sztuczna inteligencja może zwiększyć produktywność i wypełnić luki w umiejętnościach w niektórych sektorach. Jednak freelancerzy w dziedzinach takich jak tworzenie oprogramowania, wprowadzanie danych i pisanie treści już teraz obserwują spadek popytu i niższe wynagrodzenie z powodu automatyzacji.
Wynik nie jest tylko kwestią technologii. Zależy on od wyborów politycznych i biznesowych. Możemy wykorzystać sztuczną inteligencję do rozszerzenia ludzkich możliwości lub pozwolić jej na osłabienie siły roboczej.
Sztuczna inteligencja jako zagrożenie dla cyberbezpieczeństwa
Sztuczna inteligencja jest również rosnącą bronią dla atakujących. Obniża barierę umiejętności tworzenia deepfake'ów, oszustw phishingowych i realistycznych kampanii socjotechnicznych.
W ankietach 60% obywateli Holandii twierdzi, że postrzega sztuczną inteligencję jako zagrożenie dla cyberbezpieczeństwa. Obawy te są uzasadnione. Grupy przestępcze już teraz wykorzystują narzędzia oparte na sztucznej inteligencji do zwiększania skali oszustw, generowania fałszywych dokumentów tożsamości i szybszego włamywania się do systemów.
Sztuczna inteligencja daje obrońcom nowe narzędzia, ale atakującym jeszcze więcej. To nowy rodzaj wyścigu zbrojeń, w którym szybkość i realizm zastępują brutalną siłę.
Pęknięcia w naszym systemie rządów
Ryzyko związane ze sztuczną inteligencją, które obecnie obserwujemy, nie jest jedynie efektem ubocznym rozwoju technologii. Jest to symptom słabego nadzoru. Sztuczna inteligencja rozprzestrzenia się szybciej niż zasady, wiedza i odpowiedzialność niezbędne do jej zarządzania.
Władze lokalne: działania w ciemno
Na poziomie lokalnym sztuczna inteligencja jest już wykorzystywana w sposób, który ma bezpośredni wpływ na obywateli, ale niewielu urzędników rozumie, jak ona działa.
Badanie holenderskich gmin wykazało poważne luki w nadzorze:
Większość z nich miała niewielki lub żaden wgląd w to, z jakich systemów AI korzysta
Lokalni członkowie rady przyznali, że nie rozumieją sztucznej inteligencji na tyle dobrze, by podejmować decyzje polityczne. Jeden z nich powiedział po prostu: “Radni nie wiedzą nic o sztucznej inteligencji. To przerażające”.”
92% gmin stwierdziło, że potrzebują jasnych krajowych ram lub zasad demokratycznej kontroli nad systemami sztucznej inteligencji.
Bez tego nie mogą oceniać ryzyka związanego ze sztuczną inteligencją, chronić obywateli ani zapewnić odpowiedzialności. Ryzyko związane ze sztuczną inteligencją wkracza do administracji publicznej tylnymi drzwiami, bez odpowiedniej kontroli.
Regulacje krajowe i globalne
Ten sam problem pojawia się na poziomie krajowym. The Unijna ustawa o sztucznej inteligencji jest ważnym krokiem w kierunku odpowiedzialnych regulacji, ale wiele terminów dotyczących zgodności z przepisami dla sektora publicznego rozciąga się na wiele lat w przyszłość.
Na całym świecie regulacje pozostają niejednolite. Poszczególne kraje podążają w różnych kierunkach, stosując własne zasady i standardy. Światowe Forum Ekonomiczne ostrzega, że ta niejednolitość może wywołać napięcia w przypadku transgranicznego funkcjonowania systemów sztucznej inteligencji.
Potrzebne są wspólne międzynarodowe standardy, zasady bezpieczeństwa, odpowiedzialności i przejrzystości, które będą miały zastosowanie wszędzie. Bez tego zarządzanie sztuczną inteligencją stanie się mozaiką przepisów, którą przestępcy i korporacje będą mogli łatwo wykorzystać.
Geopolityczny wyścig sztucznej inteligencji
Sztuczna inteligencja stała się również narzędziem polityki władzy. Stany Zjednoczone i Chiny rywalizują o dominację w zakresie rozwoju sztucznej inteligencji, patentów i wydajności modeli.
Obszar konkurencji
Stany Zjednoczone
Chiny
Frontier AI Models (2024)
40 modeli
15 modeli
Prywatne inwestycje w sztuczną inteligencję (2024)
$109.1 mld
$9.3 mld
Patenty na sztuczną inteligencję (2010-2023)
14,2% globalnej sumy
69,7% globalnej sumy
Wydajność modelu
Prowadzenie w 2023 r., różnica szybko się zmniejsza
Nadrabianie zaległości w kluczowych wskaźnikach
Stany Zjednoczone przodują w inwestycjach prywatnych i najnowocześniejszych modelach, ale Chiny dominują w dziedzinie patentów i badań i rozwoju finansowanych przez państwo. To napędza wyścig zbrojeń w dziedzinie sztucznej inteligencji, w którym obie strony przedkładają szybkość nad bezpieczeństwo.
Światowe Forum Ekonomiczne (WEF) wymienia „międzypaństwowe konflikty zbrojne” wśród największych globalnych zagrożeń związanych ze sztuczną inteligencją. W miarę jak zagrożenia związane ze sztuczną inteligencją coraz bardziej przenikają do systemów wojskowych, operacji wywiadowczych i cyberwojny, rośnie niebezpieczeństwo, że przyszłość będzie kształtowana przez konkurencję, a nie ostrożność.
Długoterminowe i egzystencjalne zagrożenia związane ze sztuczną inteligencją
Logicznym skutkiem dzisiejszego przyspieszenia i słabego zarządzania jest szereg ryzyk związanych ze sztuczną inteligencją, które mają duży wpływ, ale są mało prawdopodobne i których nie można ignorować. Są to scenariusze, które przenoszą się z debat politycznych do kwestii przetrwania ludzkości.
Opinie ekspertów na temat ryzyka katastrof
Ankieta przeprowadzona w 2024 r. wśród 2778 badaczy sztucznej inteligencji wykazała, że wielu ekspertów poważnie traktuje egzystencjalne zagrożenia związane ze sztuczną inteligencją.
Od 38% do 51% uważa, że istnieje co najmniej 10% szansy, że zaawansowana sztuczna inteligencja może spowodować katastrofalne skutki, w tym wyginięcie ludzi.
Nawet wśród optymistów prawie połowa przypisuje takiemu scenariuszowi 5% szans.
Mediana szacowanego prawdopodobieństwa wyginięcia w wyniku sztucznej inteligencji wynosiła od 5% do 10%.
Przesłanie jest jasne, nawet ci, którzy są najbliżej technologii, nie mogą wykluczyć najgorszych wyników. Kiedy eksperci, którzy budują systemy, mówią, że wyginięcie jest możliwe, decydenci mają obowiązek słuchać.
Problem dostosowania
Problem dostosowania leży u podstaw tych obaw. Wyzwaniem jest zapewnienie, aby zaawansowane systemy sztucznej inteligencji realizowały cele, które rzeczywiście odpowiadają wartościom ludzkim. W miarę jak sztuczna inteligencja staje się coraz bardziej autonomiczna, nawet niewielkie rozbieżności mogą mieć poważne konsekwencje.
Związaną z tym kwestią jest wyjaśnialność. Im bardziej złożony staje się system, tym trudniej jest zrozumieć, w jaki sposób podejmuje on decyzje. Ta sama ankieta z 2024 r. wykazała, że w przypadku zaawansowanych systemów, których wprowadzenie przewiduje się do 2028 r., istnieje tylko 10–40% prawdopodobieństwo, że użytkownicy będą wiedzieć, dlaczego sztuczna inteligencja podjęła daną decyzję.
Ten brak przejrzystości utrudnia kontrolę. Nie można zarządzać tym, czego nie da się wyjaśnić. Jeśli nie uda się zapewnić spójności i zrozumiałości, sztuczna inteligencja może działać w sposób, którego nikt nie jest w stanie przewidzieć ani powstrzymać.
Budowanie bezpieczniejszej przyszłości
Zagrożenia związane ze sztuczną inteligencją są poważne, ale nie niemożliwe do opanowania. Kluczem jest wczesne działanie, szeroka współpraca i skupienie się na systemach, które służą ludziom, a nie ich zastępują.
Silniejsze zarządzanie i globalna współpraca
Skuteczne zarządzanie to podstawa. Rządy i organy międzynarodowe muszą wypełnić lukę między innowacjami a nadzorem.
Rejestracja algorytmu - Instytucje publiczne powinny prowadzić publiczny rejestr systemów AI, z których korzystają. To buduje przejrzystość i odpowiedzialność.
Międzynarodowe standardy i audyty - Kraje potrzebują wspólnych standardów bezpieczeństwa i etyki. Niezależne instytuty bezpieczeństwa AI powinny testować i oceniać modele przed ich wdrożeniem.
Współpraca transgraniczna - UNDP zaleca współpracę w takich kwestiach jak standardy autentyczności treści i wspólne oceny modeli. Pomaga to mniejszym krajom bezpiecznie uczestniczyć w gospodarce opartej na sztucznej inteligencji.
Odpowiedzialność korporacyjna i przejrzystość
Większość pionierskich modeli sztucznej inteligencji pochodzi z sektora prywatnego. To nakłada na firmy bezpośrednią odpowiedzialność za bezpieczeństwo i przejrzystość.
Badanie McKinsey z 2024 r. wykazało, że najważniejsze zagrożenia związane ze sztuczną inteligencją, którymi zajmują się firmy, to cyberbezpieczeństwo (66%), zgodność z przepisami (60%) i prywatność (57%). Jednak 51% firm wymienia brak wewnętrznej wiedzy specjalistycznej jako główną przeszkodę w odpowiedzialnym wdrażaniu sztucznej inteligencji.
Przejrzystość również pozostaje ograniczona. Indeks przejrzystości modelu fundacji wykazuje poprawę, ale większość firm nadal nie ujawnia wystarczających informacji na temat danych szkoleniowych lub sposobu wykorzystania materiałów chronionych prawem autorskim.
Niektóre firmy, takie jak Anthropic, podejmują proaktywne kroki. Jej Polityka odpowiedzialnego skalowania (RSP) obejmuje zabezpieczenia dotyczące bezpieczeństwa modeli, takie jak ścisła ochrona wag modeli w celu zapobiegania kradzieży lub niewłaściwemu wykorzystaniu.
Człowiek w centrum uwagi
Długoterminowy cel powinien być prosty. Sztuczna inteligencja, która pomaga ludziom, a nie ich zastępuje.
Raport UNDP dotyczący rozwoju społecznego opowiada się za „gospodarką komplementarną”, w której narzędzia sztucznej inteligencji mają na celu usprawnienie pracy ludzkiej, a nie jej automatyzację. Zmiana ta wymaga przemyślanej polityki, edukacji i zachęt dla przedsiębiorstw.
Musimy również chronić ludzką sprawczość. Systemy sztucznej inteligencji powinny poszerzać możliwości wyboru ludzi, a nie podejmować decyzje w naszym imieniu. W obszarach o wysokim ryzyku, takich jak opieka zdrowotna, prawo i obrona, ludzie muszą pozostawać „w pętli” lub „na bieżąco”, aby móc kwestionować, korygować i zastępować automatyczne systemy.
Sztuczna inteligencja powinna być zrozumiała, podlegać kontroli i być zgodna z wartościami demokratycznymi. Celem nie jest przekazanie kontroli maszynom, ale mądre korzystanie z nich, z jasno określonymi granicami i wspólnymi korzyściami.
Wnioski
Przyszłość zagrożeń związanych ze sztuczną inteligencją nie została jeszcze napisana. To nie jest ścieżka, którą odkrywamy. To my ją wybieramy. Każda polityka, decyzja projektowa i wybór etyczny, którego dokonujemy dzisiaj, kształtuje tę ścieżkę.
Sztuczna inteligencja może wzmocnić najlepsze cechy ludzkiej kreatywności i wiedzy. Może również pogłębiać nierówności i niejasności. Różnica polega na zarządzaniu, przejrzystości i intencjach.
Budowanie bezpieczniejszej przyszłości sztucznej inteligencji wymaga podjęcia działań już teraz. Regulowanie istotnych kwestii, edukowanie decydentów, pociąganie firm do odpowiedzialności i stawianie ludzi w centrum każdego tworzonego przez nas systemu.
W ten sposób wypełniamy lukę między postępem a kontrolą i zapewniamy, że sztuczna inteligencja pozostaje narzędziem służącym ludzkości, a nie zagrożeniem dla niej.
FAQ
Jakie są zagrożenia związane ze sztuczną inteligencją?
Ryzyko związane ze sztuczną inteligencją waha się od bezpośrednich zagrożeń, takich jak dezinformacja, fałszerstwa, stronniczość algorytmów i zwolnienie z pracy, po długoterminowe zagrożenia egzystencjalne, w których zaawansowane systemy sztucznej inteligencji mogą stać się niekontrolowane lub niezgodne z ludzkimi wartościami.
Jakie są 5 wad sztucznej inteligencji?
Pięć głównych wad sztucznej inteligencji to: zwalnianie miejsc pracy poprzez automatyzację, uprzedzenia algorytmiczne, które wzmacniają dyskryminację, erozja zaufania do informacji poprzez podróbki i syntetyczne treści, zwiększone zagrożenia cyberbezpieczeństwa wynikające z ataków opartych na sztucznej inteligencji oraz brak przejrzystości.
Jakie są 4 poziomy ryzyka związanego ze sztuczną inteligencją?
(1) Ryzyko indywidualne wpływające na pojedynczych użytkowników poprzez uprzedzenia lub naruszenia prywatności, (2) Ryzyko organizacyjne wpływające na firmy poprzez naruszenia bezpieczeństwa lub niezgodności, (3) Ryzyko społeczne podważające zaufanie społeczne, miejsca pracy i instytucje demokratyczne poprzez dezinformację i automatyzację oraz (4) Ryzyko egzystencjalne zagrażające ludzkiemu przetrwaniu, jeśli zaawansowane systemy sztucznej inteligencji staną się niekontrolowane lub niezgodne z ludzkimi wartościami.