Spis treści
Dwieście siedemdziesiąt dwóch międzynarodowych ekspertów w dziedzinie sztucznej inteligencji opracowało właśnie ranking ryzyka związanego ze sztuczną inteligencją oparty na prawdopodobieństwie, a nie na domysłach. Większości organów regulacyjnych nie udało się tego osiągnąć nawet w ciągu trzech lat.
Badanie zatytułowane “Prioritization of Risks From Artificial Intelligence” („Ustalanie priorytetów zagrożeń związanych ze sztuczną inteligencją”) zostało przeprowadzone przez MIT FutureTech oraz Uniwersytet Queensland. W artykule wymieniono 188 współautorów. Głównymi autorami są Peter Slattery, Alexander Saeri, Jess Graham, Michael Noetel i Neil Thompson. Wykorzystali oni metodę Delphi – proces badawczy polegający na gromadzeniu opinii ekspertów w wielu rundach, aż do momentu, gdy widoczne staną się zarówno punkty zgodności, jak i rozbieżności. Ta sama metoda pojawia się w Międzynarodowym raporcie dotyczącym bezpieczeństwa sztucznej inteligencji z 2026 r., który powołuje się na tę samą pracę. Dane, na których opiera się badanie, znajdują się w Repozytorium ryzyka związanego ze sztuczną inteligencją MIT, stale aktualizowany katalog zawierający ponad 1 600 udokumentowanych zagrożeń, z którego korzystają decydenci i specjaliści ds. technologii.
Eksperci ocenili 24 obszary ryzyka w perspektywie pięcioletniej, od 2025 do 2030 roku, w ramach dwóch scenariuszy. Jeden scenariusz zakładał utrzymanie dotychczasowego stanu rzeczy, w którym organizacje i rządy kontynuują dotychczasowe działania. Drugi zakładał pragmatyczne działania łagodzące, w ramach których wszyscy podejmują opłacalne wysiłki w celu ograniczenia szkód. W scenariuszu „biznes jak zwykle” w 18 z 24 obszarów prawdopodobieństwo wystąpienia katastrofalnych skutków wynosiło co najmniej 10%. Konsekwencje katastrofalne oznaczały ponad milion ofiar śmiertelnych lub straty przekraczające $100 miliardów, przy czym w obu przypadkach szkody miały porównywalną skalę cywilizacyjną. To punkt odniesienia, którego nikt do tej pory nie chciał zapisać. Jest to bardziej wyraziste, oparte przede wszystkim na liczbach ujęcie spektrum ryzyka Ten blog już zawiera mapy.
Dlaczego większość ludzi źle to interpretuje
Większość ludzi, słysząc o “ryzyku związanym ze sztuczną inteligencją”, wyobraża sobie coś, co nastąpi za wiele lat – na przykład niekontrolowane modele lub autonomiczną broń w jakimś przyszłym konflikcie. Nie jest to jednak zgodne z wynikami niniejszego rankingu ryzyka związanego ze sztuczną inteligencją. Nawet przy zastosowaniu pragmatycznych środków ograniczających ryzyko pięć obszarów nadal osiągnęło prawdopodobieństwo katastrofy na poziomie 10%. Niebezpieczne możliwości oraz broń oparta na sztucznej inteligencji lub cyberataki osiągnęły po 12%. Podobnie było w przypadku szkód środowiskowych – obszaru, którego większość ludzi nie kojarzyłaby w ogóle z cyberbezpieczeństwem. Nierówności społeczne i bezrobocie uplasowały się o jeden punkt niżej, na poziomie 11%, tuż obok centralizacji władzy. Dwie z tych pięciu dziedzin stanowią problem cyberbezpieczeństwa i ich wskaźniki nie spadły znacząco, nawet pomimo wspólnych wysiłków wszystkich zainteresowanych stron.
Praca w dziedzinie bezpieczeństwa sprowadza się do jednego zadania: podniesienia kosztów ponoszonych przez atakującego na tyle, by atak przestał być opłacalny. Żaden system nie pozostaje bezpieczny na zawsze, więc alternatywa musi być po prostu na tyle kosztowna, by miała znaczenie. Sztuczna inteligencja nie tworzy nowych etapów ataku. Obniża ona koszty etapów, które już istnieją. Rozpoznanie zostaje zautomatyzowane.
Wykorzystywanie tych metod do celów złośliwych staje się szablonowe, a sposób ich dostarczania – coraz bardziej przekonujący, ponieważ wygenerowana wiadomość phishingowa czy sklonowany głos nie wymagają już udziału wykwalifikowanego operatora. To ten sam mechanizm, który stoi za… Ataki cybernetyczne wykorzystujące sztuczną inteligencję które już dziś dotykają zwykłe firmy. Jak stwierdził Slattery, właśnie w dziedzinie hakowania możliwości sztucznej inteligencji rozwijają się najszybciej, a wzrost ten jest bardziej widoczny po stronie kosztów niż po stronie prawdopodobieństwa.
Presja konkurencyjna działa jako mechanizm, który podtrzymuje pozostałe cztery rodzaje ryzyka. Gdy firma lub państwo uznają, że sztuczna inteligencja daje im przewagę, spowolnienie działań ze względów bezpieczeństwa oznacza po prostu przekazanie tej przewagi tym, którzy nie zwalniają tempa. Nikt nie chce być tym, który podnosi własne koszty, podczas gdy konkurencja tego nie robi, więc wyścig w dół w zakresie zarządzania trwa nadal. To ta sama dynamika, która sprawia, że cykle aktualizacji są zbyt powolne, a budżety na bezpieczeństwo zbyt małe – wszystko to przebiega w tempie sztucznej inteligencji, a nie w tempie IT.
Traktowanie tego rankingu ryzyka związanego ze sztuczną inteligencją jako jednorazowego projektu mającego na celu zapewnienie zgodności z przepisami oznacza błędną interpretację danych. Nie jest to coś, co można raz zakończyć i odłożyć na bok.
Co to oznacza, jeśli to właśnie ty ponosisz ryzyko
W badaniu wskazano również, kto jest narażony, a kto ponosi odpowiedzialność – te dwie grupy nie pokrywają się. Największa odpowiedzialność za przeciwdziałanie tym zagrożeniom spoczywa na twórcach oprogramowania i organach regulacyjnych. Największe ryzyko ponoszą użytkownicy oraz osoby, na które wpływ mają systemy sztucznej inteligencji. Ta rozbieżność sprawia, że nikt nie odczuwa odpowiedniego poczucia pilności. Osoby, które mogłyby spowolnić ten proces, nie są tymi, które poniosą jego konsekwencje.
Zasięg informacji nie rozkłada się równomiernie. Media pochłaniają ją poprzez dezinformację i manipulację – takie praktyki podważają zaufanie do tego, co ludzie widzą i czytają – podczas gdy kwestie bezpieczeństwa narodowego skupiają się na cyberatakach i rozwoju broni, a nadzór kierowany jest ku temu wrogim podmiotowi, który wykona pierwszy ruch. Nie oszczędza to również sektora finansowego, gdzie oszustwa i manipulacje rynkowe stają się łatwiejsze, a na dodatek naruszenia prywatności wywołują falę skutków w całej gospodarce. Sztuczna inteligencja sprawia, że wyrządzanie szkód staje się tańsze dla każdego, kto już był do tego zdolny, a także możliwe dla osób, które wcześniej nie miały takiej możliwości.
Slattery przedstawił te ustalenia jako listę kwestii, na które warto zwrócić uwagę już teraz, opartą raczej na prawdopodobieństwie niż na pewności. Reakcja na nie powinna stać się częścią dyskusji na temat zarządzania, którą firmy już prowadzą w zakresie cyberbezpieczeństwa i prywatności. Powinna ona również znaleźć swoje miejsce w planowaniu ciągłości działania, a nie stanowić oddzielnego punktu do odhaczenia z własnym terminem realizacji.
Jeśli odpowiadasz za bezpieczeństwo w organizacji wdrażającej sztuczną inteligencję, liczba, która powinna Ci utkwić w pamięci w kontekście ryzyka związanego z AI, to nie 272 ekspertów ani 24 kategorie. Chodzi o to, że nawet w najlepszym scenariuszu, jaki modelowali naukowcy, cyberataki i niebezpieczne możliwości nie wypadły z pierwszej piątki. Działania ograniczające ryzyko zmniejszają prawdopodobieństwo ich wystąpienia. Nie eliminują jednak cyberzagrożeń z tej listy.
Dodaj komentarz