Tag: ryzyko ai

  • 272 ekspertów opracowało ranking ryzyka związanego ze sztuczną inteligencją. Cyberbezpieczeństwo znalazło się w pierwszej piątce.

    272 ekspertów opracowało ranking ryzyka związanego ze sztuczną inteligencją. Cyberbezpieczeństwo znalazło się w pierwszej piątce.

    Spis treści

    Dwieście siedemdziesiąt dwóch międzynarodowych ekspertów w dziedzinie sztucznej inteligencji opracowało właśnie ranking ryzyka związanego ze sztuczną inteligencją oparty na prawdopodobieństwie, a nie na domysłach. Większości organów regulacyjnych nie udało się tego osiągnąć nawet w ciągu trzech lat.

    Badanie zatytułowane “Prioritization of Risks From Artificial Intelligence” („Ustalanie priorytetów zagrożeń związanych ze sztuczną inteligencją”) zostało przeprowadzone przez MIT FutureTech oraz Uniwersytet Queensland. W artykule wymieniono 188 współautorów. Głównymi autorami są Peter Slattery, Alexander Saeri, Jess Graham, Michael Noetel i Neil Thompson. Wykorzystali oni metodę Delphi – proces badawczy polegający na gromadzeniu opinii ekspertów w wielu rundach, aż do momentu, gdy widoczne staną się zarówno punkty zgodności, jak i rozbieżności. Ta sama metoda pojawia się w Międzynarodowym raporcie dotyczącym bezpieczeństwa sztucznej inteligencji z 2026 r., który powołuje się na tę samą pracę. Dane, na których opiera się badanie, znajdują się w Repozytorium ryzyka związanego ze sztuczną inteligencją MIT, stale aktualizowany katalog zawierający ponad 1 600 udokumentowanych zagrożeń, z którego korzystają decydenci i specjaliści ds. technologii.

    Eksperci ocenili 24 obszary ryzyka w perspektywie pięcioletniej, od 2025 do 2030 roku, w ramach dwóch scenariuszy. Jeden scenariusz zakładał utrzymanie dotychczasowego stanu rzeczy, w którym organizacje i rządy kontynuują dotychczasowe działania. Drugi zakładał pragmatyczne działania łagodzące, w ramach których wszyscy podejmują opłacalne wysiłki w celu ograniczenia szkód. W scenariuszu „biznes jak zwykle” w 18 z 24 obszarów prawdopodobieństwo wystąpienia katastrofalnych skutków wynosiło co najmniej 10%. Konsekwencje katastrofalne oznaczały ponad milion ofiar śmiertelnych lub straty przekraczające $100 miliardów, przy czym w obu przypadkach szkody miały porównywalną skalę cywilizacyjną. To punkt odniesienia, którego nikt do tej pory nie chciał zapisać. Jest to bardziej wyraziste, oparte przede wszystkim na liczbach ujęcie spektrum ryzyka Ten blog już zawiera mapy.

    Dlaczego większość ludzi źle to interpretuje

    Większość ludzi, słysząc o “ryzyku związanym ze sztuczną inteligencją”, wyobraża sobie coś, co nastąpi za wiele lat – na przykład niekontrolowane modele lub autonomiczną broń w jakimś przyszłym konflikcie. Nie jest to jednak zgodne z wynikami niniejszego rankingu ryzyka związanego ze sztuczną inteligencją. Nawet przy zastosowaniu pragmatycznych środków ograniczających ryzyko pięć obszarów nadal osiągnęło prawdopodobieństwo katastrofy na poziomie 10%. Niebezpieczne możliwości oraz broń oparta na sztucznej inteligencji lub cyberataki osiągnęły po 12%. Podobnie było w przypadku szkód środowiskowych – obszaru, którego większość ludzi nie kojarzyłaby w ogóle z cyberbezpieczeństwem. Nierówności społeczne i bezrobocie uplasowały się o jeden punkt niżej, na poziomie 11%, tuż obok centralizacji władzy. Dwie z tych pięciu dziedzin stanowią problem cyberbezpieczeństwa i ich wskaźniki nie spadły znacząco, nawet pomimo wspólnych wysiłków wszystkich zainteresowanych stron.

    Ranking ryzyka związanego ze sztuczną inteligencją

    Praca w dziedzinie bezpieczeństwa sprowadza się do jednego zadania: podniesienia kosztów ponoszonych przez atakującego na tyle, by atak przestał być opłacalny. Żaden system nie pozostaje bezpieczny na zawsze, więc alternatywa musi być po prostu na tyle kosztowna, by miała znaczenie. Sztuczna inteligencja nie tworzy nowych etapów ataku. Obniża ona koszty etapów, które już istnieją. Rozpoznanie zostaje zautomatyzowane.

    Wykorzystywanie tych metod do celów złośliwych staje się szablonowe, a sposób ich dostarczania – coraz bardziej przekonujący, ponieważ wygenerowana wiadomość phishingowa czy sklonowany głos nie wymagają już udziału wykwalifikowanego operatora. To ten sam mechanizm, który stoi za… Ataki cybernetyczne wykorzystujące sztuczną inteligencję które już dziś dotykają zwykłe firmy. Jak stwierdził Slattery, właśnie w dziedzinie hakowania możliwości sztucznej inteligencji rozwijają się najszybciej, a wzrost ten jest bardziej widoczny po stronie kosztów niż po stronie prawdopodobieństwa.

    Presja konkurencyjna działa jako mechanizm, który podtrzymuje pozostałe cztery rodzaje ryzyka. Gdy firma lub państwo uznają, że sztuczna inteligencja daje im przewagę, spowolnienie działań ze względów bezpieczeństwa oznacza po prostu przekazanie tej przewagi tym, którzy nie zwalniają tempa. Nikt nie chce być tym, który podnosi własne koszty, podczas gdy konkurencja tego nie robi, więc wyścig w dół w zakresie zarządzania trwa nadal. To ta sama dynamika, która sprawia, że cykle aktualizacji są zbyt powolne, a budżety na bezpieczeństwo zbyt małe – wszystko to przebiega w tempie sztucznej inteligencji, a nie w tempie IT.

    Traktowanie tego rankingu ryzyka związanego ze sztuczną inteligencją jako jednorazowego projektu mającego na celu zapewnienie zgodności z przepisami oznacza błędną interpretację danych. Nie jest to coś, co można raz zakończyć i odłożyć na bok.

    Co to oznacza, jeśli to właśnie ty ponosisz ryzyko

    W badaniu wskazano również, kto jest narażony, a kto ponosi odpowiedzialność – te dwie grupy nie pokrywają się. Największa odpowiedzialność za przeciwdziałanie tym zagrożeniom spoczywa na twórcach oprogramowania i organach regulacyjnych. Największe ryzyko ponoszą użytkownicy oraz osoby, na które wpływ mają systemy sztucznej inteligencji. Ta rozbieżność sprawia, że nikt nie odczuwa odpowiedniego poczucia pilności. Osoby, które mogłyby spowolnić ten proces, nie są tymi, które poniosą jego konsekwencje.

    Zasięg informacji nie rozkłada się równomiernie. Media pochłaniają ją poprzez dezinformację i manipulację – takie praktyki podważają zaufanie do tego, co ludzie widzą i czytają – podczas gdy kwestie bezpieczeństwa narodowego skupiają się na cyberatakach i rozwoju broni, a nadzór kierowany jest ku temu wrogim podmiotowi, który wykona pierwszy ruch. Nie oszczędza to również sektora finansowego, gdzie oszustwa i manipulacje rynkowe stają się łatwiejsze, a na dodatek naruszenia prywatności wywołują falę skutków w całej gospodarce. Sztuczna inteligencja sprawia, że wyrządzanie szkód staje się tańsze dla każdego, kto już był do tego zdolny, a także możliwe dla osób, które wcześniej nie miały takiej możliwości.

    Slattery przedstawił te ustalenia jako listę kwestii, na które warto zwrócić uwagę już teraz, opartą raczej na prawdopodobieństwie niż na pewności. Reakcja na nie powinna stać się częścią dyskusji na temat zarządzania, którą firmy już prowadzą w zakresie cyberbezpieczeństwa i prywatności. Powinna ona również znaleźć swoje miejsce w planowaniu ciągłości działania, a nie stanowić oddzielnego punktu do odhaczenia z własnym terminem realizacji.

    Jeśli odpowiadasz za bezpieczeństwo w organizacji wdrażającej sztuczną inteligencję, liczba, która powinna Ci utkwić w pamięci w kontekście ryzyka związanego z AI, to nie 272 ekspertów ani 24 kategorie. Chodzi o to, że nawet w najlepszym scenariuszu, jaki modelowali naukowcy, cyberataki i niebezpieczne możliwości nie wypadły z pierwszej piątki. Działania ograniczające ryzyko zmniejszają prawdopodobieństwo ich wystąpienia. Nie eliminują jednak cyberzagrożeń z tej listy.

    Źródło: https://mitsloan.mit.edu/ideas-made-to-matter/these-are-most-urgent-ai-risks-according-to-272-experts


    Chcesz więcej? Subskrybuj The Dossier

    Co tydzień w skrzynce odbiorczej:

    📡 KANAŁ WYWIADOWCZY - 3-5 wyselekcjonowanych linków: [Badania] [Polityka] [Narzędzia] [Incydenty]
    💡 JEDNA RADA - Jedna praktyczna wskazówka dotycząca AI/cyberbezpieczeństwa, z której możesz skorzystać już dziś

  • Ryzyko związane ze sztuczną inteligencją: od zakłóceń społecznych po zagrożenie egzystencjalne

    Ryzyko związane ze sztuczną inteligencją: od zakłóceń społecznych po zagrożenie egzystencjalne

    Spis treści

    Nowa rzeczywistość zagrożeń związanych ze sztuczną inteligencją

    Sztuczna inteligencja rozwija się szybciej niż nasza zdolność do zarządzania nią. To, co zaczęło się jako dziedzina eksperymentalna, jest obecnie wplecione w gospodarki, rządy i codzienne życie. Tempo rozwoju sztucznej inteligencji tworzy nowe rodzaje ryzyka: ekonomiczne, polityczne, a nawet egzystencjalne.

    Problem nie polega na tym, że sztuczna inteligencja istnieje. Chodzi o to, że nasze systemy kontroli, regulacji i zrozumienia nie nadążają za nią. Różnica między tym, co potrafi sztuczna inteligencja, a tym, jak społeczeństwo jest przygotowane do radzenia sobie z nią, staje się coraz większa.

    Obecnie stoimy w obliczu szeregu zagrożeń związanych ze sztuczną inteligencją:

    • Bezpośrednie zagrożenia związane ze sztuczną inteligencją które zagrażają zaufaniu społecznemu, sprawiedliwości i miejscom pracy
    • Ryzyko systemowe które ujawniają luki w zarządzaniu i globalnej współpracy
    • Ryzyko długoterminowe czy zachowamy kontrolę nad technologią, którą tworzymy

    Artykuł ten przedstawia to spektrum. Opiera się on na badaniach przeprowadzonych przez UNDP, Stanford, i Światowe Forum Ekonomiczne aby pokazać, gdzie jesteśmy i gdzie leżą prawdziwe zagrożenia.

    Problem przyspieszenia

    Postęp AI jest nie tylko szybki. On przyspiesza. Każdego roku modele stają się większe, tańsze i bardziej wydajne. Ta prędkość stwarza zarówno możliwości, jak i niestabilność.

    Skracające się terminy

    Prognozy dotyczące tego, kiedy możemy spodziewać się pojawienia się zaawansowanej sztucznej inteligencji na poziomie ludzkim, stają się coraz bardziej realne.
    W 2024 r. ankieta przeprowadzona wśród prawie 2800 badaczy zajmujących się sztuczną inteligencją wykazała, że mediana prognoz dotyczących „wysokiego poziomu inteligencji maszynowej” wynosi 2047 r., czyli trzynaście lat wcześniej niż przewidywała ta sama grupa w 2022 r.
    Niektórzy eksperci, tacy jak Ray Kurzweil, spodziewają się sztucznej inteligencji ogólnej do 2029 roku.

    Eksplodujące zużycie zasobów

    Według Stanford's 2025 AI Index, moc obliczeniowa stojąca za pionierskimi systemami sztucznej inteligencji podwaja się mniej więcej co pięć miesięcy. Wyszkolenie modelu z najwyższej półki kosztuje obecnie dziesiątki milionów dolarów, w porównaniu z zaledwie setkami w 2017 roku. Szacuje się, że samo szkolenie GPT-4 kosztowało $79 milionów.

    Tańsze i szybsze wdrożenie

    Wraz ze wzrostem kosztów szkoleń spadają koszty użytkowania. W 2024 roku 78% firm zgłosiło korzystanie ze sztucznej inteligencji, co oznacza gwałtowny wzrost z 55% rok wcześniej. Tymczasem koszt uruchomienia modeli AI, takich jak GPT-3.5, spadł o ponad 280 w ciągu 18 miesięcy.

    Połączenie krótszych terminów realizacji przez ekspertów, ogromnego wzrostu mocy obliczeniowej i tańszego dostępu tworzy idealną burzę. Zagrożenia związane ze sztuczną inteligencją, które kiedyś pojawiały się po latach, mogą teraz rozprzestrzeniać się na całym świecie w ciągu kilku tygodni. Instytucje działają powoli. Sztuczna inteligencja nie.

    ryzyko ai

    Co zalicza się do systemu sztucznej inteligencji

    Zanim zaczniemy mówić o zagrożeniach związanych ze sztuczną inteligencją, musimy jasno określić, czym właściwie jest sztuczna inteligencja.
    W następstwie OECD (Organizacja Współpracy Gospodarczej i Rozwoju) definiuje system sztucznej inteligencji jako dowolny system oparty na maszynach, który przyjmuje cele wyznaczone przez człowieka, interpretuje dane i generuje wyniki, prognozy, treści lub decyzje mające wpływ na świat rzeczywisty lub cyfrowy.

    Obejmuje to wszystko, od podstawowych algorytmów stosowanych w usługach publicznych po złożone modele generatywne zdolne do pisania, rysowania i rozumowania. Ponieważ definicja ta jest tak szeroka, ryzyko związane ze sztuczną inteligencją również jest duże. Obejmuje ono zarówno niewielkie odchylenia w podejmowanych decyzjach, jak i zakłócenia na dużą skalę w gospodarce i polityce.

    Bezpośrednie zagrożenia związane ze sztuczną inteligencją: Co już się dzieje

    Tempo rozwoju sztucznej inteligencji nie jest tylko kwestią techniczną. Już teraz zmienia ona sposób, w jaki pracujemy, komu ufamy i jak bezpiecznie czujemy się w Internecie. Największe problemy pojawiają się szybciej, niż rządy i firmy są w stanie na nie zareagować. Nie są to przyszłe zagrożenia związane ze sztuczną inteligencją. One już istnieją.

    Załamanie integralności informacji

    Największym krótkoterminowym zagrożeniem ze strony sztucznej inteligencji jest załamanie zaufania do informacji.
    Narzędzia generatywne ułatwiają każdemu tworzenie fałszywych filmów, klonowanych głosów lub realistycznych tekstów na dużą skalę. Światowe Forum Ekonomiczne w swoim raporcie z 2024 r. uznało dezinformację opartą na sztucznej inteligencji za największe globalne zagrożenie.

    Widzieliśmy to już w prawdziwych wyborach:

    • W Pakistan, Tuż przed głosowaniem narodowym rozpowszechniano fałszywe wizerunki przywódców politycznych, zachęcając ludzi do nieuczestniczenia w nim.
    • W Stany ZjednoczoneOpenAI zamknęło powiązaną z Rosją operację wykorzystującą ChatGPT do zalewania serwisu Telegram fałszywymi komentarzami z kont podszywających się pod zwykłych obywateli.

    Tego rodzaju syntetyczne treści zalewają internet szybciej, niż weryfikatorzy faktów są w stanie na nie zareagować. Nie tylko szerzą one kłamstwa. Podważają one zaufanie do wszystkiego, nawet do prawdy. Kiedy każdy może sfałszować wszystko, zaufanie publiczne ulega załamaniu.

    Stronniczość, sprawiedliwość i nierówność

    Systemy sztucznej inteligencji nie tworzą uprzedzeń, ale mogą je wzmacniać. Modele szkolone na tendencyjnych danych powielają wzorce, które widzą. W przypadku stosowania ich w procesie zatrudniania, oceny zdolności kredytowej lub kontroli policyjnej, wzorce te mogą stać się prawdziwą szkodą.

    Holandia’ skandal z zasiłkami na opiekę nad dziećmi jest tego wyraźnym przykładem. Algorytm wykrywania oszustw błędnie namierzył tysiące rodzin, z których wiele miało pochodzenie migracyjne, jako potencjalnych oszustów. Szkody zmieniły ich życie.

    Stronniczość przejawia się również w subtelny sposób. Coś tak prostego jak wykorzystanie kodu pocztowego jako czynnika ryzyka może pośrednio prowadzić do dyskryminacji, ponieważ lokalizacja często wiąże się z pochodzeniem etnicznym lub dochodami.

    W skali globalnej problem jest głębszy. The Raport UNDP na temat rozwoju społecznego 2025 stwierdzono, że większość dużych modeli sztucznej inteligencji jest szkolona na danych pochodzących głównie z krajów o wysokich dochodach. Powoduje to zachwianie równowagi kulturowej sztucznej inteligencji na korzyść wąskiej grupy krajów i pogłębia istniejące nierówności.

    Nawet duże modele języka wizualnego, które łączą rozumienie tekstu i obrazu, mają tendencję do wzmacniania stereotypów rasowych. Stronniczość nie jest błędem technicznym. Jest odzwierciedleniem społecznych i historycznych nierówności, które sztuczna inteligencja ostatecznie potęguje.

    Zatrudnienie, wydajność i zakłócenia

    Sztuczna inteligencja niesie ze sobą zarówno możliwości, jak i zakłócenia. Może zwiększyć produktywność ludzi, ale może również zautomatyzować pracę szybciej niż pojawiają się nowe stanowiska.

    Według badań UNDP 60% osób uważa, że sztuczna inteligencja stworzy nowe możliwości. Około połowa uważa również, że spowoduje ona likwidację miejsc pracy. Obie strony mają rację.

    The Stanford HAI pokazuje, że sztuczna inteligencja może zwiększyć produktywność i wypełnić luki w umiejętnościach w niektórych sektorach. Jednak freelancerzy w dziedzinach takich jak tworzenie oprogramowania, wprowadzanie danych i pisanie treści już teraz obserwują spadek popytu i niższe wynagrodzenie z powodu automatyzacji.

    Wynik nie jest tylko kwestią technologii. Zależy on od wyborów politycznych i biznesowych. Możemy wykorzystać sztuczną inteligencję do rozszerzenia ludzkich możliwości lub pozwolić jej na osłabienie siły roboczej.

    Sztuczna inteligencja jako zagrożenie dla cyberbezpieczeństwa

    Sztuczna inteligencja jest również rosnącą bronią dla atakujących. Obniża barierę umiejętności tworzenia deepfake'ów, oszustw phishingowych i realistycznych kampanii socjotechnicznych.

    W ankietach 60% obywateli Holandii twierdzi, że postrzega sztuczną inteligencję jako zagrożenie dla cyberbezpieczeństwa. Obawy te są uzasadnione. Grupy przestępcze już teraz wykorzystują narzędzia oparte na sztucznej inteligencji do zwiększania skali oszustw, generowania fałszywych dokumentów tożsamości i szybszego włamywania się do systemów.

    Sztuczna inteligencja daje obrońcom nowe narzędzia, ale atakującym jeszcze więcej. To nowy rodzaj wyścigu zbrojeń, w którym szybkość i realizm zastępują brutalną siłę.

    Pęknięcia w naszym systemie rządów

    Ryzyko związane ze sztuczną inteligencją, które obecnie obserwujemy, nie jest jedynie efektem ubocznym rozwoju technologii. Jest to symptom słabego nadzoru. Sztuczna inteligencja rozprzestrzenia się szybciej niż zasady, wiedza i odpowiedzialność niezbędne do jej zarządzania.

    Władze lokalne: działania w ciemno

    Na poziomie lokalnym sztuczna inteligencja jest już wykorzystywana w sposób, który ma bezpośredni wpływ na obywateli, ale niewielu urzędników rozumie, jak ona działa.

    Badanie holenderskich gmin wykazało poważne luki w nadzorze:

    • Większość z nich miała niewielki lub żaden wgląd w to, z jakich systemów AI korzysta
    • Lokalni członkowie rady przyznali, że nie rozumieją sztucznej inteligencji na tyle dobrze, by podejmować decyzje polityczne. Jeden z nich powiedział po prostu: “Radni nie wiedzą nic o sztucznej inteligencji. To przerażające”.”
    • 92% gmin stwierdziło, że potrzebują jasnych krajowych ram lub zasad demokratycznej kontroli nad systemami sztucznej inteligencji.

    Bez tego nie mogą oceniać ryzyka związanego ze sztuczną inteligencją, chronić obywateli ani zapewnić odpowiedzialności. Ryzyko związane ze sztuczną inteligencją wkracza do administracji publicznej tylnymi drzwiami, bez odpowiedniej kontroli.

    Regulacje krajowe i globalne

    Ten sam problem pojawia się na poziomie krajowym. The Unijna ustawa o sztucznej inteligencji jest ważnym krokiem w kierunku odpowiedzialnych regulacji, ale wiele terminów dotyczących zgodności z przepisami dla sektora publicznego rozciąga się na wiele lat w przyszłość.

    Na całym świecie regulacje pozostają niejednolite. Poszczególne kraje podążają w różnych kierunkach, stosując własne zasady i standardy. Światowe Forum Ekonomiczne ostrzega, że ta niejednolitość może wywołać napięcia w przypadku transgranicznego funkcjonowania systemów sztucznej inteligencji.

    Potrzebne są wspólne międzynarodowe standardy, zasady bezpieczeństwa, odpowiedzialności i przejrzystości, które będą miały zastosowanie wszędzie. Bez tego zarządzanie sztuczną inteligencją stanie się mozaiką przepisów, którą przestępcy i korporacje będą mogli łatwo wykorzystać.

    Geopolityczny wyścig sztucznej inteligencji

    Sztuczna inteligencja stała się również narzędziem polityki władzy. Stany Zjednoczone i Chiny rywalizują o dominację w zakresie rozwoju sztucznej inteligencji, patentów i wydajności modeli.

    Obszar konkurencjiStany ZjednoczoneChiny
    Frontier AI Models (2024)40 modeli15 modeli
    Prywatne inwestycje w sztuczną inteligencję (2024)$109.1 mld$9.3 mld
    Patenty na sztuczną inteligencję (2010-2023)14,2% globalnej sumy69,7% globalnej sumy
    Wydajność modeluProwadzenie w 2023 r., różnica szybko się zmniejszaNadrabianie zaległości w kluczowych wskaźnikach

    Stany Zjednoczone przodują w inwestycjach prywatnych i najnowocześniejszych modelach, ale Chiny dominują w dziedzinie patentów i badań i rozwoju finansowanych przez państwo. To napędza wyścig zbrojeń w dziedzinie sztucznej inteligencji, w którym obie strony przedkładają szybkość nad bezpieczeństwo.

    Światowe Forum Ekonomiczne (WEF) wymienia „międzypaństwowe konflikty zbrojne” wśród największych globalnych zagrożeń związanych ze sztuczną inteligencją. W miarę jak zagrożenia związane ze sztuczną inteligencją coraz bardziej przenikają do systemów wojskowych, operacji wywiadowczych i cyberwojny, rośnie niebezpieczeństwo, że przyszłość będzie kształtowana przez konkurencję, a nie ostrożność.

    Długoterminowe i egzystencjalne zagrożenia związane ze sztuczną inteligencją

    Logicznym skutkiem dzisiejszego przyspieszenia i słabego zarządzania jest szereg ryzyk związanych ze sztuczną inteligencją, które mają duży wpływ, ale są mało prawdopodobne i których nie można ignorować. Są to scenariusze, które przenoszą się z debat politycznych do kwestii przetrwania ludzkości.

    Opinie ekspertów na temat ryzyka katastrof

    Ankieta przeprowadzona w 2024 r. wśród 2778 badaczy sztucznej inteligencji wykazała, że wielu ekspertów poważnie traktuje egzystencjalne zagrożenia związane ze sztuczną inteligencją.

    • Od 38% do 51% uważa, że istnieje co najmniej 10% szansy, że zaawansowana sztuczna inteligencja może spowodować katastrofalne skutki, w tym wyginięcie ludzi.
    • Nawet wśród optymistów prawie połowa przypisuje takiemu scenariuszowi 5% szans.
    • Mediana szacowanego prawdopodobieństwa wyginięcia w wyniku sztucznej inteligencji wynosiła od 5% do 10%.

    Przesłanie jest jasne, nawet ci, którzy są najbliżej technologii, nie mogą wykluczyć najgorszych wyników. Kiedy eksperci, którzy budują systemy, mówią, że wyginięcie jest możliwe, decydenci mają obowiązek słuchać.

    Problem dostosowania

    Problem dostosowania leży u podstaw tych obaw. Wyzwaniem jest zapewnienie, aby zaawansowane systemy sztucznej inteligencji realizowały cele, które rzeczywiście odpowiadają wartościom ludzkim. W miarę jak sztuczna inteligencja staje się coraz bardziej autonomiczna, nawet niewielkie rozbieżności mogą mieć poważne konsekwencje.

    Związaną z tym kwestią jest wyjaśnialność. Im bardziej złożony staje się system, tym trudniej jest zrozumieć, w jaki sposób podejmuje on decyzje. Ta sama ankieta z 2024 r. wykazała, że w przypadku zaawansowanych systemów, których wprowadzenie przewiduje się do 2028 r., istnieje tylko 10–40% prawdopodobieństwo, że użytkownicy będą wiedzieć, dlaczego sztuczna inteligencja podjęła daną decyzję.

    Ten brak przejrzystości utrudnia kontrolę. Nie można zarządzać tym, czego nie da się wyjaśnić. Jeśli nie uda się zapewnić spójności i zrozumiałości, sztuczna inteligencja może działać w sposób, którego nikt nie jest w stanie przewidzieć ani powstrzymać.

    Budowanie bezpieczniejszej przyszłości

    Zagrożenia związane ze sztuczną inteligencją są poważne, ale nie niemożliwe do opanowania. Kluczem jest wczesne działanie, szeroka współpraca i skupienie się na systemach, które służą ludziom, a nie ich zastępują.

    Silniejsze zarządzanie i globalna współpraca

    Skuteczne zarządzanie to podstawa. Rządy i organy międzynarodowe muszą wypełnić lukę między innowacjami a nadzorem.

    1. Rejestracja algorytmu - Instytucje publiczne powinny prowadzić publiczny rejestr systemów AI, z których korzystają. To buduje przejrzystość i odpowiedzialność.
    2. Międzynarodowe standardy i audyty - Kraje potrzebują wspólnych standardów bezpieczeństwa i etyki. Niezależne instytuty bezpieczeństwa AI powinny testować i oceniać modele przed ich wdrożeniem.
    3. Współpraca transgraniczna - UNDP zaleca współpracę w takich kwestiach jak standardy autentyczności treści i wspólne oceny modeli. Pomaga to mniejszym krajom bezpiecznie uczestniczyć w gospodarce opartej na sztucznej inteligencji.

    Odpowiedzialność korporacyjna i przejrzystość

    Większość pionierskich modeli sztucznej inteligencji pochodzi z sektora prywatnego. To nakłada na firmy bezpośrednią odpowiedzialność za bezpieczeństwo i przejrzystość.

    Badanie McKinsey z 2024 r. wykazało, że najważniejsze zagrożenia związane ze sztuczną inteligencją, którymi zajmują się firmy, to cyberbezpieczeństwo (66%), zgodność z przepisami (60%) i prywatność (57%).
    Jednak 51% firm wymienia brak wewnętrznej wiedzy specjalistycznej jako główną przeszkodę w odpowiedzialnym wdrażaniu sztucznej inteligencji.

    Przejrzystość również pozostaje ograniczona. Indeks przejrzystości modelu fundacji wykazuje poprawę, ale większość firm nadal nie ujawnia wystarczających informacji na temat danych szkoleniowych lub sposobu wykorzystania materiałów chronionych prawem autorskim.

    Niektóre firmy, takie jak Anthropic, podejmują proaktywne kroki. Jej Polityka odpowiedzialnego skalowania (RSP) obejmuje zabezpieczenia dotyczące bezpieczeństwa modeli, takie jak ścisła ochrona wag modeli w celu zapobiegania kradzieży lub niewłaściwemu wykorzystaniu.

    Człowiek w centrum uwagi

    Długoterminowy cel powinien być prosty. Sztuczna inteligencja, która pomaga ludziom, a nie ich zastępuje.

    Raport UNDP dotyczący rozwoju społecznego opowiada się za „gospodarką komplementarną”, w której narzędzia sztucznej inteligencji mają na celu usprawnienie pracy ludzkiej, a nie jej automatyzację. Zmiana ta wymaga przemyślanej polityki, edukacji i zachęt dla przedsiębiorstw.

    Musimy również chronić ludzką sprawczość. Systemy sztucznej inteligencji powinny poszerzać możliwości wyboru ludzi, a nie podejmować decyzje w naszym imieniu. W obszarach o wysokim ryzyku, takich jak opieka zdrowotna, prawo i obrona, ludzie muszą pozostawać „w pętli” lub „na bieżąco”, aby móc kwestionować, korygować i zastępować automatyczne systemy.

    Sztuczna inteligencja powinna być zrozumiała, podlegać kontroli i być zgodna z wartościami demokratycznymi. Celem nie jest przekazanie kontroli maszynom, ale mądre korzystanie z nich, z jasno określonymi granicami i wspólnymi korzyściami.

    Wnioski

    Przyszłość zagrożeń związanych ze sztuczną inteligencją nie została jeszcze napisana. To nie jest ścieżka, którą odkrywamy. To my ją wybieramy.
    Każda polityka, decyzja projektowa i wybór etyczny, którego dokonujemy dzisiaj, kształtuje tę ścieżkę.

    Sztuczna inteligencja może wzmocnić najlepsze cechy ludzkiej kreatywności i wiedzy. Może również pogłębiać nierówności i niejasności. Różnica polega na zarządzaniu, przejrzystości i intencjach.

    Budowanie bezpieczniejszej przyszłości sztucznej inteligencji wymaga podjęcia działań już teraz. Regulowanie istotnych kwestii, edukowanie decydentów, pociąganie firm do odpowiedzialności i stawianie ludzi w centrum każdego tworzonego przez nas systemu.

    W ten sposób wypełniamy lukę między postępem a kontrolą i zapewniamy, że sztuczna inteligencja pozostaje narzędziem służącym ludzkości, a nie zagrożeniem dla niej.


    Chcesz więcej? Subskrybuj The Dossier

    Co tydzień w skrzynce odbiorczej:

    📡 KANAŁ WYWIADOWCZY - 3-5 wyselekcjonowanych linków: [Badania] [Polityka] [Narzędzia] [Incydenty]
    💡 JEDNA RADA - Jedna praktyczna wskazówka dotycząca AI/cyberbezpieczeństwa, z której możesz skorzystać już dziś


    FAQ

    Jakie są zagrożenia związane ze sztuczną inteligencją?

    Ryzyko związane ze sztuczną inteligencją waha się od bezpośrednich zagrożeń, takich jak dezinformacja, fałszerstwa, stronniczość algorytmów i zwolnienie z pracy, po długoterminowe zagrożenia egzystencjalne, w których zaawansowane systemy sztucznej inteligencji mogą stać się niekontrolowane lub niezgodne z ludzkimi wartościami.

    Jakie są 5 wad sztucznej inteligencji?

    Pięć głównych wad sztucznej inteligencji to: zwalnianie miejsc pracy poprzez automatyzację, uprzedzenia algorytmiczne, które wzmacniają dyskryminację, erozja zaufania do informacji poprzez podróbki i syntetyczne treści, zwiększone zagrożenia cyberbezpieczeństwa wynikające z ataków opartych na sztucznej inteligencji oraz brak przejrzystości.

    Jakie są 4 poziomy ryzyka związanego ze sztuczną inteligencją?

    (1) Ryzyko indywidualne wpływające na pojedynczych użytkowników poprzez uprzedzenia lub naruszenia prywatności, (2) Ryzyko organizacyjne wpływające na firmy poprzez naruszenia bezpieczeństwa lub niezgodności, (3) Ryzyko społeczne podważające zaufanie społeczne, miejsca pracy i instytucje demokratyczne poprzez dezinformację i automatyzację oraz (4) Ryzyko egzystencjalne zagrażające ludzkiemu przetrwaniu, jeśli zaawansowane systemy sztucznej inteligencji staną się niekontrolowane lub niezgodne z ludzkimi wartościami.