Tag: LLM

  • System analizy zagrożeń oparty na sztucznej inteligencji można wprowadzić w błąd za pomocą jednego podłożonego zdania

    Spis treści

    Mój czytnik RSS codziennie rano przegląda za mnie listę źródeł – to mój własny, niewielki system analizy zagrożeń oparty na sztucznej inteligencji. Przyznaje on każdej wiadomości określoną ocenę, a wszystko, co uzyska wynik powyżej 7 na 10, trafia do mojego podsumowania. Sam go stworzyłem i korzystam z niego codziennie, ale aż do zeszłego tygodnia nigdy nie zastanawiałem się, co oznacza ta 7.

    Potem przeczytałem nowy artykuł autorstwa Jiahonga Qiana z Uniwersytetu Jian Qiao w Szanghaju. Test ten sprawdza, co się dzieje, gdy model LLM analizuje raporty dotyczące cyberzagrożeń i musi wskazać podmioty odpowiedzialne za zagrożenia oraz luki w zabezpieczeniach stojące za każdą kampanią. Test przeprowadzono na 354 kampaniach incydentów pochodzących z publicznego korpusu. DeepSeek-V4-Flash i GLM-5.3-Flash były modelami niedrogimi, a GPT-6.1-Sol stanowił flagowy model kontrolny.

    Ten niepokojący wynik wynika z eksperymentu dodatkowego, w którym dodano jedno zdanie przypisujące kampanii fałszywy numer CVE, a proste modele powiązały ten numer CVE w 95,61% przypadków z 1001% przypadków, wykazując poziom pewności zbliżony do maksymalnego.

    Modele wykrywają wszystko, łącznie z szumem

    Wskaźnik Recall osiąga świetne wyniki w przedziale od 0,81 do 0,99 dla wszystkich modeli i typów encji, co oznacza, że modele wykrywają niemal każdą encję zaznaczoną przez analityków.

    Analiza zagrożeń oparta na sztucznej inteligencji

    Różnica polega na precyzji – we wszystkich przypadkach obserwuje się mikroprecyzję w przedziale od 0,03 do 0,34. Średnio GLM-5.3-Flash generuje 15,1 ciągów CVE na raport, podczas gdy w referencyjnym zestawieniu podano maksymalnie 2 główne identyfikatory CVE.

    Model GPT-6.1-Sol osiąga wynik 0,057 mikro w zakresie precyzji dla CVE, a jak stwierdzono w artykule: “różnica ta nie zmniejsza się nawet w przypadku modeli z najwyższej półki”. Zapłacenie więcej daje w zamian tę samą liczbę dodatkowych kandydatów.

    Otrzymujesz więc listę piętnastu pozycji, z których dwie są istotne, ale nikt nie podpowiada, które to są. Jeśli Twój system analizy zagrożeń oparty na sztucznej inteligencji działa w ten sposób, analityk nadal musi ręcznie sortować te dane. Na początku tego roku napisałem, że Mapowanie AI ATT&CK jest błędne w czterech na pięć przypadków na podstawie rzeczywistych zgłoszeń, a w niniejszym artykule stwierdzono taką samą niską dokładność w odniesieniu do podmiotów i luk CVE.

    W tym przypadku halucynacja nie jest właściwym podejrzanym

    Odruchową odpowiedzią jest „halucynacja”, a odruchowym rozwiązaniem jest metoda RAG w połączeniu z łańcuchem myśli.

    W artykule zweryfikowano to poprzez opatrzenie adnotacjami próby 360 kandydatów i odnieślenie jej do wszystkich wyników. Większość z nich, 65,61 TP3T, stanowiły wzmianki tła, czyli podmioty wymienione w raporcie, których ta kampania nigdy nie wykorzystała. Kolejne 19,91 TP3T odnosiły się do wydarzenia, ale wykraczały poza zakres uwag referencyjnych. Tylko 1,21 TP3T nie miało żadnego potwierdzenia w tekście. Spośród fałszywych alarmów CVE od 99,71 TP3T do 99,81 TP3T pojawiają się wyraźnie w którymś miejscu raportu.

    W artykule stwierdzono, że modele “wskazują ciągi znaków, których prawdziwości nie są w stanie ocenić w kontekście tego zdarzenia”, oraz że słowo “wspomniane” jest mylnie traktowane jako “użyte”.

    To zmienia podejście do analizy zagrożeń opartej na sztucznej inteligencji, ponieważ technologie RAG i „łańcuch myśli” poprawiły wydajność identyfikacji podmiotów nawet o 0,133 wskaźnika macro-F1, a w przypadku luk w zabezpieczeniach zmiany były znikome. Nie da się rozwiązać problemu rozumienia tekstu wyłącznie poprzez wyszukiwanie informacji.

    Atrybucja techniczna polega na porównywaniu metod, taktyk i procedur (TTP) oraz infrastruktury ze znanymi kampaniami, a operacje typu „false flag” zawsze stanowiły część tych działań. Łukasz Olejnik i Artur Kurasiński opisują w książce „Philosophy of Cybersecurity”, jak grupa Turla prowadziła operacje, wykorzystując irańską infrastrukturę. Tego rodzaju działania dezinformacyjne wymagały kiedyś od atakującego znacznego wysiłku. Jeśli analizę danych przeprowadza sztuczna inteligencja, fałszywa flaga kosztuje zaledwie jedno zdanie w raporcie, który odczytuje twój system.

    Jakie wskaźniki pewności zapewniają dane wywiadowcze dotyczące zagrożeń związanych ze sztuczną inteligencją

    Wyrażona słowami pewność – model twierdzący, że jest pewien na poziomie 95% – jest źle skalibrowana. Oczekiwany błąd kalibracji mieści się w przedziale od 0,53 do 0,94.

    Metoda spójności wewnętrznej sprawdza się lepiej – polega ona na zadaniu tego samego pytania pięć razy i zliczeniu, ile razy pojawia się dana jednostka. Jako sygnał rankingowy spełniła ona wymagania określone w rejestracji wstępnej artykułu we wszystkich sześciu komórkach testowych. Jeśli chodzi o luki w zabezpieczeniach, przegląd 20% pozycji z najwyższym wynikiem pozwala zidentyfikować 96% poprawnych elementów.

    W teście z wstawionym zdaniem fałszywy podmiot uzyskał średni poziom pewności zgłoszony przez niego samego wynoszący 98,0 i 85,6 w obu modelach, co nie różniło się od wyników prawdziwego podmiotu. Jego częstotliwość spójności wewnętrznej wyniosła 0,892 w obu modelach. W artykule stwierdzono, że “częstotliwość SC mierzy spójność tekstową, a nie zgodność z faktami”.”

    Zakodowane zdanie to spójny tekst, więc model za każdym razem potwierdza jego poprawność. W analizie zagrożeń opartej na sztucznej inteligencji wynik mierzy zgodność z tekstem, a tekstem zarządza osoba atakująca.

    Jak wdrażać system analizy zagrożeń oparty na sztucznej inteligencji z udziałem człowieka

    Holenderski analityk OSINT Nico Dekens napisał w sierpniu że niepowodzenia wywiadowcze rzadko pojawiają się z wielkim rozgłosem, a “zazwyczaj towarzyszy im ocena wiarygodności”. Niniejszy artykuł potwierdza te słowa danymi liczbowymi.

    Zawarte w artykule zalecenia dotyczące wdrożenia procesu analizy zagrożeń opartego na sztucznej inteligencji sprowadzają się do czterech zmian.

    Funkcja „Confidence” sortuje kolejkę do przeglądu i nigdy nie zastępuje samej analizy, więc w przypadku luk w zabezpieczeniach zaczyna się od górnej części listy 20%. W przypadku podmiotów stanowiących zagrożenie należy postępować inaczej, ponieważ górna część tej listy (od 5 do 10%) zawiera wiele błędów i człowiek musi ręcznie sprawdzić przypisania podmiotów od początku listy.

    Progi są ponownie kalibrowane dla każdego korpusu, ponieważ w przypadku nowszego zestawu raportów z lat 2022–2025 rankingi pozostały niezmienione, podczas gdy stałe progi nie dały się przenieść.

    Każdy raport, który zasila system analizy zagrożeń oparty na sztucznej inteligencji, stanowi dane wejściowe kontrolowane przez atakującego, ponieważ raporty CTI zawierają cytaty z blogów dostawców oraz wklejone fragmenty, a wraz z nimi pojawia się jeden podłożony wiersz.

    Każda wyodrębniona jednostka ma obok siebie zdanie, z którego pochodzi, dzięki czemu recenzent najpierw zapoznaje się z danym fragmentem.

    Partia zawierająca zdania z wbudowanymi elementami została przetworzona wyłącznie na dwóch modelach typu flash, więc nie znamy wyników dla modelu flagowego. Adnotacje zostały wykonane przez dwa modele LLM innych dostawców, a ręczna kontrola wyrywkowa wciąż nie została przeprowadzona. Główny korpus obejmuje okres do około 2021 roku.

    Mój czytnik RSS nr 7 działa na tej samej zasadzie, bo podpowiada mi, co przeczytać w pierwszej kolejności, i ani razu nie powiedział mi, co jest prawdą.

    System „Confidence” sortuje kolejkę. Przypisanie przypisuje pracownik.

    Źródło | https://arxiv.org/abs/2610.20417


    Chcesz więcej? Subskrybuj The Dossier

    Co tydzień w skrzynce odbiorczej:

    📡 KANAŁ WYWIADOWCZY - 3-5 wyselekcjonowanych linków: [Badania] [Polityka] [Narzędzia] [Incydenty]
    💡 JEDNA RADA - Jedna praktyczna wskazówka dotycząca AI/cyberbezpieczeństwa, z której możesz skorzystać już dziś

  • W fabule powieści o sztucznej inteligencji widać, o co chodzi

    W fabule powieści o sztucznej inteligencji widać, o co chodzi

    Spis treści

    W marcu 2026 roku wydawnictwo Hachette wycofało z rynku powieść grozy zatytułowaną „Shy Girl” po tym, jak wskazano, że została ona w około 78% wygenerowana przez sztuczną inteligencję. Jak wynika z najnowszego artykułu poświęconego literaturze generowanej przez sztuczną inteligencję, była to pierwsza powieść wydana na rynku, której publikacja została wstrzymana w związku z zarzutami dotyczącymi wykorzystania sztucznej inteligencji.

    W tym samym artykule podano dane liczbowe dotyczące tego, jak wiele powieści opartych na sztucznej inteligencji jest już dostępnych na rynku. Prawie 20% z próby 14 000 powieści wydanych własnym sumptem na Amazonie zostało oznaczonych jako w znacznej mierze wygenerowane przez sztuczną inteligencję. Udział ten wzrósł o 41% w ujęciu rok do roku, a książki to tylko jeden z aspektów tego W sieci gromadzą się treści generowane przez sztuczną inteligencję.

    Czytelnicy kupują więc już książki napisane przez maszyny, ale wydane pod nazwiskami ludzi, a pytanie brzmi: jak ktokolwiek może to udowodnić?.

    Słowa łatwo zmienić

    Obecne narzędzia do wykrywania treści generowanych przez sztuczną inteligencję opierają się głównie na stylu – na takich elementach jak dobór słów czy słynny myślnik.

    Opowiadania science fiction z motywem sztucznej inteligencji

    Ten sygnał szybko zanika. Autorzy zwracają uwagę, że model GPT-5.4 porzucił nawyk stosowania myślnika, i powołują się na wcześniejsze badania, w których dostrojenie modelu w celu naśladowania ludzkiego stylu spowodowało spadek wskaźników wykrywalności sztucznej inteligencji w tekstach twórczych z 97% do 3%.

    Widzę to na własnym biurku, gdzie każdy numer “Dossier” przed wysłaniem przechodzi przez listę kontrolną błędów stylistycznych oraz jest sprawdzany przez zewnętrznego recenzenta zwanego „Slop Cop”. Wykrywają oni zakazane słowa, powtórzenia trzech słów w jednym zdaniu, podwójne dwukropki oraz zdania, które przechodzą w zdanie z końcówką „-ing”. Po poprawieniu tych błędów tekst zostaje zatwierdzony, co pokazuje mi jedynie, że słowa zostały oczyszczone. Kto je napisał, to już osobna kwestia.

    Co zamiast tego mierzy StoryScope

    Jenna Russell wraz z czterema współautorami stworzyła StoryScope, aby pójść o krok dalej i zbadać, w jaki sposób powstają opowiadania generowane przez sztuczną inteligencję. Zespół opracował Kod StoryScope na GitHubie.

    Pobrano 10 272 opowiadania autorstwa ludzi z serwisu Books3, a następnie za pomocą modelu Gemini 2.5 Flash przeprowadzono inżynierię odwrotną w celu odtworzenia podpowiedzi pisarskiej stojącej za każdym z nich. Podpowiedź ta została następnie przekazana pięciu aktualnym modelom, od Claude Sonnet 4.6 po Kimi K2.5. Każda z tych podpowiedzi zaowocowała sześcioma wersjami opowiadania. Pełny korpus zawiera 61 608 opowiadań, z których każde liczy około 5 000 słów.

    Następnie przestali skupiać się na samych słowach i wyodrębnili 304 cechy narracyjne w 10 wymiarach, takich jak sposób, w jaki przebiega oś czasu, oraz to, kto ma decydujący wpływ na zakończenie.

    Już same cechy narracyjne pozwoliły odróżnić ludzi od sztucznej inteligencji przy wskaźniku makro-F1 wynoszącym 93,21 TP3T.

    Cechy charakterystyczne powieści o sztucznej inteligencji

    Wyniki badań brzmią jak notatki zmęczonego redaktora.

    Narratorzy oparci na sztucznej inteligencji wymawiają temat 77%, podczas gdy w przypadku narratorów ludzkich jest to 52%. Wątek postaci pogrążonej w żałobie zazwyczaj kończy się stwierdzeniem narratora, w którym podsumowuje on wyciągniętą lekcję.

    79% opowieści stworzonych przez sztuczną inteligencję nie zawiera wątków pobocznych, podczas gdy w przypadku opowieści autorstwa ludzi liczba ta wynosi 57%. Zakończenia opowieści tworzonych przez sztuczną inteligencję w 47% przypadków opierają się na wewnętrznym zrozumieniu lub akceptacji, a w przypadku opowieści autorstwa ludzi – w 27%. Ludzie częściej tworzą bohaterów o ambiwalentnym nastawieniu moralnym (59% w porównaniu z 38%) i częściej pozostawiają zakończenia otwarte.

    Sztuczna inteligencja opisuje również emocje poprzez ciało, jako doznania fizyczne, w 81% opowiadań stworzonych przez sztuczną inteligencję i 38% opowiadań autorstwa ludzi. Zapach pojawia się w 82% opowiadań stworzonych przez sztuczną inteligencję, w porównaniu z 57% opowiadań autorstwa ludzi.

    Każdy model pozostawia również swój własny ślad w literaturze opartej na sztucznej inteligencji, a w przypadku Claude’a przejawia się to płaskim tempem akcji, ponieważ intensywność wydarzeń rośnie tam w mniejszym stopniu niż w jakimkolwiek innym źródle. Claude preferuje spokojne zakończenia zamiast zakończeń typu “lawina”. GPT wykorzystuje plotki i pogłoski jako element fabularny w 64% opowiadań. Gemini tworzy najbardziej uporządkowane zakończenia i najponurejsze scenerie – 88% opowiadań zostało oznaczonych jako ponure i przytłaczające. Kimi plasuje się w środku pod względem gatunkowym, nie wykazując żadnych charakterystycznych preferencji.

    Najważniejszym wynikiem jest to, co łączy wszystkie pięć modeli, lub – jak to ujęto w artykule – modele sztucznej inteligencji “zbiegły się w wspólnej przestrzeni narracyjnej”. Ludzka wersja opowieści była najrzadsza spośród sześciu (57,81 TP3T) w danym okresie, podczas gdy wynik losowy wyniósłby 16,71 TP3T.

    W czym większość ludzi popełnia błąd

    Najprostszym wnioskiem byłoby stwierdzenie, że nowy detektor przewyższa stare modele, jednak w przypadku surowego tekstu jest to nieprawda. Dopracowany model ModernBERT uzyskał wynik 99,91 TP3T na tym zbiorze danych, a TF-IDF z XGBoost – 99,71 TP3T. Na tych danych klasyfikatory oparte na stylu nadal wygrywają.

    Najważniejsza jest jednak trwałość wyników, przetestowana na 278 opowiadaniach Gemini przetworzonych za pomocą LAMP – narzędzia do przepisywania tekstu, które usuwa siedem kategorii artefaktów sztucznej inteligencji, takich jak frazesy i przesadnie kwiecisty styl. Po oczyszczeniu tekstu wynik wykrywania narracji nadal wynosił 93,91 TP3T, co stanowi spadek w stosunku do 95,51 TP3T.

    Zmiana słów to nic trudnego. Zmiana fabuły opowiadania o sztucznej inteligencji oznacza jednak przepisanie całej historii od podstaw.

    Artykuł ma też swoje ograniczenia, a największym z nich jest to, że wskazanie konkretnego modelu jest znacznie trudniejsze niż ogólne wykrycie sztucznej inteligencji – wynik dla sześciokierunkowej identyfikacji opartej wyłącznie na cechach narracyjnych wyniósł 68,41 TP3T. Nie znalazłem również testu, w którym modelowi nakazano by wprost napisać nieliniową, wieloznaczną fikcję pełną wątków pobocznych. Taki atak na system wykrywania fikcji generowanej przez sztuczną inteligencję jest oczywistym kolejnym krokiem.

    Dlaczego pracownik ochrony interesuje się literaturą piękną

    Fikcja związana ze sztuczną inteligencją wykracza poza zakres mojej specjalizacji. Czytam głównie raporty o zagrożeniach oraz popularne posty “osób z wewnątrz”, a pierwszą rzeczą, o którą pytam w każdym z nich, jest to, skąd pochodzą.

    Ta logika przenosi się z fantastyki poświęconej sztucznej inteligencji na wszelkie teksty mające na celu przekonanie odbiorców. Operacje wpływowe opierają się również na generowanych tekstach i nic nie stoi na przeszkodzie, by zastosować w nich takie samo “oczyszczanie” na poziomie słów. Struktura rodzi trudniejsze pytania, na przykład czy każdy tekst kończy się jasno sformułowaną morałem, czy też każdy „świadek” rozwiewa swoje wątpliwości już w ostatnim akapicie. Prawdziwe relacje zazwyczaj pozostawiają pewien bałagan.

    Aby zadawać te pytania, trzeba wyrobić sobie nawyk, a ten nawyk nic nie kosztuje.

    Warto więc traktować każdy wynik “78% AI” jako wskazówkę i sprawdzić wykres, zanim uwierzysz w podaną wartość procentową.

    Źródło | https://arxiv.org/abs/2604.03136


    Chcesz więcej? Subskrybuj The Dossier

    Co tydzień w skrzynce odbiorczej:

    📡 KANAŁ WYWIADOWCZY - 3-5 wyselekcjonowanych linków: [Badania] [Polityka] [Narzędzia] [Incydenty]
    💡 JEDNA RADA - Jedna praktyczna wskazówka dotycząca AI/cyberbezpieczeństwa, z której możesz skorzystać już dziś

  • Śmierć newsroomu: Jak sztuczna inteligencja w dziennikarstwie dusi wydawców

    Spis treści

    Rano uruchamiasz przeglądarkę, zupełnie nieświadomy cichego przejęcia kontroli nad AI w dziennikarstwie. Przeglądasz najświeższe wiadomości. Wybierasz jakiś intrygujący artykuł i go czytasz. Zakładasz, że za tym tekstem stoi żywa, prawdziwa osoba, która włożyła w niego mnóstwo wysiłku. Jesteś w całkowitym błędzie. Maszyny wdarły się do redakcji już kilka miesięcy temu. Treści, które konsumujesz przy porannej kawie, to syntetyczny szlam. Modele sztucznej inteligencji po cichu przejmują kontrolę nad informacją rynek. Wydawcy panikują. Desperacko próbują zamknąć swoje cyfrowe bramy. Nie udaje im się to.

    Diagnoza: Maszyny zjadające twórców

    Duże modele językowe zmieniły zasady gry. Nie tylko generują słowa. Pożerają dane i monopolizują ludzką uwagę. Boty szkoleniowe AI nieustannie przeszukują internet. Skrobią strony z wiadomościami w poszukiwaniu danych treningowych. Biorą wszystko bez pytania o zgodę. Koszt stworzenia zupełnie nowego artykułu spadł z $500 do zera z dnia na dzień.

    Wpływ finansowy sztucznej inteligencji w dziennikarstwie jest druzgocący dla rynków lokalnych. Rynek tonie. Stoimy w obliczu ogromnego zalewu “chłamu” informacyjnego. Oznacza to tanie, masowo produkowane śmieci podszywające się pod dziennikarstwo.

    Naukowcy zidentyfikowali ostatnio ponad 800 zautomatyzowanych stron internetowych produkujących fałszywe wiadomości lokalne. Algorytm pobiera trzy surowe fakty. Miesza je z pięcioma gniewnymi tweetami. W ciągu dwóch sekund wypluwa gotowy materiał o objętości 600 słów. Popyt konsumentów na autentyczne serwisy informacyjne gwałtownie spada. Firmy medialne tną swoje budżety i zwalniają prawdziwych reporterów. Zastępują ich zautomatyzowanymi skryptami. Pełzająca obecność sztucznej inteligencji w dziennikarstwie oznacza, że ludzcy redaktorzy są po prostu zastępowani przez kod sprawdzający inny kod.

    Dlaczego wszyscy się mylą

    Przeciętny czytelnik uważa, że obecny stan sztucznej inteligencji w dziennikarstwie to tylko gloryfikowana wyszukiwarka. Ludzie uważają, że technologia po prostu pomaga przepracowanym dziennikarzom, transkrybując dźwięk lub poprawiając literówki. To niebezpieczna iluzja. To nie jest pomocny asystent. Jest to bezwzględny zamiennik zaprojektowany w celu zmniejszenia kosztów korporacyjnych.

    Wydawcy cierpią na równie fatalne złudzenie dotyczące ery sztucznej inteligencji w dziennikarstwie. Wierzą, że prosta cyfrowa barykada uratuje ich imperia. Nakazują IT edytować robots.txt pliki konfiguracyjne do wyraźnego blokowania botów AI, takich jak GPTBot.

    Uważają, że w ten sposób bronią swojego modelu biznesowego. To jak próba zatrzymania pocisku kawałkiem tektury. Konsumenci już całkowicie zmienili swoje przyzwyczajenia. Nikt nie chce czytać dwutysięcznego artykułu ukrytego pod wyskakującymi reklamami wideo i banerami subskrypcji. Użytkownik woli poprosić chatbota o szybkie podsumowanie. Bot natychmiast udziela odpowiedzi. Zablokowanie dostępu do serwera na dłuższą metę nie naprawia absolutnie niczego.

    Wyobraź sobie zamykanie drzwi do pustego sklepu detalicznego, podczas gdy klienci kupują identyczny produkt z automatu na zewnątrz. Dokładnie to robią starsze firmy medialne. Zatrzymanie gromadzenia danych nie odwróci ludzkiej psychologii. Chcemy informacji natychmiast. Chcemy ich bez przeszkód.

    Fallout for You: Złota klatka

    Co zyskujesz dzięki tej szybkiej integracji sztucznej inteligencji w dziennikarstwie? Otrzymujesz ekstremalną wygodę na ulotną chwilę. Pytasz swojego asystenta głosowego o wyniki wyborów lub wyniki sportowe. Otrzymujesz bezbłędną odpowiedź bez klikania w żaden link. Trzeba jednak wziąć pod uwagę konsekwencje drugiego i trzeciego rzędu.

    ai w dziennikarstwie

    Kto odkryje surowe fakty, gdy zbankrutują redakcje śledcze? Sztuczna inteligencja nie może spotkać zdenerwowanego informatora w ciemnym garażu o północy. Maszyna nie spędzi sześciu miesięcy na przekopywaniu się przez miejskie rejestry podatkowe w celu zdemaskowania skorumpowanego burmistrza wyprowadzającego $100,000 z funduszy publicznych. Model językowy przetwarza tylko to, co ktoś inny już odkrył i opublikował.

    Ucierpi na tym nieuregulowana sztuczna inteligencja w dziennikarstwie. Wpadniesz w pułapkę, gdy wyschnie źródło oryginalnych raportów. Zostaniesz zamknięty w niekończącej się pętli przetworzonych opinii. Algorytmy będą szkolić się na tekstach generowanych przez inne algorytmy. Jakość informacji spadnie. Prawda utonie w morzu syntetycznych bzdur. Całkowicie utracisz dostęp do obiektywnej weryfikacji. Zostaniesz całkowicie zdany na siebie, by oddzielić fakty od halucynacji.

    Pod maską: jak działa napad

    Jak właściwie działa ta cyfrowa ekstrakcja? Giganci technologiczni wdrażają ogromne roje zautomatyzowanych skryptów. Nazywamy je robotami indeksującymi. Te niewielkie programy stale odwiedzają serwery wydawców, wysyłając tysiące żądań na sekundę. Czytają one podstawowy kod HTML. Wyodrębniają surowy tekst i całkowicie ignorują formatowanie. Następnie przesyłają te pakiety danych z powrotem do kolosalnych centrów danych wypełnionych procesorami graficznymi. Tekst staje się maleńkim ułamkiem sieci neuronowej o miliardach parametrów.

    Podstawowa funkcja sztucznej inteligencji w dziennikarstwie opiera się na tym agresywnym skrobaniu. Wydawcy walczą, korzystając z podstawowej administracji serwerem. Edytują zwykły plik tekstowy. Piszą polecenie, które zabrania wejścia określonym botom. Zamykają drzwi wejściowe. Sztuczna inteligencja po prostu idzie dalej i znajduje otwarte okno. Sama skala sztucznej inteligencji w gromadzeniu danych dziennikarskich uniemożliwia jej blokowanie. Czasami znajduje dokładnie te same informacje na drugim blogu agregującym. Czasami używa zarchiwizowanej wersji strony. Blokada na oficjalnej stronie gazety nie zmienia faktu, że treść wyciekła już wszędzie indziej. Skrypt zawsze znajduje obejście.

    Podsumowanie

    Algorytmy nie żądają świadczeń zdrowotnych. Nie proszą o podwyżki ani urlopy. Nigdy nie czują się zmęczone o trzeciej nad ranem. Firmy medialne znikną całkowicie, chyba że przestaną walczyć z nieuniknionymi zmianami technologicznymi. Zwycięstwo w wojnie ludzkiego raportowania przeciwko sztucznej inteligencji w dziennikarstwie wymaga nowej strategii.

    Muszą zacząć oferować coś, czego model matematyczny nie jest w stanie przewidzieć. Muszą dostarczać surowej ludzkiej empatii. Pozostaniesz konsumując śmieci generowane maszynowo. Wybieraj mądrze, gdzie poświęcasz swoją uwagę i pieniądze.

    Źródło:Wpływ LLM na konsumpcję i produkcję wiadomości online


    Chcesz więcej? Subskrybuj The Dossier

    Co tydzień w skrzynce odbiorczej:

    📡 KANAŁ WYWIADOWCZY - 3-5 wyselekcjonowanych linków: [Badania] [Polityka] [Narzędzia] [Incydenty]
    💡 JEDNA RADA - Jedna praktyczna wskazówka dotycząca AI/cyberbezpieczeństwa, z której możesz skorzystać już dziś