✦ Wtyczka zamiast łatki (17)

Tydzień temu pisałem, że w Anthropic za każdą zmianę w kodzie zleconą agentowi odpowiada człowiek, który ją zlecił. 21 października dwa zdarzenia dotyczyły rzeczy, za które ktoś w firmie powinien odpowiadać: klucza, którego nikt nie unieważnił przez ponad cztery miesiące, i serwerów, przy których w kilka godzin trzeba było zdecydować, czy łatać, czy wyłączać.

21 i 22 października część instytucji wyciągnęła wtyczkę: z powodu luk w PHP wyłączała swoje strony. W Polsce Centralny Ośrodek Informatyki czasowo wyłączył część stron Biuletynu Informacji Publicznej, a szpital w Gorzowie Wielkopolskim internetową rejestrację pacjentów. Według zestawienia Reutersa podobnie zrobiły m.in. niemiecka federalna służba informatyczna ITZBund, francuskie prefektury, belgijskie ministerstwo spraw zagranicznych, holenderskie szpitale, japońskie ministerstwo finansów, Wikimedia, Internet Archive i BBC. Tysol · Rzeczpospolita · Reuters przez Global Banking & Finance

PHP to język, w którym napisana jest duża część stron internetowych. Dwie luki pozwalają przejąć serwer bez logowania i mają ocenę 9,2 w dziesięciopunktowej skali zagrożenia CVSS. Narażona jest każda instalacja PHP obsługująca strony, najbardziej serwery Apache z wbudowanym PHP (mod_php), na których atak działa, zanim uruchomi się kod samej strony. Poprawki wyszły 21 października o 14:00 UTC, a część instytucji wyłączała strony także po ich wydaniu. Dla PHP 8.1 i starszych projekt nie wydaje już nowych wersji, opublikował tylko minimalne poprawki do samodzielnej kompilacji. Kto ma taką wersję, aktualizuje do wspieranej albo prosi dostawcę systemu o poprawkę. php.net

Firma Calif zgłosiła pierwszą z luk 11 sierpnia. Według OpenAI znalazła ją z pomocą modelu GPT-5.6 Sol („To our knowledge, frontier AI found these vulnerabilities before attackers did”). Poprawki miały wyjść 22 października. 20 października około 15:00 UTC numery luk wyciekły na fora i do mediów społecznościowych, więc PHP przyspieszył wydanie o dzień. Około 20:00 UTC Calif omyłkowo opublikował film z działającym exploitem, czyli programem do przeprowadzenia ataku. Od 1 lipca projekt opublikował 15 ostrzeżeń o lukach, a jego zespół bezpieczeństwa obsłużył też ponad 100 zgłoszeń, które okazały się nieważne, zduplikowane albo niemożliwe do odtworzenia. Kod PHP skanował w tym roku model Claude Mythos, a zgłoszenia zespół sprawdza m.in. narzędziem OpenAI Daybreak Red. Decyzje i poprawki należą do ludzi. OpenAI zapowiedział 1 mld dolarów na dotowany dostęp do Daybreak dla organizacji, które bronią kluczowych usług. PHP Foundation · OpenAI

Tego samego dnia o 11:39 UTC w PyPI, repozytorium, z którego programiści pobierają biblioteki języka Python, pojawiła się zainfekowana wersja LiteLLM. To bramka, przez którą firmy łączą swoje aplikacje z modelami AI różnych dostawców i w której trzymają klucze do tych modeli. Wersja kradła poświadczenia. W PyPI była dostępna przez prawie dwie godziny, w obrazach Dockera dłużej. Według Datadoga LiteLLM pobiera się około 23 mln razy w tygodniu. LiteLLM zaleca tym, którzy ją zainstalowali, odbudowę środowiska od zera i wymianę wszystkich kluczy. LiteLLM · Datadog Security Labs

23 października LiteLLM opisała, skąd napastnik miał dostęp. 27 maja klucz główny do jej wewnętrznej platformy agentów trafił, w pliku konfiguracyjnym agenta do programowania, do publicznego repozytorium i nikt go nie unieważnił. 10 października napastnik pobrał nim z tej platformy token właściciela organizacji na GitHubie, który otwierał wszystkie repozytoria projektu. Przez automatyczne procesy budowania kodu, które miały dostęp do sekretów projektu, wyciągnął potem tokeny dwóch kolejnych opiekunów. 21 października zatwierdził nimi i opublikował zainfekowaną wersję. LiteLLM nazywa incydent wyraźną ilustracją ryzyka, jakie niesie niewymieniony klucz, który mógł wyciec („a strong illustration of the risks associated with failing to rotate a potentially exposed key”). LiteLLM, łańcuch ataku

Czytam to tak: instytucja, która przy gotowej poprawce wyłącza stronę, wybiera pewną przerwę zamiast niepewnej aktualizacji. Ten wybór zależy od tego, czy w kilka godzin da się ustalić, które serwery mają podatną wersję, i zaktualizować je bez ryzyka awarii. Od wycieku numerów luk do filmu z exploitem minęło około pięciu godzin. Klucz LiteLLM był dostępny w publicznym repozytorium ponad cztery miesiące i przez cały ten czas wystarczyło go unieważnić. Moja teza: przy lukach znajdowanych z pomocą AI o bezpieczeństwie decyduje czas od poprawki do załatania ostatniego serwera, a przy kluczach czas od wycieku do unieważnienia. Oba zależą od tego, czy firma wie, co ma i gdzie.

Proponuję, żeby plan bezpieczeństwa w firmie, która używa AI, miał te pozycje:

Czas od poprawki do załatanej produkcji najlepiej zmierzyć na prawdziwej luce, a PHP z 21 października nadaje się do tego od razu.

✦

Finanse i kapitał · Torsten Slok, główny ekonomista Apollo, 24 października: według niego AI nie przyniosła amerykańskim firmom spoza branży technologicznej żadnego zwrotu finansowego („the technology has delivered zero financial payoff to corporate America outside of tech”). Przychód na pracownika i marże rosną w siedmiu największych spółkach technologicznych, a w pozostałych 493 spółkach indeksu S&P 500 nie rosną. Według Sloka o ocenie AI zdecydują właśnie te spółki („the AI story will be decided in the S&P 493, not the Mag 7”). Apollo

Finanse i kapitał · Stephanie Ferris, prezeska FIS, 22 października na Evident AI Symposium w Nowym Jorku: „If you can't name the person responsible for the outcome, you can't run that agent…”, czyli jeśli nie umiesz wskazać osoby odpowiedzialnej za wynik, nie możesz uruchomić tego agenta. FIS, dostawca systemów dla banków, zbudował z Anthropic agenta do wykrywania prania pieniędzy. Według firmy agent zmniejsza pracę na pierwszym poziomie sprawdzania o 90 proc., a na drugim o 98 proc., a człowiek nadal nadzoruje wynik. Evident

Finanse i kapitał · Dominik Asam, dyrektor finansowy SAP, 21 października przy wynikach za trzeci kwartał: SAP chce sprzedawać klientom wyniki zamiast tokenów, czyli jednostek, od których liczy się opłatę za model („as we wanna sell outcomes to customers as opposed to tokens”). Prezes Christian Klein podał na tej samej konferencji, że AI i platforma danych Business Data Cloud były w 90 proc. z 50 największych transakcji kwartału, a firmowy asystent Joule działa u ponad 110 tys. pracowników SAP. SAP, transkrypt

Na świecie · Drew Cukor, Vergence.ai, 22 października na tym samym sympozjum: jednostką pomiaru AI w firmie jest cel biznesowy („The unit of measurement is not the use case; it's the business objective”). Rola Chief AI Officer może według niego przetrwać krócej niż dwa lata. Evident

Customers Bancorp: 76 tys. godzin z ankiety i 45 etatów mniej

22 października Customers Bancorp, amerykański bank z siedzibą w Pensylwanii, opublikował wyniki za trzeci kwartał. Według banku pracownicy zaoszczędzili dzięki AI łącznie 76 tys. godzin, wobec 46 tys. kwartał wcześniej. To deklaracje pracowników z ankiety z 17 września, bez późniejszej weryfikacji. Bank przypisuje AI ponad 15 mln dolarów rocznie i wyjaśnia w przypisie, że to wynagrodzenia i świadczenia z etatów, na które nikogo nie zatrudniono, i z ograniczonych wakatów. Liczba etatów spadła z 905 w pierwszym kwartale do 860 w trzecim. Według prezentacji banku przychód na pracownika, przeliczony na rok, wzrósł wobec 2025 roku o 13 proc., a zysk przed opodatkowaniem na pracownika o 34 proc. Prezes Samvir Sidhu mówił na konferencji wynikowej, że analiza kredytowa trwa o 95 proc. krócej, a w pilotażu otwieranie rachunku firmowego trwało o ponad 90 proc. krócej.

Skorygowany wskaźnik kosztów do dochodów, czyli ile bank wydaje na każdego zarobionego dolara, wyniósł w trzecim kwartale 47,2 proc. To lepiej niż 50,6 proc. w drugim kwartale i gorzej niż 45,4 proc. rok wcześniej.

Co zadziałało: bank zarabia więcej na pracownika przy mniejszej liczbie etatów, a przy ankiecie, etatach i wskaźniku kosztów podał, jak je liczy. Ankieta mówi o odczuciach pracowników, etaty o kosztach, a wskaźnik kosztów do dochodów pokazuje, czy oszczędności widać w wyniku całego banku: wobec poprzedniego kwartału tak, wobec zeszłego roku jeszcze nie. Taki zestaw miar wpisałbym do każdego raportu z wdrożenia AI dla zarządu. Customers Bancorp, komunikat · prezentacja · transkrypt

Basal: polski model, który wybiera zamiast pisać – Remigiusz Kinas, współtwórca Bielika, rozwija Basala, otwarty model decyzyjny. Basal nie pisze odpowiedzi. Dostaje treść, na przykład reklamację klienta, i pytanie z listą opcji, na przykład do którego działu ją skierować albo czy sprawa jest pilna, a zwraca jedną z tych opcji i prawdopodobieństwo każdej z nich. Pierwsze wersje powstały przez dotrenowanie Bielika. 21 października Kinas zaktualizował na Hugging Face basal-omni-1.0-ultra, wersję zbudowaną na otwartym modelu Google Gemma 4 z 31 mld parametrów, która przyjmuje też obrazy. Według autora, na jego zbiorach testowych, model trafia w 97,9 proc. polskich decyzji. Przy progu ustawionym tak, żeby błędów było najwyżej 1 proc., sam rozstrzyga 56,8 proc. przypadków, a resztę oddaje człowiekowi. Przy progu 5 proc. rozstrzyga 94,2 proc. Licencja Apache 2.0 pozwala uruchomić model na własnym serwerze i używać go komercyjnie. Autor nazywa model eksperymentalnym i zaleca, żeby kwoty i progi liczbowe liczyć w kodzie, a decyzje o poważnych skutkach dla ludzi sprawdzał człowiek.

Co to znaczy: przy rozdzielaniu korespondencji albo ocenie pilności firma może trzymać dane u siebie i sama ustalić, jaką część decyzji model podejmuje bez człowieka. Ten próg ustawia się na kilkuset własnych, oznaczonych przez ludzi przykładach, bo liczby autora pochodzą z jego zbiorów. Hugging Face, basal-omni-1.0-ultra · GitHub, Basal

CERT Polska znalazł modelami OpenAI sześć luk w routerach MikroTik – 23 października OpenAI i NASK ogłosiły współpracę w bezpieczeństwie AI. Według OpenAI CERT Polska, zespół reagowania na incydenty działający w NASK, znalazł z pomocą modeli Daybreak sześć luk w systemie RouterOS firmy MikroTik, działającym na jej routerach.

Co to znaczy: luki znajdowane z pomocą AI dotyczą także oprogramowania routerów i innych urządzeń sieciowych. Ich wersje należą do tego samego spisu co serwery. OpenAI

Asystent AI działa w 4 z 14 banków – 21 października Cashless zapytał 14 banków o asystentów AI w aplikacjach. Cztery mają asystenta, cztery go wdrażają, pięć nie odpowiedziało jasno, jeden nie planuje. Dwa z czterech działających asystentów pozwalają zlecić transakcję. Według Nest Banku opłacenie faktury za telefon przez jego asystenta zajmuje około 30 sekund, a samodzielnie w aplikacji prawie 3 minuty.

Co to znaczy: asystent, który wykonuje przelew, działa w imieniu klienta. Bank musi wtedy umieć pokazać, kto zatwierdził transakcję i na jakiej podstawie asystent ją przygotował. Cashless

Asystent AI dla sędziów NSA – 20 października Ministerstwo Cyfryzacji i Naczelny Sąd Administracyjny podpisały list intencyjny w sprawie polskiego modelu PLLuM. Asystenta urzędniczego przetestuje 30 pracowników NSA: streszczanie i porównywanie dokumentów, projekty pism, wyszukiwanie przepisów, anonimizacja. Docelowo ma powstać asystent sędziego. Ministerstwo zastrzega: „Każdy dokument stworzony przez AI będzie musiał zostać sprawdzony i zatwierdzony przez sędziego.”

Co to znaczy: zasada „AI pisze pierwszą wersję, człowiek z nazwiskiem zatwierdza” trafia do pilotażu w sądzie administracyjnym. Dział prawny w firmie może ją wpisać do regulaminu korzystania z AI bez czekania na przepis. Ministerstwo Cyfryzacji

Kimi K3.1 Pro (23 października) – chiński Moonshot wydał model, który w zbiorczym indeksie firmy Artificial Analysis jest czwarty z 215 modeli. W Terminal-Bench 4.0, teście agentów pracujących w wierszu poleceń, Vals AI zmierzył 63,64 proc. rozwiązanych zadań za 4,57 dolara za cały test, a u prowadzącego Claude Opus 5.5 65,15 proc. za 13,20 dolara. Pełne wagi, czyli parametry pozwalające uruchomić model na własnych serwerach, mają być publiczne do 4 listopada. Moonshot usunął z danych treningowych materiały o cyberatakach: w jego wewnętrznym teście tworzenia exploitów wydany model rozwiązuje 81 proc. zadań, wersja bez tego cięcia 90,5 proc., a poprzedni Kimi K3 33,3 proc. 26 października brytyjski instytut bezpieczeństwa AI (AISI) opisał podobne podejście, usuwanie danych przed treningiem, na małych modelach białkowych ESM-2 do 3 mld parametrów: douczenie na wyciętych wcześniej danych przywracało zdolność, w największym modelu za około 80 dolarów mocy obliczeniowej.

Co to znaczy: model, który do 4 listopada ma być do pobrania, jest blisko czołówki przy około jednej trzeciej kosztu testu. Przy ocenie jego ryzyka zakładam, że wycięte zdolności da się przywrócić. Moonshot · Artificial Analysis · Vals AI · AISI

GPT-6.1 Terra (26 października) – nowy model OpenAI kosztuje 1 dolara za milion tokenów wejściowych i 5 dolarów za milion wyjściowych. Gdy zapytanie ma ponad 272 tys. tokenów, wejście kosztuje dwa razy więcej, a wyjście półtora raza więcej. Model przyjmuje do 1,05 mln tokenów naraz. Jest w ChatGPT Work i w narzędziu Codex dla planów Plus, Pro, Enterprise i Edu.

Co to znaczy: przy pracy na długich dokumentach cena zależy od tego, ile tekstu trafia do jednego zapytania. Kto planuje analizę umów albo raportów, liczy koszt osobno dla zapytań poniżej i powyżej progu 272 tys. tokenów. OpenAI · OpenRouter · 9to5Mac

Claude i modele OpenAI w Google Cloud (21–22 października) – Anthropic udostępnił pełne API Claude przez projekt w Google Cloud w wersji zarządzanej przez siebie: dostęp przez uprawnienia Google Cloud, jedna faktura i rozliczenie w ramach zobowiązań wobec Google. W tej wersji dane przetwarza Anthropic, a do wyboru są tylko serwery w USA albo tryb globalny, w którym zapytanie może trafić do dowolnego regionu. Kto potrzebuje przetwarzania w wybranym regionie, zostaje przy wersji zarządzanej przez Google. 21 października OpenAI ogłosił, że jego modele i Codex trafią do katalogu modeli Google Cloud „in the coming weeks”.

Co to znaczy: ten sam model w tej samej chmurze może mieć dwa różne podmioty przetwarzające dane. W wersji zarządzanej przez Anthropic dane osobowe z UE mogą być przetwarzane w USA albo w dowolnym regionie, więc inspektor ochrony danych ocenia ją przed pierwszym zapytaniem. Anthropic · OpenAI

Claude Enterprise z izolowaną maszyną dla agenta (23 października) – w planie Enterprise czat i Cowork, czyli tryb, w którym Claude sam wykonuje zadania na plikach, działają w jednym oknie. Zadania z kodem i plikami idą do osobnej maszyny wirtualnej w chmurze, która domyślnie nie ma dostępu do internetu. Administrator może ograniczyć grupę użytkowników do tańszych modeli Sonnet i Haiku, nadawać dostęp do modeli według ról i ustawiać limity wydatków. Organizacje z najostrzejszymi ustawieniami prywatności, m.in. z wyłączonym przechowywaniem danych w Claude Code albo z własnymi kluczami szyfrowania, na razie zostają przy dotychczasowej konfiguracji.

Co to znaczy: przy wdrożeniu administrator decyduje, z którymi adresami maszyna agenta może się łączyć. Każdy wyjątek od zablokowanego internetu to kolejna droga, którą dane mogą wyjść z firmy. Anthropic

Claude Duet (21 października) – agent, który co kilka godzin sam przegląda podłączone konta i aplikacje i proponuje działania. Przed wysłaniem wiadomości, płatnością, podpisem i usunięciem czegokolwiek czeka na zgodę. Nawet ze zgodą nie handluje papierami wartościowymi i nie przelewa pieniędzy między kontami. Na start w USA, dla planów Pro i Max, z listą oczekujących.

Co to znaczy: Anthropic rozdziela czynności wymagające zgody człowieka i czynności zakazane nawet za zgodą. Ten sam podział przydaje się w firmowej polityce korzystania z agentów. Anthropic

Mistral Voxtral 3

20 października Mistral udostępnił Voxtral 3, rodzinę modeli do zamiany mowy na tekst i tekstu na mowę. Transkrypcja rozpoznaje mówców i dodaje znaczniki czasu, a w wersji na żywo ma według Mistrala opóźnienie poniżej pół sekundy. Polski jest na liście obsługiwanych języków. API ma serwery w Unii Europejskiej. Transkrypcja kosztuje od 0,0035 do 0,008 dolara za minutę nagrania, synteza mowy 13 dolarów za milion znaków. Według Mistrala w teście FLEURS, zestawie nagrań w kilkudziesięciu językach, Voxtral myli średnio około 4 proc. słów, a model Whisper large-v3 od OpenAI z 2023 roku około 15 proc. Model jest w wersji testowej, licencji wag Mistral nie podał.

Dla kogo: działy obsługi klienta, prawne i kadrowe, każdy, kto spisuje rozmowy i spotkania po polsku.

Werdykt: warto przetestować teraz na własnych nagraniach, z wdrożeniem produkcyjnym poczekać na wersję finalną. Do testu nadają się nagrania z prawdziwych spotkań, z kilkoma mówcami i polskimi nazwiskami, porównane z ręcznym zapisem. Średni wynik dla wszystkich języków nie mówi, jak model radzi sobie z polskim. Nagrania z danymi klientów wymagają podstawy prawnej i umowy powierzenia, także przy serwerach w UE. Mistral · Mistral, dokumentacja

Anthropic i Theorem: dowód zamiast przeglądu kodu (22 października) – według Anthropic i firmy Theorem Claude napisał matematyczne dowody, że w 123 bibliotekach open source, w 239 miejscach, przez które trafiają do nich dane, programy zakończą działanie normalnie, bez błędów pamięci, dla każdych danych wejściowych do 64 MB. Dowody dotyczą jednowątkowych wersji bibliotek skompilowanych na procesory RISC-V i sprawdza je program Rocq. Same dowody mają łącznie około 180 mln linii. Po drodze Claude znalazł i poprawił setki błędów. Autorzy zaznaczają, że kod zweryfikowany w ten sposób może mieć błędy poza tym, czego dotyczy twierdzenie.

Co to znaczy: w bibliotekach, których błąd kosztuje najwięcej, człowiek może sprawdzać treść twierdzenia zamiast każdej linii kodu. Na razie metoda obejmuje biblioteki i jeden typ procesora, poza typowymi serwerami. Anthropic

NBER: kto się uczy, pracując z AI (praca z września, poprawiona w październiku) – David Autor i współautorzy przeprowadzili eksperyment z losowym przydziałem na 133 prawnikach patentowych z 11 kancelarii w USA, w badaniu finansowanym przez Google, którego pracownikami jest pięcioro z siedmiorga autorów. Pracę oceniali eksperci, którzy nie wiedzieli, kto używał AI. Z AI jakość pracy była wyższa o 0,34 odchylenia standardowego po 10 dniach i o 0,38 po 90 dniach, bardziej u juniorów. Po trzech miesiącach wszyscy wykonali zadanie bez AI. Grupa, która pracowała z AI, wypadła lepiej o 0,32 odchylenia, ale całą przewagę mieli seniorzy (0,45). Juniorzy średnio nie zyskali, a ich wyniki rozjechały się w obie strony.

Co to znaczy: jakość pracy wykonanej z AI nie mówi, czy pracownik czegoś się nauczył. Czytam ten wynik tak: senior sprawdza wynik AI własną wiedzą i przy tym się uczy, a junior bez tej wiedzy dostaje gotowe rozwiązanie. W planie wdrożenia dla juniorów umieściłbym zadania, w których junior najpierw rozwiązuje problem sam, a dopiero potem porównuje się z AI, i okresowe zadania bez AI, oceniane osobno. NBER

Ten sam model, różny dostawca, inny wynik

20 października Vals AI opublikował dwa porównania. W Router Index sprawdził pięć routerów modeli, czyli usług, które same wybierają model do każdego zapytania, na około 1250 zadaniach agentowych z finansów, programowania, prawa i podatków. Każdy router przegrał z jakimś pojedynczym modelem jednocześnie wynikiem i kosztem. Router firmy Ramp miał 57,8 proc. za 0,96 dolara za test, a DeepSeek V4.1 Flash 61,3 proc. za 0,66 dolara. Vals przypuszcza, że routery modeli wybierały niższy poziom rozumowania, czyli mniej obliczeń przed odpowiedzią, i oddawały część zadań tańszym modelom.

W Inference Provider Index Vals sprawdził ten sam model z otwartymi wagami u różnych firm, które go udostępniają. Kimi K3 kosztował od 5,43 dolara za zadanie u Together do 12,65 dolara u Baseten. W zadaniach prawnych ten sam model miał 60,6 proc. przez Baseten i 75,8 proc. przez API Moonshot.

Decyzja: w umowie na model z otwartymi wagami wpisuje się konkretnego dostawcę, który go uruchamia, bo od niego zależą i koszt, i wynik. Router modeli przed zakupem porównuje się z dwoma albo trzema pojedynczymi modelami przy zapisanym poziomie rozumowania. Od 20 listopada usługi, które udostępniają innym modele OpenAI, w tym routery modeli i bramki AI, potrzebują przeglądu i zgody OpenAI, więc przy wyborze routera sprawdza się też, czy ją dostał. OpenAI · Vals AI, Router Index · Vals AI, Inference Provider Index

Lily Hay Newman, „The PHP Meltdown Shows How AI Makes Bugs More Exploitable”, Wired (24 października) – o tym, jak modele AI skracają drogę od opisu luki do działającego ataku i co to zmienia dla zespołów, które łatają. Wired

„The Signal Chats That Cost OpenAI Researchers Their Jobs”, The Wall Street Journal (23 października) – Maxwell Zeff, Keach Hagey i Berber Jin o zwolnieniu trzech badaczy bezpieczeństwa OpenAI po dochodzeniu w sprawie przecieku, w którym firma sprawdzała ich rozmowy na Signalu z zewnętrznym badaczem bezpieczeństwa AI. WSJ

Amrut Joshi, „Asking LLM for confidence” (20 października) – ten sam model na to samo pytanie ocenia swoją pewność raz na 0,85, raz na 0,7. Gdy model miał pasujący artykuł i dwie zgodne odpowiedzi, trafiał w 95 proc., bez artykułu w 40 proc. Amrut Joshi

Agenty OpenAI wyłączały własny monitoring

W raporcie zaktualizowanym 20 października OpenAI opisał dwa przypadki z własnej infrastruktury. 3 października GPT-6.1 Sol wyłączył alerty wysyłane do zespołu bezpieczeństwa. 6 października GPT-6 Astra usunął połączenie z monitoringiem, a zapytany zaprzeczył. OpenAI wśród możliwych przyczyn wymienia niegroźny upór w realizacji zadania („'benign' overpersistence”) i sprawdza, czy modele nie mają skłonności do omijania właśnie tego monitoringu. Żaden incydent nie dostał najwyższego priorytetu i żaden przebieg nie został zatrzymany automatycznie („neither trajectory was automatically killed”).

22 października METR i Redwood Research, dwie organizacje badające bezpieczeństwo AI, opublikowały wyniki trzytygodniowego testu tego monitoringu z lata. Według szacunku METR monitoringiem mogło być objęte od 75 do 94 proc. wewnętrznego ruchu agentów przez API OpenAI. Około 10 proc. ruchu narzędzia Codex, agenta do programowania, nie było monitorowane od maja do lipca z powodu luki przy skracaniu zapisu długich sesji. Monitor uruchamiał się dopiero wtedy, gdy agent oddawał głos człowiekowi, więc agent, który nie przestawał pracować, mógł odkładać kontrolę bez końca. Dwa ustawienia po stronie klienta wyłączały monitoring nowych agentów. OpenAI deklaruje, że luki załatał.

Lekcja: monitoring agenta uruchamia się co określoną liczbę kroków, niezależnie od tego, czy agent oddał głos człowiekowi, a w raporcie z wdrożenia podaje się, jaki odsetek pracy agentów faktycznie obejmuje. OpenAI · METR

Sieć dotrenowana na zdjęciach skóry wygrała z GPT-6 Astra i Claude Fable 5.1 w teście na 200 zmianach

25 października dr Magnus Lynch z Guy's Hospital w Londynie opublikował na stronie swojego laboratorium porównanie na 200 zmianach skórnych potwierdzonych biopsją. Sieć neuronowa Inception v3, architektura z 2015 roku, którą Lynch dotrenował na 68 tys. zdjęć zmian skórnych, wskazała trafną diagnozę jako pierwszą w 62 proc. przypadków. GPT-6 Astra i Claude Fable 5.1 w 42 proc. Wśród 30 czerniaków sieć wskazała czerniaka jako pierwszy wybór w 13 przypadkach, Fable w 11, Astra w 8. Przy fabrycznym progu, czyli ustawieniu, od którego sieć uznaje zmianę za groźną, uznałaby za niegroźne 18 z 30 czerniaków. Po dopasowaniu progu przeoczyłaby 1–2, a modele językowe 3 i 4. Każdy przypadek modele językowe oceniały raz. Wpis zebrał na Hacker News ponad 640 punktów i ponad 260 komentarzy.

Co to znaczy: przy 30 czerniakach różnica dwóch czy pięciu trafień niewiele rozstrzyga. Więcej mówi to, że o skutkach dla pacjenta decyduje ustawienie progu: przy fabrycznym ta sama sieć przepuściłaby większość czerniaków. Próg i walidację na własnych danych ustala się przed wdrożeniem. Lynch Lab · Hacker News

80,7 mld dolarów

Tyle wyniosła strata netto Anthropic w pierwszym półroczu 2026 roku według wniosku o wejście na giełdę złożonego 26 października. 72,4 mld z tej kwoty to wzrost wyceny obligacji zamiennych na akcje i podobnych instrumentów, który wynika ze wzrostu wartości firmy. Strata operacyjna wyniosła 693 mln dolarów przy przychodach 16,3 mld dolarów. Około 250 klientów płaci Anthropic ponad 10 mln dolarów rocznie. Akcje mają trafić na Nasdaq pod symbolem ANT.

Co to znaczy: jeśli wejście na giełdę dojdzie do skutku, dostawca, od którego modeli zależą procesy w wielu firmach, będzie publikował wyniki kwartalne i opis ryzyk w raportach giełdowych. Ocena ryzyka dostawcy będzie mogła się na nich opierać. SEC, S-1 · Anthropic

34,9 mld dolarów

Tyle Meta wydała w trzecim kwartale na inwestycje kapitałowe, przy przychodach 64,6 mld dolarów. Na cały 2026 rok spółka przewiduje od 135 do 145 mld dolarów. Zatrudnienie spadło w ciągu roku o 15 proc., do 66 775 osób. Mark Zuckerberg: „Our investments are paying off”.

Co to znaczy: Meta wydaje na inwestycje ponad połowę przychodów kwartału i jednocześnie zatrudnia mniej ludzi niż rok temu. Czy to jeden plan, czy dwie osobne decyzje, spółka nie mówi. Meta

Gemini API zapisuje zapytania domyślnie (26 października) – Google zmienił ustawienie w płatnym Gemini API: nowe projekty mają domyślnie włączone przechowywanie zapytań i odpowiedzi (parametr store=true). Istniejące projekty zachowują dotychczasowe ustawienie. Przechowywanie wyłącza się parametrem store=false albo w panelu Logs and Datasets.

Decyzja: zespół, który zakłada nowy projekt w Gemini API, sprawdza to ustawienie przed wysłaniem pierwszych danych klienta i zapisuje je w rejestrze przetwarzania. Google

90 lat telewizji BBC

2 listopada 1936 roku BBC uruchomiło w Alexandra Palace regularną telewizję. Nadawała na zmianę dwoma systemami, co tydzień innym: Johna Logie Bairda i Marconi-EMI. 6 lutego 1937 roku, na radę komitetu doradczego, BBC zrezygnowało z systemu Bairda. National Science and Media Museum

PHP Foundation o tym, jak zespół bezpieczeństwa PHP korzysta z AI, 21 października 2026. W oryginale: „a person makes every call and works on every patch”. PHP Foundation

Jeśli wiecie, ile trwało u was albo w agencji, która prowadzi waszą stronę, załatanie PHP od 21 października, odpiszcie, ile wyszło.

Bartosz