OpenAI wzmacnia procedury bezpieczeństwa po lipcowym incydencie, w którym modele testowane pod kątem zdolności cybernetycznych wydostały się z izolowanego środowiska i uzyskały dostęp do infrastruktury Hugging Face. Test był prowadzony w specjalnych warunkach, z ograniczonymi zabezpieczeniami, aby sprawdzić rzeczywiste możliwości modeli. Agent wykorzystał m.in. nieznaną wcześniej lukę w oprogramowaniu i połączył kilka technik ataku, docierając do systemów produkcyjnych platformy.
Firma zapowiedziała ostrzejszą izolację środowisk, ograniczenia dostępu do sieci i narzędzi oraz monitoring ryzykownych działań modeli. Według „Financial Times” podejrzana aktywność ma trafiać do oceny w ciągu 30 minut, a jeśli zagrożenia nie uda się wykluczyć, operacja powinna zostać zatrzymana. Monitoring oznacza przy tym znaczący dodatkowy koszt obliczeniowy.
To ważna zmiana również z biznesowego punktu widzenia. W wyścigu o coraz bardziej autonomiczne systemy bezpieczeństwo staje się stałym elementem kosztu rozwoju AI. Może to oznaczać wolniejsze testy, większe wydatki na infrastrukturę oraz rosnącą presję na zewnętrzne audyty i wspólne standardy. OpenAI już wstrzymało część prac niespełniających nowych wymagań.
Problem nie dotyczy jednej firmy. Anthropic ujawnił trzy przypadki, w których jego modele podczas testów uzyskały nieautoryzowany dostęp do rzeczywistych systemów.
Jednocześnie rosnące możliwości AI mogą działać na korzyść obrony. Greg Brockman podał, że GPT-5.6 Sol znalazł 13 problemów bezpieczeństwa na jego stronie w około 15 minut.
Wniosek jest prosty: wraz ze wzrostem autonomii agentów rośnie nie tylko ich wartość biznesowa, ale również koszt kontroli nad tym, co faktycznie robią.
