Wyobraź sobie, że prowadzisz bolid Formuły 1. Przekraczasz kolejne granice prędkości, mechanicy na zakrętach łapią się za głowy, a Ty właśnie zyskałeś przewagę nad największym rywalem. W tym samym momencie jednak puszczasz kierownicę, otwierasz okno i przez megafon krzyczysz do sędziów oraz publiczności: „Zatrzymajcie ten wyścig, bo zaraz wszyscy zginiemy!”.

Dokładnie tak wygląda dzisiejsza postawa firmy Anthropic. Jeden z najważniejszych graczy na rynku sztucznej inteligencji, twórca modeli z rodziny Claude, opublikował niedawno na swoim blogu manifest, który w świecie technologii wywołał potężny rezonans. Firma wzywa do tymczasowego opóźnienia, a nawet całkowitego wstrzymania rozwoju najbardziej zaawansowanych systemów AI. Powód? Technologia zaczęła ewoluować szybciej, niż społeczeństwo i struktury regulacyjne są w stanie to przetrawić.

Nie mamy tu jednak do czynienia z głosem zewnętrznych sceptyków czy filozofów. To alarm podniesiony przez ludzi, którzy te maszyny budują. I to właśnie sprawia, że ten komunikat jest tak uderzający.

Kontrolowana hipokryzja czy spóźniona odpowiedzialność?

Z perspektywy obserwatora rynku biznesowego, apel Anthropic niesie ze sobą ogromną dawkę ironii. Firma znajduje się przecież w permanentnym klinczu z OpenAI i Google. To klasyczny wyścig zbrojeń, w którym kapitał i uwaga inwestorów płyną tylko do tych, którzy dostarczają modele „szybsze, większe i mądrzejsze”.

Co więcej, Anthropic nie zwalnia tempa. Niedawno na rynek trafił model Claude Mythos, który wywołał poruszenie na najwyższych szczeblach władzy. System ten okazał się tak skuteczny w autonomicznym wykrywaniu luk w zabezpieczeniach teleinformatycznych, że do akcji musiał wkroczyć rząd USA, bezpośrednio ingerując w politykę dostępu do tej technologii. Kiedy kod staje się potencjalną cyberbronią, żarty się kończą.

Współzałożyciel Anthropic, Jack Clark, oraz Marina Favaro, główna badaczka w The Anthropic Institute, piszą wprost:

„Sposób, w jak zabezpieczamy, monitorujemy i zarządzamy systemami sztucznej inteligencji, staje się coraz ważniejszy”.

To częściowe mea culpa za tempo, które sami narzucili. W ciągu zaledwie pięciu lat branża przeszła drogę od prostych generatorów tekstu do autonomicznych agentów piszących oprogramowanie. Pytanie brzmi: czy to nagłe uderzenie w tony alarmistyczne to czysta odpowiedzialność, czy może próba zyskania na czasie w momencie, gdy konkurencja depcze im po piętach?

Fabryka bez ludzi: Osiem razy więcej kodu, zero programistów

Najsilniejszym punktem manifestu Anthropic nie są jednak ogólne ostrzeżenia, ale twarde dane pochodzące z ich własnego podwórka. Firma uchyliła rąbka tajemnicy i pokazała, jak wygląda codzienna praca nad rozwojem sztucznej inteligencji. Wnioski są otrzeźwiające.

• 80% wewnętrznego kodu w Anthropic w ostatnim miesiącu zostało napisane przez system Claude Code.
• Inżynierowie firmy przyznają na blogu, że od miesięcy nie pisali kodu samodzielnie – stali się jedynie kuratorami i recenzentami pracy wykonywanej przez maszynę.
• Wydajność mierzona liczbą linii kodu przypadających na jednego pracownika wzrosła od początku roku ośmiokrotnie (8x).

Dla każdego managera i dyrektora technologicznego (CTO) te liczby to finansowy święty Graal. Oznaczają one gigantyczny skok produktywności przy radykalnym cięciu kosztów operacyjnych i czasu potrzebnego na wdrożenie nowych funkcji.

Jednak ten kij ma dwa końce. Skoro twórcy AI optymalizują swój własny produkt za pomocą tego samego produktu, pętla rozwoju zaczyna się niebezpiecznie zacieśniać. Praca programisty przestaje polegać na tworzeniu architektury, a zaczyna przypominać wyłącznie nadzór nad taśmą produkcyjną, która porusza się coraz szybciej.

Od asystenta do architekta: Nadchodzi faza samodoskonalenia

Podczas targów Computex na Tajwanie jednym z najgłośniejszych tematów była ewolucja AI z poziomu „asystentów” do poziomu „autonomicznych agentów”. To fundamentalna zmiana paradygmatu. Dzisiejsze systemy nie czekają już biernie na pojedynczy prompt od człowieka. Potrafią same definiować zadania, dzielić je na podprojekty, a nawet kontrolować i poprawiać nawzajem swoją pracę.

Kolejny krok na tej drabinie ewolucyjnej jest tym, co najbardziej przeraża liderów Anthropic. Chodzi o moment, w którym systemy sztucznej inteligencji będą w stanie samodzielnie rozwijać i ulepszać swoje własne podsystemy i architektury bazowe (określane mianem „sinsektorów”).

Jeszcze pół roku temu kod generowany przez sztuczną inteligencję wymagał głębokiej korekty ze strony doświadczonych programistów (senior developerów). Ta różnica jakościowa znika jednak w oczach. Anthropic szacuje, że jeszcze w tym roku autonomiczni agenci będą pisać kod lepiej, czystej i bezpieczniej niż jakikolwiek człowiek.

I tu pojawia się pułapka logiczna. Jeśli dojdziemy do punktu, w którym modele AI będą jedynymi instancjami zdolnymi do oceny i doskonalenia kodu nowej generacji modeli, człowiek zostanie całkowicie wypchnięty z tego procesu. Nie będziemy w stanie kontrolować poprawek, ponieważ nie będziemy ich rozumieć. Wtedy, jak ostrzega Jack Clark, „ludzie na pewno stracą stery”.

Geopolityczny i biznesowy pat

Czy apel Anthropic o wstrzymanie prac ma jakiekolwiek szanse na realizację? Krótka odpowiedź brzmi: nie. W obecnych realiach rynkowych i geopolitycznych jest to propozycja całkowicie utopijna.

Żyjemy w rzeczywistości, w której technologia AI stała się ekwiwalentem energii atomowej w czasie Zimnej Wojny. Gdyby Anthropic jednostronnie zwolnił tempo, ich miejsce w ciągu kilku tygodni zajęłoby OpenAI, Google, Meta lub dynamicznie rozwijające się laboratoria z Chin. W grze są zbyt wielkie pieniądze. Fundusze Venture Capital wpompowały w sektor generatywnej sztucznej inteligencji setki miliardów dolarów i oczekują twardych zwrotów z inwestycji, a nie filozoficznych traktatów o bezpieczeństwie.

Z drugiej strony mamy regulatorów. Fakt, że amerykańskie agencje rządowe zaczęły kontrolować dostęp do modelu Claude Mythos, pokazuje, że politycy zaczynają dostrzegać zagrożenie. Państwa nie obaczą jednak problemu w „utracie kontroli przez ludzkość”, ale w ryzyku, że kontrolę przejmie wrogi obóz geopolityczny. To z kolei napędza presję na jeszcze szybszy rozwój, byle tylko być pierwszym.

Realne widmo instytucjonalnej bezwładności

Manifest Anthropic należy czytać nie jako zapowiedź buntu maszyn w stylu hollywoodzkich filmów science-fiction, ale jako trzeźwą diagnozę instytucjonalnej bezradności. Prawdziwym problemem nie jest to, że AI zyska świadomość i obróci się przeciwko nam. Zagrożeniem jest nasza własna, ludzka bezwładność organizacyjna.

Tworzymy systemy, które optymalizują się w tempie wykładniczym, podczas gdy nasze prawo, systemy edukacji, rynki pracy i procedury bezpieczeństwa rozwijają się w tempie liniowym. Przepaść między tymi dwoma światami rośnie z każdym dniem.

Przejście na poziom, w którym 80% technologii powstaje bez udziału ludzkich rąk, to biznesowy majstersztyk, ale też potężny test dla stabilności rynku. Jeśli Dolina Krzemowa i globalni decydenci nie znajdą sposobu na wypracowanie wspólnych, twardych ram nadzoru nad autonomicznym kodem, czeka nas twarde lądowanie. I to w świecie, w którym człowiek – z pozycji dumnego stwórcy – bardzo szybko może spaść do roli biernego i nieco zdezorientowanego pasażera.