Pitch IPO Anthropic ma nowy problem: rząd może go zamknąć

Anthropic złożyło poufny wniosek o wejście na giełdę już tej jesieni, przekonując inwestorów do jednej tezy: że przewodzi rynkowi korporacyjnej sztucznej inteligencji i zamierza za jej pomocą zmienić świat. 

Jednak firma ma problem, który nie chce zniknąć: rząd USA stał się jej jawnym przeciwnikiem. Dla spółki wchodzącej na giełdę z wyceną bliską 1 biliona dolarów, fakt dwukrotnego wpisania na czarną listę przez rząd federalny zmusza inwestorów do zastanowienia się, czy ta gigantyczna wycena w pełni uwzględnia ryzyko, że rząd jest gotowy wyłączyć jej flagowy produkt z dnia na dzień. 

Po szokującym ogłoszeniu w piątek, że Anthropic wycofa ze sprzedaży dwa najnowsze modele – Fable 5 i Mythos 5 – ze względu na zakaz Departamentu Handlu dotyczący korzystania z nich przez obcokrajowców, spór nie ucichł. Poprzedził go wpis na czarną listę przez rząd federalny ze względów bezpieczeństwa narodowego w marcu.

Sekretarz ds. wojny Pete Hegseth świętował zwycięstwo, wskazując, że rząd utrzyma wrogie nastawienie wobec Anthropic. „Trzy miesiące temu [Departament ds. Wojny] wyrzucił Anthropic z naszego budynku – na zawsze" – napisał w niedzielę. „Każdy kolejny dzień potwierdza, że była to słuszna decyzja." 

Podczas gdy Anthropic wysłało w weekend starszych pracowników technicznych do Waszyngtonu, aby argumentowali przeciwko kontroli eksportu, Departament ds. Wojny napisał na X, że od czasu konfliktu z Anthropic dotyczącego wojskowego wykorzystania Claude'a przeniósł co najmniej dwie trzecie swoich procesów opartych na sztucznej inteligencji poza modele Anthropic. Departament ogłosił w poniedziałek po południu, że „nie będzie już uzależniony od jednego dostawcy sztucznej inteligencji". Jego żołnierze mieliby zamiast tego otrzymać „zróżnicowany zestaw możliwości AI, aby zapewnić im prawdziwą przewagę decyzyjną".

„Jasne, że istnieje ryzyko regulacyjne" – powiedział David Linthicum, doświadczony analityk chmurowy, który argumentował, że każdy, kto inwestuje w te firmy, powinien był przewidzieć interwencję rządu. Wpompuj biliony dolarów w budowanie czegoś wystarczająco potężnego, by wzbudzić strach, a zainteresowanie rządu jest wyraźnie wpisane w ten scenariusz. Nie spodziewa się, że impas potrwa długo: jego zdaniem w ciągu 48 godzin Anthropic i administracja pogodzą się – „a potem za sześć tygodni to się powtórzy i Anthropic będzie musiało odbyć kolejną podróż do stolicy". 

Ten reaktywny styl regulacji jest nie tylko nieefektywny – powiedział – ale wywiera „efekt mrożący" na badania. OpenAI może teraz dwa razy zastanowić się przed wypuszczeniem kolejnego modelu, obawiając się utraty miliardów przychodów z powodu podobnego nakazu. A zagraniczni klienci mogą skłaniać się ku rodzimym rozwiązaniom – Chiny mają własne; Europa nie ma realnej odpowiedzi.

Jednak Anthropic najbardziej szkodzi sobie, wdając się w taki spór z rządem federalnym – powiedział Linthicum – nie wspominając o jego teoretycznej przyszłej wycenie i cenie akcji.
Amazon – przyjaciel czy wróg Anthropic?

Wydaje się dziwne, że sprawcą był jeden z największych inwestorów Anthropic – Amazon, który zainwestował około 8 miliardów dolarów z zobowiązaniem do kolejnych 25 miliardów, i któremu Anthropic zawdzięcza ponad połowę rekordowych zysków w ubiegłym kwartale. Według doniesień medialnych badacze Amazona przetestowali Fable po jego premierze, odkryli, że można skłonić Fable do ujawnienia informacji o lukach w oprogramowaniu poprzez zwykłe przeformułowanie pytania, przekazali to do Białego Domu i nastąpiła kontrola eksportu.

Dlaczego firma miałaby donosić na produkt, w którym ma udziały? Życzliwa interpretacja jest taka, że byli autentycznie zaniepokojeni tym, co zobaczyli w Fable, i chcieli informować rząd USA. Niektóre doniesienia sugerują, że przekazali informacje Anthropic przed Białym Domem.
Jednak inni analitycy są bardziej cynyczni: w końcu Amazon ma też udziały w konkurencji. Firma z listy Fortune 1 sprzedaje konkurencyjne modele przez swoją platformę Bedrock i bierze udział w tym samym wyścigu co Anthropic; więc Amazon „w wielu przypadkach będzie postrzegał Anthropic jako wroga". 

Dion Hinchcliffe, analityk śledzący korporacyjną AI w Futurum Group, dodał, że Amazon przegrywa wyścig laboratoriów frontowych, więc nie zaszkodzi mu zbytnio, jeśli wyraźny lider stawki się potknie. 

Kwestia tego, jak niebezpieczna była ta luka, jest sama w sobie sporna. Anthropic określiło luki jako drobne i stwierdziło, że konkurencyjne modele – w tym GPT-5.5 OpenAI – mogą ujawnić to samo bez żadnego jailbreaku. Dziesiątki dyrektorów ds. bezpieczeństwa podpisało w niedzielę list zorganizowany przez byłego szefa ds. bezpieczeństwa Facebooka Alexa Stamosa, nazywając tę zdolność normalną cechą każdego modelu zaprojektowanego do pisania bezpiecznego kodu. Ponieważ modele oznaczone przez rząd jako niebezpieczne – powiedział współzałożyciel Veracode Chris Wysopal, który podpisał list – to te same, których firmy używają do znajdowania luk we własnym kodzie, odłączenie ich od sieci działa w obie strony: szkodzisz atakującym i szkodzisz obrońcom.

To nie znaczy, że należy rezygnować z wykrywania błędów, ale jailbreaki – powiedział Wysopal – to permanentna gra w kotka i myszkę, której żaden użyteczny model nigdy w pełni nie wygrywa; normalnym rozwiązaniem jest poinformowanie firmy i pozwolenie jej na łatanie, a nie stosowanie kontroli eksportu. „Nie ma nic jawnego i publicznego w tym, jak dochodzimy do tych decyzji" – powiedział. 

Ten artykuł ukazał się pierwotnie na Fortune.com