Anthropic ląduje w Londynie, podczas gdy programowanie wspomagane przez AI – i towarzyszące mu obawy – trafiają do głównego nurtu

Witamy w Eye on AI. Z tej strony Beatrice Nolan, zastępująca reporterkę AI Sharon Goldman. W dzisiejszym wydaniu: Claude od Anthropic przybywa do Londynu…nadchodzące IPO OpenAI…walka związkowa w Google DeepMind…a światowe wydatki na AI są na dobrej drodze do osiągnięcia 2,59 biliona dolarów w tym roku.

Większość zespołu kierowniczego Anthropic przeprawiła się przez ocean w tym tygodniu. Laboratorium AI organizuje serię wydarzeń w Wielkiej Brytanii, rozpoczynając od Code with Claude London we wtorek.

Firma wykorzystała to wydarzenie do wprowadzenia nowych funkcji dla swoich Claude Agents, w tym piaskownic pozwalających firmom uruchamiać agentów na własnej infrastrukturze oraz „tuneli MCP”, które umożliwiają tym agentom dostęp do systemów wewnętrznych bez korzystania z publicznego internetu. Krótko mówiąc, nowe sposoby na zapewnienie firmom większej kontroli i bezpieczeństwa – możliwa próba uspokojenia obaw kadry zarządzającej dotyczących niekontrolowanego AI. 

Wydarzenie w Londynie, pierwsze dedykowane spotkanie programistów Anthropic w Europie, podkreśla, jak kluczowe dla ekosystemu AI stało się to miasto, które zyskuje jeszcze większe znaczenie w ostatnich miesiącach. Giganci, w tym OpenAI, Anthropic oraz laboratorium AI Jeffa Bezosa, Project Prometheus, ogłosili plany budowy znaczącej obecności w mieście. Wydarzenie Claude od Anthropic cieszyło się ogromnym zainteresowaniem, a nadbrzeżne miejsce, pomimo deszczu, wypełniła mieszanka klientów korporacyjnych, pracowników startupów i entuzjastów Claude. 

Inżynierowie z startupów powiedzieli mi, że codziennie korzystają z Claude Code i podobnych narzędzi. Czy martwią się o egzystencjalne ryzyko, jakie może to stanowić dla ich pracy? Jasne. Ale lepszy znany diabeł, jak mówili. Pojawiło się kilka narzekań na ostatnie problemy z wydajnością Claude i marną reakcję Anthropic, ale ogólnie ludzie byli dość zadowoleni z produktu. (Można się było tego spodziewać, być może na wydarzeniu Anthropic.)

Klienci korporacyjni mieli bardziej skomplikowaną sytuację. Podczas gdy niektórzy z entuzjazmem przyjmowali technologię, inni twierdzą, że jej wdrażanie przebiegało wolniej. Nadal istnieje pewna niepewność co do tego, co i kiedy automatyzować, gdzie w pętli potrzebny jest człowiek, a co można bezpiecznie przekazać narzędziom AI. Wymagane jest również pewne wsparcie dla kadry zarządzającej. Wszystkie te pytania stają się znacznie bardziej pilne w przypadku wysoce regulowanych sektorów, takich jak opieka zdrowotna czy bankowość. 

Szefowa inżynierii w Anthropic, Fiona Fung, udzieliła kilku rad tym, którzy zastanawiają się, od czego zacząć automatyzację za pomocą Claude Code: „Wybierz swój najbardziej hałaśliwy przepływ pracy…i zapytaj, czy nadal spełnia swoje zadanie. Jeśli to coś, co jest naprawdę drogie, czy to coś, z czym Claude może sobie poradzić?”

Główny wniosek z wydarzenia: inżynieria oprogramowania przechodzi zmianę warty, przy czym czarna robota związana z pisaniem kodu jest coraz częściej przejmowana przez AI, podczas gdy ludzie koncentrują się na decyzjach wyższego szczebla i utrzymywaniu systemów na właściwym torze. Ręczne kodowanie wszystkiego zaczyna wyglądać mniej jak praca na etacie, a bardziej jak niszowy fach.

Boris Cherny, szef Claude Code w Anthropic, powiedział mi, że zawsze bardziej zależało mu na rezultacie pracy niż na szczegółach tego, jak pisany jest kod, i teraz wielu inżynierów czuje to samo – chętnie pozwalają AI zajmować się większością kodowania, o ile wynik biznesowy jest lepszy. Niektórzy inżynierowie tęsknią za tym rzemiosłem, przyznał, dodając, że niektórzy członkowie zespołu nadal piszą kod ręcznie w weekendy tylko dlatego, że za nim tęsknią. Podobnie jak w przypadku analogowej fotografii filmowej, Cherny uważa, że dla tego rodzaju pracy zawsze znajdzie się miejsce.

„Kupuję warzywa na targu rolniczym” – powiedział Cherny. „Zawsze jest na to miejsce.”

Przełomy w AI, ryzyko egzystencjalne i terapia AI

Tymczasem współzałożyciel Anthropic, Jack Clark, udał się na Uniwersytet Oksfordzki, aby zmierzyć się z bardziej filozoficznymi pytaniami stawianymi przez technologię, którą rozwija firma. W szerokim i często szczerym wykładzie Clark poruszył tematy od możliwości odkryć wspomaganych przez AI, które mogą zdobyć Nagrodę Nobla, po wykorzystanie narzędzi jego firmy w zdrowiu psychicznym. Aha, i o „niezerowym prawdopodobieństwie”, że AI zabije wszystkich na planecie. 

Argumentował również, że tempo postępu przyspiesza do tego stopnia, że społeczeństwo może mieć trudności z nadążaniem – ostrzegając, że konkurencja geopolityczna i handlowa sprawiają, iż spowolnienie rozwoju jest mało prawdopodobne, nawet jeśli mogłoby to być bezpieczniejsze.

Clark ujawnił również, że częściowo szukał terapii, ponieważ używał Claude do przedyskutowania niektórych swoich osobistych problemów, a czatbot skłonił go do poszukania profesjonalnej porady. 

Systemy AI muszą być zaprojektowane tak, aby właśnie to robić – argumentował – skłaniać ludzi do zaprzestania ich używania i poszukiwania prawdziwego kontaktu z człowiekiem. Jednak aby zrobić to skutecznie, firmy AI mogą musieć być świadome tego, jak projektują te narzędzia na wyższym poziomie. Czatboty AI domyślnie skłaniają się ku pochlebstwu, a kilka ostatnich badań wykazało, jak ta tendencja może wzmacniać szkodliwe myślenie lub nadmierną pewność siebie, jeśli pozostanie bez kontroli.

Pod koniec tego tygodnia liderzy Anthropic, w tym prezes Dario Amodei, udadzą się na angielską wieś na ekskluzywne forum prezesów dla europejskich liderów. Wydarzenie ma na celu pomoc przedsiębiorstwom w zrozumieniu, jak mogą wdrożyć technologię firmy. Tym, co mogą uznać za trudniejsze do zarządzania, jest nieunikniona presja ze strony europejskich menedżerów spragnionych dostępu do Mythos – modelu Anthropic, który jest zbyt niebezpieczny, by go udostępnić, i który do tej pory miał ograniczoną międzynarodową premierę poza głównie partnerami z USA.

Na koniec, oto więcej wiadomości o AI.

Beatrice Nolan
bea.nolan@fortune.com
@beafreyanolan

Ten artykuł został pierwotnie opublikowany na Fortune.com