OpenAI opowiada się za globalnym organem regulującym AI

OpenAI twierdzi, że AI wymaga takich samych regulacji jak energia jądrowa i chce, aby USA zainicjowały utworzenie globalnego regulatora ds. AI. 

Jak donosi Cryptopolitan, dzieje się to w momencie, gdy prezydent Trump udał się do Pekinu na pierwsze od dziewięciu lat wizytę państwową USA–Chiny, podczas której polityka dotycząca AI miała znaleźć się w programie rozmów.

Według Chrisa Lehane'a, wiceprezesa ds. globalnych w OpenAI, spotkanie Trumpa i Xi w jednym pomieszczeniu to rzadka okazja dla obu krajów do zbudowania czegoś trwałego w dziedzinie AI.

„AI w pewnym sensie wykracza poza wiele dominujących lub tradycyjnych kwestii handlowych. Istnieje szansa, aby naprawdę zacząć budować coś na poziomie globalnym i umożliwić krajom z całego świata, w tym Chinom, potencjalne uczestnictwo" – powiedział Chris Lehane podczas briefingu.

Czym jest OpenAI i dlaczego jego opinia na temat globalnej polityki jest tak ważna?

OpenAI to amerykańska firma, która stworzyła ChatGPT – popularnego asystenta AI/chatbota, z którego każdego dnia korzystają setki milionów ludzi.

Firma zawsze uczestniczyła w każdej ważnej debacie na temat zaawansowanych systemów AI. Jej dyrektor generalny, Sam Altman, regularnie spotyka się z przywódcami państw, aby omawiać kwestie AI, a nawet składa zeznania przed Kongresem, co daje firmie znaczący wpływ na globalną politykę dotyczącą AI.

OpenAI prowadzi również odrębny spór prawny po tym, jak dyrektor generalny Tesli Elon Musk pozwał firmę w 2024 roku. Musk jest jednym z założycieli OpenAI i twierdzi, że Sam Altman oraz inni dyrektorzy działali wbrew misji non-profit firmy i przekształcili ją w organizację nastawioną na zysk. 

Proces wciąż trwa, jednak ważniejsze wydarzenia tego tygodnia rozgrywają się w Pekinie.

Co zaproponowało OpenAI i na czym polega porównanie do MAEA?

Wiceprezes ds. globalnych w OpenAI, Chris Lehane, zaproponował połączenie dwóch elementów w celu stworzenia czegoś nowego.

Chce, aby Centrum ds. Standardów i Innowacji AI w Departamencie Handlu USA oraz instytuty bezpieczeństwa AI połączyły siły i zbudowały globalną sieć. Jako przykład podał Międzynarodową Agencję Energii Atomowej (MAEA), wskazując, jak kraje połączyły swoje organy regulacyjne ds. energii jądrowej w jedno wspólne ciało. 

Centrum ds. Standardów i Innowacji AI Departamentu Handlu USA to urząd rządowy tworzący normy techniczne dla systemów AI. 

Jednocześnie na całym świecie powstają instytuty AI. Na przykład Wielka Brytania już taki posiada, UE opracowuje ramy regulacyjne, a kilka rządów azjatyckich również pracuje nad podobnymi instytucjami. 

Lehane stwierdził, że ujednolicony organ ds. AI pomoże budować bezpieczniejsze i bardziej odporne systemy, mniej podatne na ataki. Chce również, aby rząd USA zobowiązał badaczy do testowania najpotężniejszych modeli AI przed ich wdrożeniem. 

Czym jest model Mythos i dlaczego niepokoi zarówno Waszyngton, jak i Pekin?

Mythos to nowy, potężny model AI, który wykrył „tysiące" poważnych luk w systemach operacyjnych i innym oprogramowaniu. Mythos został opracowany przez Anthropic – firmę zajmującą się bezpieczeństwem AI, wspieraną przez Google i Amazon.

Skala możliwości Mythosa wstrząsnęła światem – banki i rządy rzuciły się do naprawiania swoich zabezpieczeń po ogłoszeniu informacji o modelu. Urzędnicy Białego Domu przyznali nawet, że modele takie jak Mythos sprawiają, że komunikacja z Chinami jest ważniejsza niż kiedykolwiek wcześniej. 

Chiny zostały pozbawione wczesnego dostępu do wersji preview Mythosa, co wzbudziło obawy co do zdolności chińskich deweloperów i rządu do obrony przed atakami wykorzystującymi ten model AI. 

Firma analityczna IDC China ostrzegła nawet, że wykluczenie Chin z dostępu do Mythosa może stworzyć „pokoleniową przepaść" w zdolnościach obronnych AI między Chinami a Zachodem. 

Według badaczy atakujący mogliby wykorzystać zaawansowaną AI do projektowania broni biologicznej, wywoływania wstrząsów finansowych lub działania autonomicznego bez ludzkiej kontroli. Najstraszniejsze jest to, że AI musi być jedynie wystarczająco potężna, szybka i skierowana w złym kierunku, aby to wszystko zrealizować. 

Co wydarzyło się na spotkaniu Trump–Xi i co omawiano?

W skład amerykańskiej delegacji do Chin wchodzili dyrektor generalny Nvidii Jensen Huang oraz główny doradca Białego Domu ds. polityki technologicznej Michael Kratsios. Ich obecność sprawiła, że spotkanie nabrało priorytetowego i pilnego charakteru – obie strony przybyły przygotowane do bezpośredniej dyskusji o kwestiach AI. 

Chiny zaproponowały formalny dialog w sprawach AI, któremu przewodzić mieliby sekretarz skarbu Scott Bessent i chiński wiceminister finansów Liao Min. Jednak oczekiwania wobec tego kanału są niskie, ponieważ żadna z tych agencji nie specjalizuje się w AI.

USA planowały również wyrazić obawy, że chińscy deweloperzy wykorzystują wyniki zaawansowanych modeli AI do budowania systemów za ułamek kosztów, lecz z mniejszą liczbą zabezpieczeń.

Obie strony omówiły też możliwość ustanowienia gorącej linii bez przypisywania winy do zgłaszania podejrzanych incydentów związanych z AI, podobnej do wojskowych linii komunikacyjnych.

Analitycy sugerowali nawet, że oba rządy mogłyby zobowiązać się do wprowadzenia zabezpieczeń dla przełomowych modeli AI, podobnie jak w przypadku Porozumienia USA–Chiny o cyberbezpieczeństwie z 2015 roku.

Wreszcie rozmowy mogły również dotyczyć ustawy MATCH Act – proponowanego prawa USA mającego na celu ograniczenie dostępu Chin do łańcuchów dostaw półprzewodników. 

Sun Chenghao z Uniwersytetu Tsinghua uczestniczył w rozmowach USA–Chiny na temat AI i stwierdził, że USA powinny wyraźnie odróżnić zarządzanie ryzykami bezpieczeństwa AI od zwykłego blokowania rozwoju technologicznego Chin. 

„Chiny prawdopodobnie mają nadzieję, że USA odpowiednio odróżnią zarządzanie AI od technologicznego ograniczania" – powiedział Sun Chenghao. 

Jeśli to czytasz, jesteś już o krok do przodu. Pozostań tam dzięki naszemu newsletterowi.