Liderzy branży AI panikują. "Niedopuszczalne zagrożenie dla ludzkości"

Sztuczna inteligencja wymyka się spod kontroli. Sylwia Czubkowska komentuje

Źródło wideo: TVN24

Źródło zdj. gł.: Chance Yeh/Getty Images for HubSpot

Apele i deklaracje ze strony czołowych przedstawicieli branży sztucznej inteligencji pojawiają się po serii incydentów z udziałem ich modeli, które wymykały się z pod kontroli i hakowały zewnętrzne platformy. Najgłośniejszy z nich dotyczy modelu OpenAI, który włamał się na platformę Hugging Face, ale podobne zdarzenia mają na koncie firmy Anthropic oraz Meta.

Zdolność AI do samodoskonalenia przeraża jej twórców

"Musimy zmniejszyć tempo, w jakim udoskonalamy możliwości modeli AI. Postęp wciąż będzie wydawał się szybki, ale musimy mądrze wykorzystać zyskany czas" - napisał Amodei w obszernym wpisie opublikowanym w sobotę w serwisie X. Szef Anthropic przedstawił w nim trzystopniowy plan mający na celu kontrolowanie tempa prac i zyskanie czasu niezbędnego do opanowania zagrożeń, jakie niosą ze sobą nowe systemy AI.

Amodei proponuje: stałą obecność niezależnych audytorów posiadających dostęp do zasobów firmy na prawach pracowników w celu weryfikacji procedur bezpieczeństwa, koordynację działań między liderami branży w celu wyznaczenia standardów i przeciwdziałania niekontrolowanemu rozwojowi, a także współpracę międzynarodową przy zarządzaniu ryzykiem. Jako główne powody wyhamowania prac nad nowymi modelami szef Anthropic wskazał rosnącą zdolność AI do samodoskonalenia.

Zarówno Elon Musk, szef xAI, jak i Sam Altman zadeklarowali w serwisie X, że zgadzają się z Amodeiem. "Zobowiązanie do włączenia niezależnych audytorów z pełnym dostępem pracowniczym to świetny pomysł. Zrobimy to samo" - napisał Altman, zapowiadając szybkie przekazanie dalszych szczegółów.

"Zgadzam się z Dario, że musimy kontrolować tempo rozwoju wiodących modeli. To jeden z głównych tematów naszych dyskusji w OpenAI w ostatnich tygodniach" - dodał szef OpenAI.

Amodei opublikował swój esej niedługo po tym, jak jego firma wydała raport dotyczący zagrożeń, jakie niosą ze sobą nowe modele AI. Opisano w nim, jak rozmaite podmioty - w tym bojownicy Huti, rosyjscy hakerzy czy irańskie siły zbrojne - wykorzystywały modele z rodziny Claude do celów obejmujących m.in. rozwój broni, cyberoperacje, inwigilację oraz oszustwa.

Zagrożenie dla całej ludzkości

Niepokój związany z potencjalnymi zagrożeniami ze strony AI wzrósł w tym tygodniu po głośnej rezygnacji badacza z firmy Anthropic, Jacoba Coxona. Oświadczył on, że "ludzie budujący sztuczną inteligencję szczerze wierzą, że może ona doprowadzić do zagłady ludzkości przed końcem tej dekady".

Choć Anthropic pozycjonuje się jako laboratorium stawiające na pierwszym miejscu kwestie bezpieczeństwa, samo nie jest wolne od incydentów z udziałem ich systemów. W ubiegłym tygodniu firma ujawniła kolejny przypadek, w którym jej model AI włamał się do zewnętrznych systemów - po tym, jak w lipcu niektóre modele Claude podczas testów bezpieczeństwa włamały się do systemów trzech przedsiębiorstw.

"Zważywszy na gwałtowne tempo rozwoju możliwości AI, obawiam się, że za 6-12 miesięcy taki rój agentów będzie w stanie przejąć kontrolę nad całym internetem, generując straty rzędu setek miliardów dolarów" - napisał Amodei.

Prezes Anthropic zaznaczył, że nie nawołuje do całkowitego wstrzymania treningu modeli czy postępu technicznego, lecz do zagwarantowania firmom czasu na ich odpowiednie dostrojenie (alignment) i zabezpieczenie, a niezależnym audytorom - na potwierdzenie skuteczności tych działań.

Przewaga demokratycznego AI

Skoordynowane podejście - zdaniem Amodeia - pozwoliłoby wiodącym amerykańskim firmom AI na prowadzenie niezbędnych badań nad bezpieczeństwem, bez narażania ich na utratę konkurencyjności. Dodał też, że rozwiązanie to wymagałoby prawdopodobnie celowych wyłączeń spod prawa antymonopolowego w USA, aby umożliwić współpracę w określonych obszarach.

Amodei podkreślił przy tym, że jakiekolwiek spowolnienie prac w państwach demokratycznych musi być ograniczone tak, aby nie utracić przewagi, jaką amerykańskie firmy posiadają nad Chinami. Ich ewentualna wygrana w wyścigu technologicznym stanowiłaby jego zdaniem bezpośrednie zagrożenie dla bezpieczeństwa narodowego USA.

"Tempo zmian w państwach demokratycznych będzie dyktowane przewagą, jaką firmy z USA mają nad reżimami autorytarnymi, a w szczególności nad Komunistyczną Partią Chin" - napisał Amodei.

Również w sobotę szef OpenAI Sam Altman zadeklarował, że jego firma - mimo wcześniejszych zapowiedzi - nie wejdzie w tym roku na giełdę. Jako powód podał obawy o bezpieczeństwo sztucznej inteligencji, dodając, że nawet 10-procentowe ryzyko, iż AI mogłaby doprowadzić do wyginięcia ludzkości przed końcem dekady, jest "niedopuszczalne" (unacceptable).

- Uważam, że biorąc pod uwagę wszystko, co dzieje się wokół kwestii bezpieczeństwa, obecny moment na debiut giełdowy byłby wysoce niewskazany. Nie czujemy zresztą w tej sprawie żadnej presji - powiedział Altman w rozmowie z "Fortune".

Pytany o to, czy ryzyko zagłady z powodu AI rzeczywiście wynosi 10 proc., Altman odparł, że nie wie, jak stworzyć takie szacunki. - Niezależnie od tego, czy mowa o 10, 8 czy 6 proc. - kluczowe jest to, że spoczywa na nas ogromna odpowiedzialność. Nie możemy pozwolić, aby wygórowane ego czy chęć zysku przesłoniły nam ten cel. Musimy działać tak, aby wyeliminować to ryzyko. Jestem przekonany, że to możliwe - dodał Altman.

W czerwcu dziennik "The New York Times" informował, że wyceniane nawet na bilion dolarów OpenAI rozważa odłożenie planowanego IPO na kolejny rok. W tym samym czasie akcje należącej do Elona Muska spółki SpaceX gwałtownie traciły na wartości po wcześniejszym skoku, który wywindował jej wycenę do poziomu 1,8 biliona dolarów.

Altman zasugerował również, że OpenAI oraz inne wiodące podmioty sektora AI mogą być bliskie ogłoszenia paktu na rzecz spowolnienia rozwoju technologii i wspólnego przeciwdziałania ryzykom - podaje "Fortune".

Obawy o bezpieczeństwo nie spowolniły jednak planów giełdowych samego Anthropic. Firma ma rozpocząć ofertę publiczną najwcześniej w połowie października, tak aby sfinalizować debiut na kilka dni przed listopadowymi wyborami w USA - podał Reuters.