Liderzy branży AI ostrzegają ONZ. "Może stanowić zagrożenie dla całej ludzkości"

Apel o zwolnienie prac nad sztuczną inteligencją (AI). Komentuje dr Leszek Bukowski, dyrektor badań i rozwoju Fuze Al

Źródło wideo: TVN24

Źródło zdj. gł.: PAP/EPA/SARAH YENESEL

Liderzy firm, które stworzyły ChataGPT i Claude uczestniczyli w środę w specjalnym posiedzeniu Rady Bezpieczeństwa zwołanym przez francuską prezydencję. Szef Anthropic przestrzegł, że przy złym podejściu do zarządzania jej rozwojem, sztuczna inteligencja "może stanowić zagrożenie nawet dla całej ludzkości".

Apel liderów branży AI

Amodei zapowiedział, że Anthropic zwolni tempo tak bardzo, jak będzie trzeba, by każda kolejna udostępniana technologia była rzeczywiście bezpieczna. Wezwał też do przyjęcia szeregu międzynarodowych porozumień, w tym zakazu użycia AI do tworzenia broni biologicznej i wyznaczenia standardów testów nowych modeli.

- Jednak niezależnie od naszych działań, zarządzanie tym ryzykiem wykracza poza możliwości jakiejkolwiek pojedynczej firmy - to wyzwanie na skalę całej branży i całego świata - powiedział.

Altman przekonywał z kolei, że rozwój sztucznej inteligencji może przynieść niezwykłe korzyści ludzkości, ale również ostrzegał o ryzykach i opowiadał się za międzynarodową współpracą.

- Jeśli sztuczna inteligencja ma być demokratyczna, najważniejsze decyzje nie mogą być podejmowane wyłącznie przez laboratoria w San Francisco. Muszą być kształtowane w oparciu o procesy demokratyczne i przez rządy odpowiedzialne przed obywatelami, którym służą - powiedział.

Altman apelował o wprowadzenie "krajowych i międzynarodowych" standardów w zakresie AI, które pozwalałyby mierzyć możliwości narzędzi opartych na sztucznej inteligencji, szacować powiązane z nimi ryzyka, wdrażać mechanizmy bezpieczeństwa oraz określać poziom kontroli, jaką nad takimi narzędziami sprawuje człowiek.

Zaapelował również o "sprawne procedury zgłaszania, klasyfikacji i raportowania incydentów, tak aby świat mógł wyciągać wnioski z błędów, zanim doprowadzą one do katastrofy". - Potrzebujemy wspólnych standardów, by państwa mogły porównywać dowody, weryfikować zgodność z przepisami oraz dysponować wspólnym językiem i zrozumieniem tego, co się dzieje - dodał Altman.

Ekspert ONZ Yoshua Bengio, współprzewodniczący panelu naukowego organizacji ds. AI, powiedział, że zagrożenia związane z rozwojem sztucznej inteligencji są "realne i bliskie". On także przedstawił je jako problem, którego Rada nie powstrzyma w pojedynkę. W spotkaniu uczestniczył również szef firmy Hugging Face, na której systemy włamali się agenci OpenAI.

USA odrzuca wezwania branży

Apele wiodących postaci branży odrzucał wypowiadający się w imieniu USA doradca ds. nauki i technologii prezydenta Donalda Trumpa, Michael Kratsios. - Granica inteligencji posuwa się szybko. Ale nie jest to powód, aby wstrzymywać jej dalszy rozwój ani ograniczać go nowymi globalnymi strukturami zarządzania - powiedział.

- Jako światowy lider w dziedzinie pionierskiej superinteligencji, Stany Zjednoczone podjęły działania mające na celu zapewnienie bezpiecznego i odpowiedzialnego rozwoju tej granicy - dodał. Kratsios w wystąpieniu używał nowego, oficjalnego terminu dla AI - "superinteligencja" - ogłoszonego we wtorek przez Trumpa.

- Prowadzimy w wyścigu z Chinami w dziedzinie sztucznej inteligencji… i, mówiąc wprost, chcę, aby tak zostało, ponieważ kto wygra wyścig o AI, ten zdobędzie przewagę globalną - powiedział we wtorek Trump na forum Rady Bezpieczeństwa.

Przedstawiciel Chin, ambasador Fu Cong wezwał natomiast do stałego doskonalenia ram regulacyjnych, reagowania kryzysowego i współpracy transgranicznej w dziedzinie AI.

Debata w dniu włamania na rządowe systemy

Obrady prowadził szef francuskiego MSZ Jean-Noel Barrot. Posiedzenie nie przyniosło międzynarodowego porozumienia, ani wspólnego limitu tempa rozwoju. Szef Hugging Face Clement Delangue opisał, jak jego firma odparła cyberatak przeprowadzony przez AI, broniąc się również za pomocą AI.

Do debaty doszło w dniu, w którym premier Australii Anthony Albanese poinformował o włamaniu na systemy państwowej opieki zdrowotnej dokonanym przez agenta modelu AI szkolonego przez OpenAI. Albanese powiedział na marginesie Zgromadzenia Ogólnego ONZ, że w czerwcu agent OpenAI uzyskał dostęp do portalu ze statystykami systemu Medicare.