Szefowie firm AI ostrzegają. "Zagrożenie nawet dla całej ludzkości"

W środę szefowie firm, które stworzyły ChataGPT i Claude, uczestniczyli w specjalnym posiedzeniu Rady Bezpieczeństwa zwołanym przez francuską prezydencję. Szef Anthropica, łącząc się przez wideo, przestrzegł, że przy złym podejściu do zarządzania jej rozwojem sztuczna inteligencja "może stanowić zagrożenie nawet dla całej ludzkości".

Amodei zapowiedział też, że Anthropic zwolni tempo tak bardzo, jak będzie trzeba, by każda kolejna udostępniana technologia była rzeczywiście bezpieczna. Wezwał również do przyjęcia szeregu międzynarodowych porozumień, w tym zakazu użycia AI do tworzenia broni biologicznej i wyznaczenia standardów testów nowych modeli.

Czytaj nas częściej w Google

Dodaj w Google

• Premier Hiszpanii: władza nad AI trafia w ręce "techno-oligarchów"

Dalszy ciąg artykułu pod materiałem wideo

Szefowie firm AI ostrzegają ONZ. USA odrzucają apel o regulacje

Altman przekonywał z kolei, że rozwój sztucznej inteligencji może przynieść niezwykłe korzyści ludzkości, ale również ostrzegał o ryzykach i opowiadał się za międzynarodową współpracą.

Jeśli sztuczna inteligencja ma być demokratyczna, najważniejsze decyzje nie mogą być podejmowane wyłącznie przez laboratoria w San Francisco. Muszą być kształtowane w oparciu o procesy demokratyczne i przez rządy odpowiedzialne przed obywatelami, którym służą

— powiedział.

• Wielka Brytania chce globalnej umowy o AI. Pomóc ma G20

Ekspert ONZ Yoshua Bengio, współprzewodniczący panelu naukowego organizacji ds. AI, powiedział, że zagrożenia związane z rozwojem sztucznej inteligencji są "realne i bliskie". On także przedstawił je jako problem, z którym Rada nie poradzi sobie w pojedynkę. W spotkaniu uczestniczył również szef firmy Hugging Face, do której systemów włamali się agenci OpenAI.

Apele wiodących postaci branży odrzucał wypowiadający się w imieniu USA doradca ds. nauki i technologii prezydenta Donalda Trumpa Michael Kratsios.

Granica inteligencji posuwa się szybko. Ale nie jest to powód, aby wstrzymywać jej dalszy rozwój ani ograniczać go nowymi globalnymi strukturami zarządzania

— powiedział.

• Strach dotarł do Europy. Większość uważa, że AI może zniszczyć ludzkość [SONDAŻ]

Jako światowy lider w dziedzinie pionierskiej superinteligencji Stany Zjednoczone podjęły działania mające na celu zapewnienie bezpiecznego i odpowiedzialnego rozwoju tej granicy

— dodał.

Kratsios w wystąpieniu używał nowego, oficjalnego terminu dla AI — "superinteligencja" — ogłoszonego we wtorek przez Trumpa. Przedstawiciel Chin, ambasador Fu Cong, wezwał do stałego doskonalenia ram regulacyjnych, reagowania kryzysowego i współpracy transgranicznej w dziedzinie AI.