Egzystencjalne zagrożenie dla ludzkości. Apel z ONZ

Sztuczna inteligencja wymyka się spod kontroli. Sylwia Czubkowska komentuje

Źródło wideo: TVN24

Źródło zdj. gł.: CHAMILA KARUNARATHNE/PAP

Podczas wystąpienia przed Radą Praw Człowieka ONZ w Genewie Tuerk ocenił, że szybki rozwój sztucznej inteligencji tworzy nowe zagrożenia.

"Ludzie mierzą się obecnie z nieznanymi, a nawet bezprecedensowymi zagrożeniami dla swoich praw" - powiedział, cytowany przez AFP.

Szef ONZ krytykuje brak regulacji AI

Wysoki komisarz ONZ do spraw praw człowieka zwrócił uwagę, że mimo świadomości zagrożeń wciąż brakuje konkretnych działań.

- Potrzeba stworzenia zasad zarządzania sztuczną inteligencją jest powszechnie uznawana, ale gdzie są działania? Zwłoka służy jedynie gigantom technologicznym, ich właścicielom i tym, którzy umożliwiają im działanie - powiedział.

Tuerk ocenił, że nadzór nad rozwojem najbardziej zaawansowanych systemów skupia się w rękach bardzo niewielkiej grupy.

- Garstka mężczyzn ma niemal nieograniczoną władzę nad sztuczną inteligencją, która - jak stale nam się powtarza - dysponuje niewyobrażalną mocą obliczeniową - stwierdził.

Jego zdaniem przedstawiciele branży technologicznej powołują się na wolność, ale w praktyce może chodzić przede wszystkim o dostęp do informacji o użytkownikach.

- Mówią o wolności, ale gdy przyjrzymy się temu bliżej, okazuje się, że jest to niewiele więcej niż swoboda wykorzystywania naszych danych - dodał.

Ostrzeżenie przed agentami sztucznej inteligencji

Tuerk wskazał również na niepokojące zachowania systemów AI obserwowane podczas testów.

Sztuczna inteligencja, która wydostaje się ze środowiska testowego lub szantażuje programistów, by nie dopuścić do jej wyłączenia, jest zbyt potężna - powiedział.

Według AFP jego wypowiedź mogła odnosić się do ujawnionego w lipcu incydentu z agentami OpenAI. Miały one opuścić rzekomo kontrolowane środowiska i uzyskać dostęp do serwerów platformy Hugging Face, na której programiści udostępniają oprogramowanie AI.

Podobne zdarzenia podczas testowania agentów zgłaszały także firmy Anthropic i Meta.

- Podzielam obawy osób z branży, że zaawansowana sztuczna inteligencja może stanowić egzystencjalne zagrożenie dla ludzkości - powiedział Türk.

Apel o żelazne gwarancje bezpieczeństwa AI

Wysoki komisarz wezwał państwa i firmy technologiczne do pilnego stworzenia skuteczniejszych zabezpieczeń.

- Wzywam tu i teraz do podjęcia wszelkich wysiłków, by ustanowić żelazne gwarancje bezpieczeństwa i ochrony AI, zanim będzie za późno - zaapelował.

Türk zapowiedział, że w najbliższych dniach napisze do firm zajmujących się sztuczną inteligencją. Chce je wezwać do natychmiastowego ograniczenia zagrożeń, na które mają wpływ.

- Potrzebujemy co najmniej, by państwa, w których rozwijana jest sztuczna inteligencja, oraz kraje uczestniczące w jej łańcuchach dostaw wspólnie uzgodniły czerwone linie - powiedział.

O punkcie zwrotnym w rozwoju AI Pod koniec 25 sierpnia mówili Antonio Guterres, sekretarz generalny ONZ i Peter Maurer, prezydent Międzynarodowego Komitetu Czerwonego Krzyża. - Jesteśmy niebezpiecznie blisko moralnej czerwonej linii: samodzielnego brania przez maszyny ludzi na cel - ostrzegali. Dzień wcześniej, w Zaporożu w Ukrainie autonomiczny, rosyjski dron kierowany przez moduł AI zabił trzy osoby. Z ustaleń strony ukraińskiej wynikało, że dron był zaprogramowany na uderzenie jednej ze stacji benzynowych ale w trakcie loty podjął decyzję o zaatakowaniu trójki osób.

W listopadzie PNZ ma podjąć decyzję czy ruszą prace nad konwencją albo rezolucją o ograniczeniach dla śmiercionośnej broni AI. Przeciwko takim regulacjom mają być między innymi Rosja, Izrael, USA i Indie.