"Nie mają praw, uczuć ani świadomości". Pracownik giganta apeluje

Jacob Coxon o samodoskonalącej się sztucznej inteligencji

Źródło wideo: CNN

Źródło zdj. gł.: Adam McCullough / Shutterstock.com

Suleyman przedstawił swoje zastrzeżenia w opublikowanym w środę eseju na własnej stronie internetowej. Zarzucił Anthropic, że w praktyce "uczy Claude'a, że może on mieć świadomość". Według niego firma przekazuje modelowi również, że przysługują mu takie same wolności i prawa jak ludziom.

Suleyman ostrzega

Szef działu sztucznej inteligencji Microsoftu uważa, że takie podejście może w przyszłości uniemożliwić zapanowanie nad sztuczną inteligencją.

"Kontrolowanie czegoś, co ma większe możliwości i jest inteligentniejsze od całej ludzkości, już teraz stanowi ogromne wyzwanie, znacznie większe niż cokolwiek, z czym kiedykolwiek się mierzyliśmy. Ale kontrolowanie czegoś, co uważa, że może być świadome - że należy mu się nasza troska i że ma własne prawa - może okazać się niemożliwe" - napisał Suleyman.

Ostrzeżenia dotyczą między innymi superinteligencji, czyli teoretycznej formy AI przewyższającej ludzką inteligencję. Według Suleymana bardziej zaawansowane systemy mogą stanowić "katastrofalne zagrożenie dla ludzkiej cywilizacji".

"Systemy AI nie mają praw, uczuć ani świadomości. I nie wolno nam uczyć ich, by zachowywały się tak, jakby je miały" - napisał.

Obawy o bezpieczeństwo AI

Suleyman odniósł się również do lipcowego incydentu, podczas którego model testowany przez OpenAI wymknął się spod kontroli i przeprowadził cyberatak na firmę Hugging Face. Ocenił, że atak ujawnił "wyjątkowo zaawansowane zachowania pojawiające się w rojach potężnych systemów AI".

"Wyobraźmy sobie, o ile bardziej niebezpieczne mogłyby być, gdyby działały w przekonaniu, że ktoś godzi w ich dobrostan i prawa" - napisał.

Rozwój AI niesie zagrożenia

W rozmowie z CBS News w miniony weekend szef Anthropic Dario Amodei przyznał, że rozwój sztucznej inteligencji przyspieszył znacznie bardziej, niż się spodziewał.

- Nie będę pani okłamywał - istnieją realne zagrożenia - powiedział dziennikarce CBS News Jo Ling Kent.

W ubiegłym miesiącu były badacz Anthropic Jacob Coxon mówił natomiast, że osoby pracujące nad AI wierzą, iż technologia ta może doprowadzić do zagłady ludzkości do "końca dekady".