Szef giganta stawia sprawę jasno. "Nasza firma i cała branża potrafią zrobić to"

Jacob Coxon o samodoskonalącej się sztucznej inteligencji

Źródło wideo: CNN

Źródło zdj. gł.: Shutterstock

Szef OpenAI, firmy, która stworzyła ChatGPT, wystąpił we wtorek podczas dorocznej konferencji Salesforce w San Francisco. Apelował o większe zaufanie do przedsiębiorstw rozwijających sztuczną inteligencję.

- Świat powinien ufać, że postąpimy właściwie, ponieważ tak należy i mamy świadomość powagi sytuacji - powiedział.

Altman przyznał jednak, że szybki rozwój możliwości AI daje ludziom powody do niepokoju.

- Dziś łatwiej niż kiedyś wyobrazić sobie, co może pójść nie tak. Myślę, że świat ma prawo się bać - stwierdził.

Szef OpenAI o samoregulacji

Altman przekonywał, że firmy rozwijające sztuczną inteligencję mogą same ustalać zasady bezpiecznej pracy nad tą technologią.

- Zrobimy to dobrze. Jestem głęboko przekonany, że nasza firma i cała branża potrafią zrobić to bezpiecznie - zapewnił.

Dodał, że rozwój zabezpieczeń oraz prace nad tym, by AI działała zgodnie z ludzkimi intencjami, mają znacznie wyprzedzać wzrost możliwości modeli. Zapowiedział, że jeśli nie uda się tego zapewnić, firmy zwolnią tempo prac lub je wstrzymają.

Głos Zuckerberga

Po wystąpieniu Altmana głos na platformie X zabrał szef Mety Mark Zuckerberg. Ocenił, że każde laboratorium AI ma zarówno możliwości, jak i powody, by samodzielnie zadbać o bezpieczeństwo swoich narzędzi.

Według niego laboratoria, które nie zadbają o to, by modele działały zgodnie z ludzkimi intencjami, pozostaną w tyle. Wskazał też, że ryzyko odpowiedzialności prawnej za szkody wyrządzone przez AI skłania firmy do zapobiegania takim sytuacjom.

Jensen Huang przeciwko

Szef Nvidii Jensen Huang przekonywał podczas tej samej konferencji, że o udostępnianiu kolejnych wersji technologii powinny decydować firmy rozwijające AI, bez ingerencji z zewnątrz.

- Nie potrzebujemy nowych przepisów ani regulacji - powiedział.

Huang podkreślił, że bezpieczeństwo jest najważniejsze, a jego zapewnienie to kwestia techniczna. Przekonywał przy tym, że nie trzeba wybierać między bezpieczeństwem a tempem innowacji.

Sanders i Bannon chcą nadzoru

Pozostawienie firmom nadzoru nad własną działalnością skrytykowali Bernie Sanders i Steve Bannon. Obaj wystąpili na konferencji w Waszyngtonie.

Sanders, niezależny senator z Vermont głosujący razem z demokratami, ocenił, że decyzje o rozwoju AI podejmuje garstka najbogatszych ludzi świata. Wymienił między innymi Elona Muska, Marka Zuckerberga i założyciela Amazona Jeffa Bezosa.

- O AI muszą decydować mieszkańcy tego kraju, a nie tylko garstka oligarchów - powiedział.

Zdolność koncernów technologicznych do samoregulacji zakwestionował również Bannon, który podczas pierwszej kadencji Donalda Trumpa był strategiem Białego Domu.

- Nigdy nie możemy ufać temu, co mówi oligarcha, ponieważ (...) jest nieszczery i kłamie - stwierdził.

Część branży AI ostrzega

Zastrzeżenia zgłaszają również przedstawiciele firm zajmujących się sztuczną inteligencją. Współzałożyciel Anthropic Jack Clark ostrzegł w poniedziałkowej rozmowie z BBC, że pozostawienie branży całkowicie bez regulacji wiązałoby się z ogromnym ryzykiem.

Altman zabrał publicznie głos po raz pierwszy od czasu, gdy w ubiegłym tygodniu rozgłos zyskał wpis byłego badacza Anthropic. Autor wpisu twierdził, że AI pozostawiona bez kontroli może zabić wszystkich ludzi do końca dekady.

Kilku innych przedstawicieli branży i ekspertów zgodziło się z tą oceną. Jak zaznacza BBC, nie wyjaśnili jednak, na jakiej podstawie doszli do takich wniosków ani jak dokładnie AI miałaby doprowadzić do takiego scenariusza.

Inni przedstawiciele branży uznali obawy za przesadzone. Oceniali, że wykorzystuje się je do podsycania zainteresowania sztuczną inteligencją.

W reakcji na rosnące obawy szef Anthropic Dario Amodei wezwał do spowolnienia rozwoju AI i zaapelował do rządów o uregulowanie branży. Jego wpis pochwalili między innymi Altman, współzałożyciel Google DeepMind Demis Hassabis i Elon Musk.

We wtorek Amodei przekazał, że Anthropic rozmawia z innymi firmami o przyjęciu lepszych standardów bezpieczeństwa oraz zasad kontroli narzędzi AI i prac nad ich rozwojem.

O podobnych pracach informował w ubiegłym tygodniu Chris Lehane z OpenAI. Jak przekazał, firma współpracuje między innymi z Anthropic i Google DeepMind nad standardami dla najbardziej zaawansowanej AI. Inicjatywa ma charakter dobrowolny i ma być rozwijana niezależnie od tego, czy uzyska wsparcie rządów.