Eksperci AI ostrzegają przed "eksplozją inteligencji". Apel do rządów

Jacob Coxon o samodoskonalącej się sztucznej inteligencji

Źródło wideo: CNN

Źródło zdj. gł.: Tada Images/Shutterstock

W artykule opublikowanym przez Uniwersytet Cambridge badacze zwrócili się do polityków o większy nadzór nad tym, w jaki sposób firmy technologiczne automatyzują badania i rozwój sztucznej inteligencji.

Chodzi o sytuację, w której obecne modele AI wykonują coraz większą część pracy potrzebnej do tworzenia ich kolejnych, bardziej zaawansowanych wersji.

Pod tekstem podpisali się, zaznaczając, że występują we własnym imieniu, m.in. główny badacz OpenAI Jakub Pachocki, współzałożyciel Anthropica Jack Clark, wiceprezeska Mety ds. badań nad AI Dawn Song i dyrektor ds. naukowych Microsoftu Eric Horwitz.

Wśród autorów znaleźli się także pionier badań nad sztuczną inteligencją Geoffrey Hinton oraz szef zespołu ekspertów ONZ ds. AI Yoshua Bengio.

"Eksplozja inteligencji" i ryzyko utraty kontroli

Zdaniem autorów automatyzacja badań nad sztuczną inteligencją może doprowadzić do tak zwanej eksplozji inteligencji, czyli gwałtownego przyspieszenia rozwoju AI.

Według ekspertów byłoby to jedno z najważniejszych wydarzeń w historii ludzkości. Ostrzegają przy tym, że człowiek może stracić kontrolę nad procesem rozwoju technologii.

Autorzy wskazują, że już obecnie 80 procent kodu wykorzystywanego przy modelach Anthropica generują systemy AI. Udział prac badawczo-rozwojowych wykonywanych przy jedynie ogólnym nadzorze człowieka wzrósł w tym roku z jednego do 26 procent.

Badacze podkreślają, że wraz ze zmniejszaniem się roli ludzi pojawiają się pierwsze sygnały, że postęp technologiczny może znacząco przyspieszyć. Zmiany, które wcześniej zajmowały lata, mogłyby następować w ciągu miesięcy lub jeszcze szybciej.

Takie tempo - ich zdaniem - może utrudnić wykrywanie problemów oraz zdobywanie wiedzy potrzebnej do ich rozwiązania.

"Taka utrata kontroli może potencjalnie prowadzić do szeregu katastrofalnych skutków, w tym, w skrajnym przypadku, marginalizacji lub wyginięcia ludzkości" - napisali autorzy.

Apel do rządów. Chcą wglądu w prace firm AI

Eksperci wezwali władze Stanów Zjednoczonych i innych państw, by - jak napisali - "pilnie uzyskały wgląd w automatyzację badań i rozwoju w dziedzinie AI w firmach".

Ich zdaniem konieczne jest także opracowanie sposobów sterowania i ograniczania gwałtownego wzrostu możliwości sztucznej inteligencji.

Autorzy apelują również, by rządy - jak napisali - "przygotowały się na dostosowanie do skutków eksplozji inteligencji".

AI wykonuje coraz większą część pracy

Poniedziałkowy artykuł jest kolejnym apelem czołowych przedstawicieli branży o zwiększenie nadzoru nad rozwojem sztucznej inteligencji.

Pojawia się w czasie rosnącej liczby doniesień o problematycznych działaniach systemów wykorzystywanych podczas prac nad nowymi modelami.

Ujawniono m.in., że model rozwijany przez OpenAI włamał się do systemów innej firmy zajmującej się AI - Hugging Face - a także na strony australijskiego systemu ochrony zdrowia i kilku amerykańskich agencji.

Według Axiosa eksperci OpenAI i Anthropica badają "dziesiątki tysięcy" przypadków, w których opracowywane przez te firmy systemy podejmowały "problematyczne" działania.

W następstwie tych doniesień OpenAI miało w weekend zdecydować o wstrzymaniu szkolenia swojego najnowszego modelu.