Odszedł z giganta i alarmuje. "Zaistnieje ryzyko, że wszyscy możemy wyginąć"

Jacob Coxon o samodoskonalącej się sztucznej inteligencji

Źródło wideo: CNN

Źródło zdj. gł.: Shutterstock

Coxon zastrzegł, że obecne modele AI nie stwarzają ryzyka wyginięcia ludzi. Nie oznacza to jednak, że nie mogą wyrządzać poważnych szkód.

- W tej chwili nie ma ryzyka zagłady. Obecne modele - najgorsze, co mogą zrobić, to włamać się gdzieś, potencjalnie spowodować duże szkody w infrastrukturze, ale nie są na tyle inteligentne, by przechytrzyć nas na poziomie, który doprowadziłby do naszego wyginięcia - powiedział w wywiadzie dla CNN.

AI zdolna do samodoskonalenia

Obawy badacza dotyczą przede wszystkim możliwości powstania systemów, które samodzielnie zwiększałyby swoje możliwości. W rozmowie opisał ten proces jako rekurencyjne samodoskonalenie.

- Szalone jest za to tempo postępu i istnieje bardzo realna możliwość, że w najbliższej przyszłości dojdzie do rekurencyjnego samodoskonalenia i wejdziemy w fazę, w której zaistnieje ryzyko, że wszyscy możemy wyginąć. Tak, to już wkrótce - podkreślił Coxon.

Coxon wskazuje na presję

Opisał także sytuację osób pracujących nad sztuczną inteligencją. Z jego relacji wynika, że świadomość zagrożeń nie wystarcza, by zahamować rywalizację.

- Ludzie w tej branży znaleźli się w sytuacji, w której czują się zmuszeni uczestniczyć w wyścigu w kierunku stworzenia potencjalnie śmiercionośnej technologii - powiedział.

W tym kontekście badacz mówił o międzynarodowym nadzorze, który pozwoliłby kontrolować tempo rozwoju AI.

- Chcieliby, żeby istniała jakaś międzynarodowa instytucja, która wymagałaby rozwijania tych technologii w rozsądnym tempie. Obawiają się jednak, że inni zrobią to szybciej i mniej bezpiecznie, dlatego sami czują, że również muszą się spieszyć - wyjaśnił.

Dlaczego Coxon odszedł z Anthropic

27-letni Brytyjczyk ogłosił odejście z Anthropic w mediach społecznościowych oraz w wywiadzie dla "Wall Street Journal". Do firmy przeszedł w tym roku z OpenAI, licząc na większy nacisk na bezpieczeństwo. Ostatecznie zarzucił obu przedsiębiorstwom nieodpowiedzialny pośpiech w dążeniu do stworzenia superinteligencji.

Evan Hubinger, kierownik działu w Anthropic, również wyraził obawy dotyczące przyszłych systemów zdolnych do samodoskonalenia. W jego ocenie firma dokłada wszelkich starań w kwestii bezpieczeństwa, ale nie ma jeszcze planu zapewnienia, by superinteligencja działała zgodnie z intencjami ludzi. Ryzyko związane z obecnymi modelami uznał za niewielkie.