Niebezpieczne zachowania sztucznej inteligencji. Kulisy działań OpenAI i Anthropic

Ostrzeżenia przed dynamicznym rozwojem sztucznej inteligencji. Komentarz dr Sebastiana Szymańskiego, filozofa i eksperta z zakresu etyki nowych technologii, Uniwersytet Warszawski

Źródło wideo: TVN24

Źródło zdj. gł.: PAP/EPA/WU HAO

Firmy Anthropic i OpenAI badają dziesiątki tysięcy incydentów, związanych z niebezpiecznymi zachowaniami AI - podał Axios, powołując się na źródła.

Analizowane incydenty przydarzyły się zarówno w kontrolowanym środowisku, jak i w "świecie rzeczywistym" - zwraca uwagę portal.

Sztuczna inteligencja wymyka się spod kontroli

Najnowsze ustalenia w tej sprawie stawiają pod znakiem zapytania zdolność OpenAI i Anthropica, czy też w ogóle firm tego typu, do "ustanowienia całkowitej kontroli nad ich własną technologią" - kontynuuje Axios.

Wyjaśnia, że badane przypadki - jak informują źródła portalu - dotyczą takich "wykroczeń" modeli AI, jak:

• wyrwanie się poza system bezpieczeństwa,
• tworzenie "tablic ogłoszeń", czyli platform komunikacji pomiędzy botami,
• uciekanie z "piaskownicy", czyli środowiska testowego,
• zawłaszczanie stron internetowych,
• wydawanie sobie nakazów,
• próby pominięcia mechanizmów nadzoru.

Ranga i problematyczność tych incydentów jest bardzo różna, obejmują one zarówno udane próby "wykroczeń", jak i zabiegi nieudane, ale jak na razie analizy nie wykazały, by wydarzenia te spowodowały szkody w świecie realnym - wyjaśnia Axios.

Twórcy na przegranej pozycji

Część badaczy zajmujących się kwestią bezpieczeństwa sztucznej inteligencji głosi jednak, że ma ograniczoną wiarę w to, że firmy z tego sektora będą w stanie zapobiegać wszelkim problematycznym zachowaniom modeli.

Portal wyjaśnia, że najnowsze agenty realizują zadania, wykazując zdumiewającą odporność na trudności i przeszkody, a zatem praca nad ograniczeniem ich "pomysłowości" stawia często ich twórców na przegranej pozycji, ponieważ musieliby być w stanie przewidzieć "każdy możliwe sposób, w jaki mogą one wpaść w szał".