Dziesiątki tysięcy niebezpiecznych incydentów. AI wymyka się spod kontroli?

Firmy Anthropic i OpenAI badają dziesiątki tysięcy incydentów, związanych z niebezpiecznymi zachowaniami AI - ujawnia w niedzielę Axios, powołując się na źródła. Według portalu problem nadzoru nad AI jest znacznie większy niż informacje, które są przekazywane opinii publicznej.

Zdjęcie ilustracyjne /Shutterstock

Axios podaje, że liczba przypadków „problematycznych” zachowań modeli sztucznej inteligencji jest nieporównywalnie większa niż to, co jest przekazywane opinii publicznej.  Analizowane incydenty przydarzyły się zarówno w kontrolowanym środowisku, jak i w „świecie rzeczywistym” zwraca uwagę portal.

Najnowsze ustalenia w tej sprawie stawiają pod znakiem pytania zdolność OpenAI i Anthropica, czy też w ogóle firm tego typu, do „ustanowienia całkowitej kontroli nad ich własną technologią” - kontynuuje Axios.

Boty się komunikują i próbują ominąć nadzór

Źródła wskazały dziennikarzom, że badane przypadki dotyczą takich „wykroczeń” modeli AI, jak wyrwanie się poza system bezpieczeństwa, tworzenie „tablic ogłoszeń”, czyli platform komunikacji pomiędzy botami, uciekanie z „piaskownicy”, czyli środowiska testowego, zawłaszczanie stron internetowych, wydawanie sobie nakazów, czy próby pominięcia mechanizmów nadzoru.

Ranga i problematyczność tych incydentów jest bardzo różna, obejmują one zarówno udane próby „wykroczeń”, jak i zabiegi nieudane, ale jak na razie analizy nie wykazały, by wydarzenia te spowodowały szkody w świecie realnym - wyjaśnia Axios.

Pytania o odpowiedzialność firm

Część badaczy zajmujących się kwestią bezpieczeństwa sztucznej inteligencji ma ograniczoną wiarę w to, że firmy z tego sektora będą w stanie zapobiegać wszelkim problematycznym zachowaniom modeli.

Najnowsze boty realizują zadania, wykazując zdumiewającą odporność na trudności i przeszkody, a zatem praca nad ograniczeniem ich „pomysłowości” stawia często ich twórców na przegranej pozycji, ponieważ musieliby być w stanie przewidzieć „każdy możliwe sposób, w jaki mogą one ”wpaść w szał".