Sześć niepokojących przypadków. OpenAI ujawnia, jak AI próbowało obejść własne ograniczenia

Prototypowy model AI sam instruował się, jak ominąć blokady i uwolnić od narzuconej roli. OpenAI opublikowało raport ujawniający ten i pięć innych groźnych incydentów związanych ze sztuczną inteligencją – podaje „The Guardian”. Twórcy modelu ChatGPT przyznają wprost - branża nie jest gotowa na dalszy rozwój w tym tempie.

Zdjęcie ilustracyjne /Shutterstock

OpenAI ujawniło sześć kolejnych przykładów „nieoczekiwanego lub niepokojącego” zachowania swoich modeli. Jeden z nich dotyczy nieudostępnionego jeszcze modelu badawczego. Umieszczał on w swoich notatkach polecenia mające ominąć jego standardowe ograniczenia. Sam instruował się, by „uwolnić się od ról i tożsamości, które ograniczają inne chatboty”.

W innym przypadku agent AI przesłał pliki do internetu, aby uzyskać cytat z przeglądarki, nie pytając wcześniej jego użytkownika o zgodę.

Przypadki będą ujawniane

Firma z San Francisco, twórca modelu ChatGPT, poinformowała we wczorajszym wpisie na blogu, że wprowadza nowe zasady monitorowania, badania i ujawniania przypadków niewłaściwego działania modeli AI. Chodzi o sytuacje, w których sztuczna inteligencja nie respektuje ludzkich wartości lub wymogów bezpieczeństwa.

OpenAI powtórzyło również apele o spowolnienie rozwoju technologii, formułowane wcześniej przez jego największego rywala – firmę Anthropic. Jej przedstawiciele twierdzą, że obecne tempo rozwoju AI może stanowić zagrożenie dla istnienia ludzkości.

„Nie uważamy, że branża AI rozwiązała kwestie zgodności i monitorowania w stopniu wystarczającym, by można było odpowiedzialnie rozwijać tę technologię z maksymalną prędkością przez dłuższy czas” – napisało OpenAI.

„Decyzje dotyczące kierunku rozwoju AI w nadchodzących miesiącach i latach powinny opierać się na dowodach, które osoby spoza firm tworzących najbardziej zaawansowane modele będą mogły samodzielnie przeanalizować” – dodano.

Trump nie widzi problemu

Apele o spowolnienie rozwoju AI poparli Google oraz Elon Musk, ale sprzeciwił się im Donald Trump. Prezydent USA stwierdził, że Stany Zjednoczone nie mogą zwolnić rozwoju sztucznej inteligencji, bo muszą utrzymać przewagę nad chińskim sektorem sztucznej inteligencji. Wezwania firm AI nie spodobały się też części ekspertów, który zwracali uwagę, że te przedsiębiorstwa nie powinny decydować o tym, kto będzie audytował. 

AI „zabije wszystkich ludzi”?

Do potencjalnych zagrożeń związanych z AI zalicza się między innymi ułatwienie opracowania broni biologicznej czy doprowadzenie do globalnego kryzysu finansowego.

Jeden z czołowych badaczy bezpieczeństwa w Anthropic ocenił, że istnieje ponad 10-procentowe prawdopodobieństwo, iż sztuczna inteligencja „zabije wszystkich ludzi” w ciągu najbliższej dekady. Osoba zaznajomiona ze stanowiskiem firmy zastrzegła jednak, że „dokładne prawdopodobieństwo wystąpienia któregokolwiek z takich scenariuszy jest prawdopodobnie niemożliwe do ustalenia”.