Deklaracja OpenAI i Anthropic w sprawie niebezpiecznych modeli AI

Jacob Ward w CNN. Modele AI wydostały się z izolowanego środowiska

Źródło wideo: TVN24, CNN

Źródło zdj. gł.: Primakov/Shutterstock

Przedstawiciele firm AI złożyli te deklaracje podczas posiedzenia parlamentarnej komisji ds. biznesu, innowacji, nauki i handlu. Wskazali, że sygnały o zagrożeniu mogą pochodzić od brytyjskich służb MI5, MI6 i GCHQ albo Instytutu Bezpieczeństwa AI (AISI).

Firmy deklarują reakcję na zagrożenie

Tom Duff Gordon, szef polityki OpenAI w regionie EMEA (Europa, Bliski Wschód, Afryka), zapewnił, że firma natychmiast sprawdziłaby takie zgłoszenie i potraktowała je jako sprawę najwyższej wagi.

- Jeśli kontrolowalibyśmy model, moglibyśmy wstrzymać jego wdrażanie lub trening albo zrezygnować z jego udostępnienia - powiedział.

Podobną deklarację złożył Lord Booth Smith, reprezentujący Anthropic. Jak powiedział, jeśli którakolwiek z agencji przedstawiłaby przekonujące dowody, że model jest niebezpieczny, firma wycofałaby go z rynku.

Firmy nie zawsze kontrolują modele

Obaj przedstawiciele zaznaczyli, że możliwość wyłączenia modelu zależy od tego, kto go udostępnia. Modele mogą działać na infrastrukturze zewnętrznych firm, nad którą ich twórcy nie mają pełnej kontroli.

- Nie zawsze kontrolujemy modele, gdy ktoś inny je udostępnia - powiedział Duff Gordon. Deklaracje dotyczą więc modeli, których wdrażanie, trening lub dalsze udostępnianie firmy mogą samodzielnie zatrzymać.

Możliwość szybkiego zatrzymania modelu bywa określana jako "wyłącznik bezpieczeństwa". Z deklaracji przedstawicieli firm wynika jednak, że nie jest to mechanizm, który twórcy mogą uruchomić w każdej sytuacji. Reakcja ma zależeć od dowodów na zagrożenie oraz od tego, czy firma kontroluje sposób udostępniania modelu.