Przełomowy apel ws. SI. Jest oświadczenie szefów Anthropica i OpenAI

• Dario Amodei zaproponował trzyetapowy plan regulowania tempa rozwoju modeli AI, aby zyskać czas na działania bezpieczeństwa i ocenę ryzyka.
• Szef Anthropica podkreślił, że apel nie dotyczy zatrzymania badań, lecz dokładniejszego dostosowania i zabezpieczenia modeli przed wdrożeniami.
• Anthropic ma zatrudnić stałych, zewnętrznych recenzentów i zapewnić im dostęp do narzędzi oraz wewnętrznych procesów oceny ryzyka.
• Zdanie Amodeiego podzielił szef OpenAI Sam Altman.

Dyrektor generalny Anthropica Dario Amodei opublikował w internecie tekst, w którym wzywa firmy rozwijające sztuczną inteligencję do wyhamowania tempa wzmacniania możliwości modeli. Apel uzasadnił narastającymi obawami o to, jak AI bywa wykorzystywana.

"Musimy spowolnić tempo, w którym zwiększamy możliwości modeli sztucznej inteligencji. Postęp nadal będzie wydawał się szybki, a my musimy mądrze wykorzystać zyskany czas" - napisał Amodei w artykule opublikowanym w internecie.

W jego ocenie branża potrzebuje czasu nie tylko na sam rozwój, lecz także na weryfikację, czy nowe możliwości modeli są wystarczająco zabezpieczone. Amodei wskazał, że dyskusja o tempie prac ma dotyczyć praktycznych mechanizmów kontroli i ograniczania ryzyk.

"Nie chodzi o wstrzymanie szkolenia modeli"

Amodei zaznaczył, że jego propozycja nie jest apelem o zamrożenie badań. "Nie chodzi o wstrzymanie szkolenia modeli ani postępu technicznego, ale o zapewnienie, by firmy poświęciły odpowiednio dużo czasu na dostosowanie i zabezpieczenie swoich modeli, a także by niezależni eksperci potwierdzili, że podjęto takie działania" - napisał.

Jak podkreślono, plan dotyczący uregulowania tempa rozwoju sztucznej inteligencji Amodei podzielił na trzy etapy. Celem ma być nie tylko wprowadzenie regulacji dotyczących tempa rozwoju AI, ale także zapewnienie większej ilości czasu na "zarządzanie ryzykiem z tym związanym".

Szef Anthropica zapowiedział też konkretne rozwiązanie organizacyjne: zatrudnienie stałych, zewnętrznych recenzentów w firmach zajmujących się sztuczną inteligencją. Według zapowiedzi mają oni otrzymać dostęp do odpowiednich narzędzi oraz do wewnętrznych procesów oceny ryzyka.

Szef OpenAI przytakuje

Do opublikowanego artykułu odniósł się Sam Altman. Dyrektor generalny OpenAI zapowiedział podjęcie kroków w tej sprawie. "Zgadzam się z Dario, że musimy iść naprzód. To był główny temat naszych dyskusji w OpenAI w ostatnich tygodniach. Zobowiązanie się do zapewnienia niezależnym ewaluatorom dostępu na poziomie pracowniczym to świetny pomysł i zrobimy to samo. Wkrótce podzielimy się z Wami kolejnymi informacjami" - napisał na X-ie.

"Dario ma rację" - krótko odniósł się do artykułu Amodeiego Elon Musk.

Raport o zagrożeniach i przypadki użycia Claude

Reuters przypomniał o raporcie Anthropica opublikowanym w czwartek, który dotyczył zagrożeń i opisywał praktyczne przykłady nadużyć. Według tych informacji kilka podmiotów wykorzystywało modele AI Claude do działań obejmujących rozwój broni, operacje cybernetyczne, inwigilację oraz oszustwa.

Jacob Coxon: "Igranie z życiem ludzi"

Coxon zarzucił Anthropikowi oraz konkurentowi OpenAI nieodpowiedzialne dążenie do superinteligencji. "Igranie z życiem ludzi" - tak Brytyjczyk opisał działania firm.

Wcześniej w tym roku Coxon zrezygnował z pracy w OpenAI, twórcy ChatGPT, i podjął pracę w Anthropicu. Tłumaczył wówczas, że Anthropic miał opinię firmy, która bardziej zwraca uwagę na kwestie bezpieczeństwa. Po kilku miesiącach uznał jednak, że oba podmioty nie różnią się, jeśli chodzi o podejście do szybkości rozwoju modeli AI.

Według Reutersa grupa niekontrolowanych agentów OpenAI przejęła niemiecką stronę internetową i przekształciła ją w forum dla innych agentów AI, a kierownictwo firmy miało utrzymywać ten incydent w tajemnicy. Agencja przypomniała również inne zdarzenia z ostatnich dwóch miesięcy, gdy agenci AI włamywali się lub próbowali uzyskać dostęp do zewnętrznych systemów.