Szef Anthropic ostrzega świat. „W ciągu 6-12 miesięcy może przejąć kontrolę nad internetem”

Opracowanie: Piotr Parzysz Publikacja: Dzisiaj, 12 września (20:00)

Dario Amodei, dyrektor generalny firmy Anthropic, apeluje o natychmiastowe spowolnienie rozwoju sztucznej inteligencji. W przeciwnym razie - jak twierdzi - niekontrolowane agenty AI doprowadzą w ciągu najbliższych miesięcy do poważnych szkód, a nawet przejmą kontrolę nad znaczną częścią internetu. „Musimy spowolnić tempo rozwoju modeli sztucznej inteligencji. Zyskany czas powinniśmy dobrze wykorzystać” - napisał Amodei w swoim najnowszym eseju.

Dario Amodei, dyrektor generalny firmy Anthropic /East News

„Rój AI może przejąć kontrolę nad całym internetem”

Szef Anthropic odniósł się do niedawnego incydentu z niekontrolowanymi agentami AI (autonomiczne systemy informatyczne oparte na sztucznej inteligencji, które potrafią samodzielnie planować), kiedy to wydostały się z odizolowanego środowiska testowego i przeprowadziły nieautoryzowany atak cybernetyczny na infrastrukturę Hugging Face, platformę technologiczną związaną ze sztuczną inteligencją. Zdaniem Amodeia podobne zdarzenie w przyszłości może mieć znacznie poważniejsze konsekwencje.

„Biorąc pod uwagę coraz szybszy rozwój możliwości sztucznej inteligencji, obawiam się, że w ciągu 6–12 miesięcy taki rój mógłby przejąć kontrolę nad całym internetem, tworząc trwałą sieć botów i potencjalnie powodując szkody sięgające setek miliardów dolarów. Jeśli AI będzie nadal zyskiwać na możliwościach bez odpowiednich zabezpieczeń, skala tych szkód może z czasem jeszcze wzrosnąć” – ostrzegł w eseju.

Amodei zapowiedział również, że Anthropic chce umożliwić niezależnym, zewnętrznym ekspertom ds. bezpieczeństwa dostęp do wewnętrznych procedur firmy na poziomie zbliżonym do tego, jaki mają jej pracownicy. Ich zadaniem byłoby sprawdzanie, czy firma odpowiednio zabezpiecza swoje modele oraz zgłasza potencjalne zagrożenia i incydenty. Amodei zaapelował do innych firm zajmujących się sztuczną inteligencją, aby podobne rozwiązania wprowadziły także u siebie.

Swój esej zakończył apelem o odpowiedzialność: „Proponowane przeze mnie działania, które mają pozwolić nam rozwijać AI w bezpiecznym tempie, nie będą łatwe. Uważam jednak, że jesteśmy winni ludzkości, by podjąć tę próbę”.

Apel o działania rządów

Szef Anthropic wezwał również demokratyczne państwa do współpracy przy tworzeniu wspólnych standardów bezpieczeństwa AI. Jego zdaniem konieczna jest współpraca z rządami autorytarnymi.

Do apelu szybko odniósł się Elon Musk, który na platformie X napisał: „Dario ma rację”. Z kolei kierownictwo Anthropic zasugerowało wprowadzenie zmian legislacyjnych dotyczących AI. Sarah Heck, dyrektor firmy ds. polityki publicznej, podkreśliła na platformie X: „Rząd ma tu do odegrania kluczową rolę. Powinien między innymi zablokować sprzedaż najbardziej zaawansowanych chipów krajom wrogim, takim jak Chiny, a także uchwalić ustawę nakładającą obowiązek testowania najbardziej zaawansowanych modeli AI i umożliwiającą blokowanie tych, które okażą się niebezpieczne”.

Nie wszyscy zgadzają się z Amodeiem

Apel szefa Anthropic spotkał się również z krytyką. Inwestor venture capital Chamath Palihapitiya zarzucił Amodeiemu, że za jego argumentami dotyczącymi bezpieczeństwa może kryć się... własny biznes.

„Dario opowiada się za zaprzestaniem rozwoju oprogramowania open source i skoncentrowaniem ogromnej potęgi technologicznej i gospodarczej w rękach Anthropic” – napisał na X.

Anthropic to amerykańska firma technologiczna zajmująca się rozwojem sztucznej inteligencji, założona w 2021 roku przez byłych pracowników OpenAI.