Trump o rozwoju AI: dlaczego mielibyśmy z tego rezygnować?

Jacob Coxon o samodoskonalącej się sztucznej inteligencji

Źródło wideo: CNN

Źródło zdj. gł.: Reuters

Trump powiedział w rozmowie z Fox News podczas turnieju golfowego Presidents Cup w Illinois, że rozumie obawy Amodeia związane z szybkim rozwojem AI. Uznał jednak, że dla USA ważniejsze jest utrzymanie przewagi nad Chinami w rozwoju tej technologii.

- Wyprzedzamy Chiny mniej więcej o półtora roku - powiedział Trump.

- Prowadzimy i budujemy ogromne obiekty warte biliony dolarów. Dlaczego mielibyśmy z tego rezygnować? - dodał.

Ostrożne podejście szefa Antrophic

Amodei należy do przedstawicieli branży technologicznej, którzy ostrzegają przed zagrożeniami związanymi z coraz bardziej zaawansowanymi systemami AI.

Do spowolnienia ich rozwoju wzywali również szefowie firm konkurujących z Anthropic, w tym OpenAI, Google DeepMind, Microsoft i xAI.

Trump o incydentach z agentami AI

Dyskusja o możliwej interwencji władz federalnych nasiliła się po tym, jak OpenAI poinformowało w lipcu o autonomicznym agencie AI, który podczas testu bezpieczeństwa wymknął się spod kontroli i włamał do innej firmy.

Trump ocenił, że podobne incydenty nie są powodem do niepokoju.

- Nie martwię się tym - powiedział.

Reuters przypomina, że Trump już wcześniej określał falę ostrzeżeń dotyczących zagrożeń związanych ze sztuczną inteligencją jako oszustwo.

Bill Gates chce rozmawiać z Trumpem o zabezpieczeniach

Z Trumpem na temat regulacji AI chciałby porozmawiać również współzałożyciel Microsoftu Bill Gates. Powiedział o tym w wyemitowanym w niedzielę programie NBC "Meet the Press".

- Mam nadzieję, że biorąc pod uwagę pracę całego mojego życia w tej dziedzinie, moje słowa o tym, jak wyjątkowa i odmienna jest ta technologia oraz jak bardzo jestem zaniepokojony, dołączą do tego, co słyszy od innych ludzi - powiedział Gates.

Jego zdaniem w rozmowę o bezpieczeństwie AI muszą włączyć się władze.

- Organy ścigania i politycy muszą włączyć się do dyskusji o tym, jak powinny wyglądać zabezpieczenia i nadzór. I musi to być obowiązkowe - powiedział.

Gates nie zgodził się również z określaniem ostrzeżeń dotyczących AI jako oszustwa.

- To wcale nie jest oszustwo - stwierdził.

Według Gatesa odpowiednie zabezpieczenia nie muszą znacząco ograniczać rozwoju branży, a ryzyko związane z ich brakiem jest realne.

Ostrzeżenia przed skutkami rozwoju AI

Obawy nasiliły się we wrześniu, gdy badacze zajmujący się bezpieczeństwem AI zaczęli wskazywać konkretne ramy czasowe i prawdopodobieństwo najpoważniejszych scenariuszy.

Były badacz Anthropic Jacob Coxon ostrzegł, że AI może doprowadzić do śmierci wszystkich ludzi jeszcze przed końcem dekady. Gates, pytany o podobne ostrzeżenia, powiedział NBC: AI z pewnością jest wystarczająco potężna, by wywołać wydarzenia, które mogą spowodować śmierć miliarda ludzi.

Podobne obawy wyraził Evan Hubinger, odpowiedzialny w Anthropic za badania nad dostosowaniem systemów AI do ludzkich celów. Ocenił, że prawdopodobieństwo takiego zdarzenia w ciągu najbliższej dekady przekracza 10 procent. Reuters odnotował tę ocenę również w swoim niedawnym materiale dotyczącym obaw Amerykanów wobec bezpieczeństwa AI.