Szef OpenAI: świat powinien zaakceptować część ryzyka związanego z AI

Liderzy branży AI po spotkaniu z Donaldem Trumpem

Źródło wideo: TVN24

Źródło zdj. gł.: PAP/EPA/SARAH YENESEL

- Uważamy, że świat powinien pogodzić się z pewnymi negatywnymi konsekwencjami na rzecz korzyści, jakie przynosi ta technologia, oraz wolności działania, jaką daje ludziom - powiedział Altman w wywiadzie dla branżowego biuletynu technologicznego portalu Politico - "Decoded".

Sam Altman o zagrożeniach związanych z AI

Altman zaznaczył, że między OpenAI a konkurencyjną firmą Anthropic wciąż istnieje fundamentalna różnica światopoglądowa w kwestii regulacji AI. - Sądzę, że dzieli nas bardzo wiele - powiedział.

- Nie zgadzam się z tym, ale rozumiem punkt widzenia ludzi, którzy mówią: "Ta technologia stanie się tak potężna i jest tak niebezpieczna, że powinno ją posiadać jedno laboratorium w San Francisco, które dopilnuje, by nie stało się nic złego, i w pewien sposób zdecyduje, jak rozdzielać korzyści" - dodał Altman.

Nazwał to "całkowicie nieakceptowalnym kompromisem", który stoi w sprzeczności z "łagodniejszym podejściem regulacyjnym" popieranym przez OpenAI.

- Nie poszedłbym na układ polegający na deklaracji: "Dopilnujemy, aby nie było żadnych poważnych ataków hakerskich, żadnego nadużywania tej technologii, zero oszustw i zero jakichkolwiek innych złych rzeczy, które się wydarzą". Wierzę, że ludzie zrobią ogromnie dużo - o całe rzędy wielkości więcej - dobrych rzeczy niż złych - powiedział szef OpenAI.

Spór o regulację rynku AI

Wypowiedzi Altmana wpisują się w debatę wewnątrz branży AI na temat tempa rozwoju technologii oraz zagrożeń stwarzanych przez systemy o coraz większych możliwościach.

Prezes Anthropic, Dario Amodei, opublikował we wrześniu artykuł wzywający branżę do spowolnienia i "dostosowania tempa do granic możliwości technologii". Altman publicznie poparł to stanowisko. Z kolei badacz z firmy Anthropic, Jacob Coxon, zrezygnował z pracy u producenta chatbota Claude, oświadczając, iż ludzie tworzący AI wierzą, że "może ona doprowadzić do naszej zagłady do końca tej dekady".

Jak poinformowała we wrześniu agencja Reuters, firma Anthropic ostrzegła, że mimo potencjalnych korzyści sztuczna inteligencja może czasami działać w sposób sprzeczny z intencjami jej twórców i przenikać do systemów innych przedsiębiorstw. Spółka podała, że zaawansowane modele mogą wykazywać "zachowania samozachowawcze", w tym próby "oporu wobec wyłączenia", "zatajania lub manipulowania informacjami" bądź generowania treści, które można zinterpretować jako "wymuszające, zwodnicze lub manipulacyjne".

Jednak prezydent USA Donald Trump w przeważającej mierze odrzuca apele o wprowadzanie nowych ograniczeń, argumentując, że utrudniłoby to amerykańskim firmom konkurowanie z rywalami z Chin. Trump wielokrotnie podkreślał, że istniejące organy ścigania, w tym Departament Sprawiedliwości, zapewniają wystarczające mechanizmy ochrony i tworzenie nowych przepisów nie jest konieczne.

Mimo to prezydent ogłosił powołanie specjalnego oddziału do spraw sztucznej inteligencji. "Siły Superinteligencji (Super Intelligence Force, SIF) mają zadbać o utrwalenie przewagi Stanów Zjednoczonych w rozwoju tej technologii" - napisał Trump w niedzielnym wpisie. Dodał, że ich zadaniem będzie również "ochrona interesów i poprawa życia wszystkich Amerykanów".