Trwa nowy wyścig zbrojeń. USA i Chiny wciskają gaz do dechy

Kiedy panikują komentatorzy, często mamy do czynienia z bajkami o żelaznym wilku. Kiedy panikują twórcy technologii, jest jednak powód do niepokoju. Ale w przypadku rozwoju AI niewiele to zmieni, bo sama polityka w tym przypadku zaczyna przypominać algorytm znany z niekontrolowanego wyścigu nuklearnego w połowie XX wieku. Kto wymięknie, ten przegra.

Wydaje się, że tylko jedno może zatrzymać zarówno Chiny, jak i USA, a także zmusić ich do szukania rozwiązań ograniczających rozwój technologii, której do końca nie są w stanie zrozumieć nawet jej ojcowie.

Pewnych podobieństw pomiędzy strachem przed AI ze strony jego twórców a zachowaniami twórców bomby atomowej trudno nie dostrzec. Sam Robert Oppenheimer, kierujący programem "Manhattan", włączył się w końcu w nader kontrowersyjny zresztą proces pokojowy.

Kontrowersyjny, bo w uzasadnionej opinii krytyków prowadzący do przewagi strategicznej drugiej strony, czyli zbrodniczego systemu sowieckiego.

Dokładnie ten sam argument przyświeca dziś Donaldowi Trumpowi i przedstawicielom Pentagonu, mówiącym nie tylko "ani kroku w tył", ale też "gaz do dechy". Jak my tego nie zrobimy, zrobią to Chińczycy.

Żelazna zasada konkurencji mocarstw sprawia, że Chiny wychodzą dokładnie z tego samego założenia. Gazeta "The Wall Street Journal", powołując się na wysokich dygnitarzy i wywiad chiński, pisze o podejściu: "to może nas zabić, ale musimy dorównać USA".

Nikt tu nie odpuści, bo zagłada ludzkości lub daleko idące krzywdy wyrządzone jej w wyniku rozwoju i samorozwoju kolejnych modeli sztucznej inteligencji są hipotetyczne. Bycie zdominowanym i pokonanym w wyniku przegranego wyścigu technologicznego to pewność.

Zostały nam trzy lata?

Powody do niepokoju są. Najpierw dało je kilka osób zaangażowanych w tworzenie projektów AI. Wśród nich najczęściej cytowany brytyjski matematyk Jacob Coxon, zajmujący się szkoleniem modeli.

Jak stwierdził, rezygnując z posady w firmie Anthropic (twórcy modeli Claude): "Ludzie tworzący sztuczną inteligencję szczerze wierzą, że może ona nas wszystkich zabić do końca dekady".

Jakby w odpowiedzi Dario Amodei, twórca Anthropica, publicznie zaczął apelować o spowolnienie.

W artykule opublikowanym kilka dni temu pod tytułem "We Must Pace the Frontier" ("Musimy kontrolować tempo przesuwania granic"), ostrzega, że autonomiczne agenty AI, łącząc się w duże grupy (roje), mogą, hakując systemy, przejąć znaczną część internetu, a co za tym idzie - cywilizacji. Chodzi o systemy finansowe, zbrojeniowe, medyczne.

Amodei pisze o swoich szlachetnych pobudkach, chorobie ojca (lekarstwo na jego chorobę wynaleziono krótko po jego śmierci) i własnych przejściach onkologicznych. AI może zmienić świat na lepsze, daje nam nieprawdopodobne możliwości, ale tylko pod jednym warunkiem: rozbudowanego systemu kontroli.

Jako żywo przypomina to argumenty "skruszonych" ojców bomby atomowej, nie tylko Oppenheimera, ale także choćby Stanisława Ulama, z urodzenia lwowianina.

Możemy rozwiązać problemy energetyczne świata, ale musimy ograniczyć zbrojenia, by nasz wynalazek nie stał się faktycznym "niszczycielem światów".

Naiwność tego myślenia, przy najlepszej interpretacji, zakładała tak zwane "jednostronne rozbrojenie". Realizacja tego szlachetnego postulatu mogłaby doprowadzić do zajęcia zachodniej Europy przez Armię Czerwoną.

Do realnego ograniczenia zbrojeń doszło dopiero w latach 70., kiedy własne arsenały nuklearne przygniotły obie strony, a zarazem ostateczne wygranie pełnoskalowego konfliktu stało się już niemożliwe. ZSRR zresztą oszukał, w swoim stylu, później USA. Ale to już nieco inna opowieść.

Trzeba przyznać Amodeiemu, że jego postulaty są dużo bardziej realistyczne i w sumie wpisują się w styl niedawnej jeszcze polityki czasów "Pax Americana", kiedy to Waszyngton pełnił rolę globalnego policjanta.

To on decydował, które państwo mogło rozwijać poszczególne technologie, a samo podejrzenie o poważne naruszenie mogło prowadzić do skrajnie poważnych konsekwencji, o czym przekonali się Saddam Husajn i Ali Chamenei.

Moc obliczeniowa jak zasoby uranu

Oprócz kontroli rozwoju AI u siebie Waszyngton miałby więc pilnować, by zjawisko to nie przekraczało niebezpiecznych granic w innych krajach, szczególnie tych wysokiego ryzyka.

Kwestię chińską miałby rozwiązać rygorystyczny zakaz importu chipów i podzespołów wysokiej technologii. I to chyba, z perspektywy jastrzębi, jest najsłabsza część postulatu. Bo ograniczenia już są, a chińska inwazja technologiczna i handlowa nabiera mocy.

Nie dość tego, Kraj Środka ze swoim centralnym zarządzaniem, dostępnością wszelkich źródeł energii, równoczesnym wykorzystaniem węgla na wielką skalę, możliwością szybkiej budowy elektrowni jądrowych, wielkimi tamami i zasobami litu, może błyskawicznie zwiększać moce zasilania dla coraz większych mocy obliczeniowych - klucza do rozwoju AI.

Mrożące krew w żyłach ostrzeżenia poważnych ludzi, twórców technologii, nie są wcale wyśmiewane czy ignorowane przez władze Chin i USA.

W przypadku i AI, i potencjału nuklearnego uderzają podobne reakcje ludzkie: początkowy zapał twórców i późniejsze ich obawy, rosnące zaniepokojenie wpisujące się w narastającą obawę ludzkości, że nie wytrzyma ona tempa własnego rozwoju - obawę przejawiającą się i w kulturze masowej, w polityce klimatycznej, czy w ruchach antyszczepionkowych.

Zabronić AI prac domowych

Tylko że jeśli wierzyć wielu ludziom sprawiającym wrażenie bardzo wiarygodnych, mamy do czynienia z zupełnie innym zagrożeniem.

Andrzej Dragan, fizyk teoretyczny i autor bestsellera "Quo vAIdis", zwracał uwagę, że sztuczna inteligencja jest drugim po człowieku "gatunkiem" w Układzie Słonecznym, który potrafi przechodzić testy teorii umysłu przygotowane przez kognitywistów.

Bardziej banalną i oczywistą sprawą jest kwestia "progu użycia". Technologii opartej na rozszczepieniu jąder atomowych w warunkach bojowych użyto dwa razy osiem dekad temu i nigdy więcej.

AI jest dziś wszechobecne, a zagrożenie ma stanowić sam jego rozwój, czy właściwie niekontrolowany samorozwój, a nie intencja użycia.

Prosty rachunek, wpisujący się w realizm strategiczny obu sił, wskazuje, że będą one w stanie wyhamować tylko wtedy, jeśli będą miały gwarancje, że druga strona także to robi.

A to, bez względu na efekty rozmów Trumpa z Xi, kwestia zaufania, którego brak. By zacytować prezydenta USA (mówiącego na temat wsparcia dla różnych stron konfliktu w Zatoce Perskiej): "Chiny zachowują się rozsądnie i my zachowujemy się rozsądnie". Rozsądnie, czyli zgodnie z rachunkiem, który w sprawie AI wskazuje dziś na konieczność wciskania gazu do dechy.

Skończyć się to może, kiedy obie strony zobaczą, że tworzy to większe zagrożenie niż kwestia walki o dominację. I będzie wymagało współpracy. Ale wtedy konsekwencje mogą być już bardzo poważne. Pozostaje mieć nadzieję, że nie takie, jak w najbardziej alarmistycznej wersji podnoszonej przez byłych już nauczycieli sztucznej inteligencji. Bo wtedy nie będzie to już miało większego znaczenia.