Szef Microsoftu: AI potrzebuje wyłącznika awaryjnego

Ostrzeżenia przed dynamicznym rozwojem sztucznej inteligencji. Komentarz dr Sebastiana Szymańskiego, filozofa i eksperta z zakresu etyki nowych technologii, Uniwersytet Warszawski

Źródło wideo: TVN24

Źródło zdj. gł.: PJ McDonnell /Shutterstock

Prezes i dyrektor generalny Microsoftu Satya Nadella zaapelował w sobotę, aby zaawansowane systemy sztucznej inteligencji wyposażano w mechanizmy ograniczania ryzyka, niezależne zabezpieczenia oraz "wyłącznik awaryjny". Miałby on umożliwiać upoważnionym osobom wstrzymanie realizowanego zadania lub całkowite wyłączenie modelu.

"Musimy otoczyć niedeterministyczne modele solidną, deterministyczną architekturą systemową, nadzorem człowieka i niezawodnymi procedurami operacyjnymi, a także ustanowić standardy branżowe tam, gdzie obecne rozwiązania są niewystarczające" - napisał Nadella w serwisie X.

Niedeterministyczny charakter modeli oznacza, że mogą one generować różne odpowiedzi na podobne polecenia, a ich zachowania nie zawsze da się w pełni przewidzieć. Zdaniem szefa Microsoftu z tego powodu nie powinny być jedynym elementem systemu odpowiedzialnym za podejmowanie istotnych decyzji.

Potencjalne zagrożenie AI

Nadella wskazał, że jednym ze sposobów budowy bezpieczniejszych systemów jest traktowanie najbardziej zaawansowanych modeli - zarówno tych o otwartych, jak i zamkniętych wagach - jako potencjalnego zagrożenia wewnętrznego. Oznaczałoby to projektowanie całego środowiska w taki sposób, aby ograniczyć zakres uprawnień modelu, stale monitorować jego działania i nie zakładać z góry, że zawsze będzie postępował zgodnie z intencjami twórców.

Wagi to parametry liczbowe, które model przyswaja podczas treningu. To one w dużej mierze decydują o sposobie przetwarzania informacji i generowania odpowiedzi.

W modelach o otwartych wagach parametry te są publicznie udostępniane, dzięki czemu można je pobierać, analizować i modyfikować. W przypadku modeli o zamkniętych wagach pozostają one pod kontrolą ich twórców, a użytkownicy uzyskują dostęp do systemu zazwyczaj wyłącznie za pośrednictwem aplikacji lub interfejsu API.

Pełna obserwowalność i rejestr działań

Według Nadelli systemy AI powinny być projektowane zgodnie z zasadą pełnej obserwowalności. Oznacza ona możliwość monitorowania sposobu działania modelu, rejestrowania podejmowanych przez niego czynności oraz odtworzenia przebiegu zdarzeń w razie awarii lub incydentu.

Wśród kluczowych rozwiązań szef Microsoftu wymienił:

• wykorzystywanie zróżnicowanych modeli, aby nie uzależniać systemu od jednego rozwiązania;
• prowadzenie czytelnego dla człowieka rejestru działań modeli;
• ciągłe testowanie systemów;
• niezależne mechanizmy kontroli i audytu;
• ograniczanie potencjalnych zagrożeń;
• obowiązek ujawniania informacji o incydentach;
• możliwość natychmiastowego wstrzymania lub wyłączenia modelu przez upoważnione osoby.

"Najbardziej godnym zaufania systemem superinteligencji nie będzie ten, którego modelowi ufamy najbardziej. Będzie nim system zaprojektowany tak, abyśmy musieli ufać modelowi w jak najmniejszym stopniu" - podsumował Nadella.

Coraz więcej ostrzeżeń ze strony branży

Wypowiedź Nadelli pojawiła się w czasie nasilającej się dyskusji o tempie rozwoju sztucznej inteligencji i skuteczności stosowanych zabezpieczeń.

Czołowi przedstawiciele branży technologicznej i środowiska naukowego - wśród nich współzałożyciel Microsoftu Bill Gates, szef Anthropic Dario Amodei, dyrektor generalny OpenAI Sam Altman oraz prezes SpaceX Elon Musk - w różnym stopniu ostrzegają przed zagrożeniami związanymi z zaawansowaną AI. Część ekspertów uważa, że rozwój tej technologii postępuje szybciej niż prace nad regulacjami i standardami bezpieczeństwa.

W ubiegłym miesiącu jeden z badaczy zajmujących się AI odszedł z Anthropic, zarzucając tej firmie oraz jej głównemu konkurentowi, OpenAI, że "uprawiają hazard naszym życiem".

Tego samego dnia jeden z liderów zespołu Anthropic odpowiedzialnego za dostosowywanie systemów AI do ludzkich wartości i zasad bezpieczeństwa ocenił, że prawdopodobieństwo doprowadzenia przez tę technologię do zagłady ludzkości w ciągu najbliższej dekady przekracza 10 procent.

Trump stawia na rywalizację z Chinami

Prezydent Donald Trump wielokrotnie bagatelizował ryzyko wyginięcia ludzkości wskutek rozwoju sztucznej inteligencji. Podkreślał przede wszystkim, że amerykański sektor technologiczny musi utrzymać przewagę nad Chinami.

Niedawno powołał także nową grupę zadaniową pod nazwą "AI Force". Jej zadaniem ma być wspieranie rozwoju amerykańskiego sektora AI oraz wykrywanie podmiotów działających w złej wierze. Grupą ma kierować dyrektor wywiadu narodowego Jay Clayton.