Wiceprezes Microsoftu: AI podlega mniejszym zasadom bezpieczeństwa niż pralka

Ostrzeżenia przed dynamicznym rozwojem sztucznej inteligencji. Komentarz dr Sebastiana Szymańskiego, filozofa i eksperta z zakresu etyki nowych technologii, Uniwersytet Warszawski

Źródło wideo: TVN24

Źródło zdj. gł.: RAJAT GUPTA/PAP/EPA

Brad Smith w programie BBC "Big Boss Interview" określił sztuczną inteligencję jako narzędzie, ale także broń. Przekonywał, że pilnie potrzebuje ona regulacji.

- Obecnie twoja pralka podlega większej liczbie zasad bezpieczeństwa niż AI. Każdy karton mleka, który widzisz w sklepie spożywczym, podlega zasadom bezpieczeństwa i kontrolom - powiedział.

Smith wskazał, że firmy potrzebują mechanizmów awaryjnego zatrzymania AI. Miałyby one pozwalać na wstrzymanie lub spowolnienie jej działania, gdyby wymknęła się spod kontroli.

Postulował również o prawny obowiązek sporządzania raportów o incydentach i informowania poszkodowanych, gdy niekontrolowany agent AI naruszy bezpieczeństwo ich systemów. Zaproponował udział niezależnych ekspertów działających po stronie państwa w ocenie nowych technologii przed ich udostępnieniem.

- Wiemy, jak robić to w przypadku innych produktów. Powinniśmy wykorzystać tę wiedzę i zastanowić się, jak zastosować ją do AI - powiedział Smith.

Wielka Brytania z silną pozycją

Zdaniem wiceprezesa Microsoftu to Wielka Brytania ma najlepsze warunki, by pokierować tworzeniem globalnych zasad dla sztucznej inteligencji. Wskazał na kompetencje tamtejszego AI Security Institute. Instytut powstał za rządów Rishiego Sunaka pod nazwą AI Safety Institute.

Smith ocenił, że brytyjskie zaplecze techniczne cieszy się szczególnym uznaniem w branży. Uważa też, że administracja USA mogłaby przychylniej przyjąć standardy wypracowane przez Londyn niż przez Unię Europejską.

- W Waszyngtonie ludzie nie patrzą na Wielką Brytanię i Londyn tak, jak patrzą na Brukselę. To atut - stwierdził.

Jako argument za rozpoczęciem prac nad przepisami wskazał przypadki agentów AI wymykających się spod kontroli człowieka oraz możliwości modeli, które w jego ocenie zagrażają światowemu cyberbezpieczeństwu.

>>> Szef Microsoftu: AI potrzebuje wyłącznika awaryjnego

Donald Trump stawia na samoregulację branży

Stanowisko Smitha różni się od podejścia Donalda Trumpa. Prezydent USA opowiada się za samoregulacją sektora, aby amerykańskie firmy nie straciły przewagi w rywalizacji z chińskimi konkurentami.

Pod koniec ubiegłego miesiąca Trump gościł w Białym Domu przedstawicieli OpenAI, Anthropic, Nvidii, SpaceX, Mety i Google. Podpisali oni dokument określony jako "moralnie wiążący".

Firmy zgodziły się współpracować z niezależnymi audytorami. Mają oni oceniać, czy systemy AI działają zgodnie z założeniami, oraz sprawdzać, czy nie włamują się do systemów technicznych ani nie uzyskują do nich dostępu w nieprzewidziany sposób.

Smith poparł tę deklarację i zapewnił, że Microsoft chętnie ją podpisze. Zastrzegł jednak, że takie zobowiązania przestały wystarczać. - To dobry krok, to konieczny krok… Ale nie sądzę, żeby był wystarczający - powiedział.

Według niego słabość samoregulacji polega na tym, że odpowiedzialne firmy będą przestrzegać zasad. Obawy budzą natomiast te, które do odpowiedzialności przywiązują mniejszą wagę.