"Pewne złe rzeczy będą się działy". Dyrektor generalny OpenAI o największym zagrożeniu związanym z AI. "Sprawy mogą potoczyć się fatalnie"

Brendan Bordelon: Byłeś ostatnio w Waszyngtonie na uroczystej kolacji państwowej, a prezes OpenAI Greg Brockman podpisał w Białym Domu dobrowolne porozumienie w sprawie bezpieczeństwa sztucznej inteligencji. Czy uważasz, że to nowe porozumienie, wynegocjowane przez Biały Dom, znacząco zmieni praktyki OpenAI w zakresie bezpieczeństwa, czy też jest to w gruncie rzeczy kolejna pozorna zmiana?

Sam Altman: Nie sądzę, by była to tylko gra pozorów. Chcę jasno powiedzieć, że bardzo nam zależy na bezpieczeństwie i zrobilibyśmy oraz zrobimy wszystko, co w naszej mocy, aby zapewnić bezpieczeństwo, ochronę, a także zaufanie i solidność tej technologii, niezależnie od tego, czy podpisano by jakieś dobrowolne porozumienie, czy nie. Uważam, że to świetnie, że branża podejmuje takie działania. Myślę, że znajdujemy się w momencie, w którym ludzie szukają zapewnienia ze strony branży i twórców tej technologii [że korzystanie z niej jest bezpieczne].

Czytaj nas częściej w Google

Dodaj w Google

Nasza firma powstała w oparciu o przekonanie, że ta technologia stanie się tak potężna, jak jest obecnie, a w przyszłości będzie jeszcze potężniejsza. Chcemy przekonać ludzi, by czerpali z niej ogromne korzyści — i zrobimy to, niezależnie od tego, czy takie porozumienie zostałoby podpisane, czy nie. Cieszę się jednak, że je mamy.

Jak odpowiadasz tym, którzy obawiają się, że opinia publiczna jest wykluczana z debat na temat bezpieczeństwa sztucznej inteligencji i że tak naprawdę zasady te kształtują prezydent i zaledwie garstka dyrektorów generalnych firm technologicznych podczas zakulisowych rozmów w Białym Domu?

Podzielam ducha tej obawy. Uważam, że istnieją dwa sposoby, w jakie ta technologia może pójść bardzo źle. Jednym z kierunków, które powinny nas martwić, a który ostatnio zyskał dużą uwagę, jest utrata kontroli nad sztuczną inteligencją i stworzenie czegoś, co nie jest wystarczająco dostosowane do ludzkich wartości. Drugim jest zbytnia koncentracja władzy. Pojawia się wiele obaw, że jeśli pójdziemy za daleko w ograniczaniu tej technologii w imię bezpieczeństwa, skończymy z niewielką liczbą firm lub osób, a może nawet jednym krajem, które będą miały nad nią zbyt dużą władzę. To również jest scenariusz, w którym sprawy mogą potoczyć się fatalnie.