Popularne modele AI na liście niebezpiecznych narzędzi. Urzędnicy dostali zakaz

Apel o zwolnienie prac nad sztuczną inteligencją (AI). Komentuje dr Leszek Bukowski, dyrektor badań i rozwoju Fuze Al

Źródło wideo: TVN24

Źródło zdj. gł.: Primakov/Shutterstock

Zakaz korzystania z modeli wydawanych przez OpenAI i Anthropic to pokłosie przeglądu narzędzi sztucznej inteligencji, przeprowadzonego w tym roku w Szwedzkim Zarządzie Transportu. Wykazał on "niepokojące" przypadki wykorzystywania platform AI przy wykonywaniu zadań państwowych.

Zakaz korzystania z Claude i ChatGPT

Urzędnicy wyrazili obawę, że wprowadzanie poufnych informacji do tych modeli, bez uprzedniego zawarcia umowy określającej zasady ochrony i zabezpieczenia danych, może doprowadzić do ich przejęcia przez algorytmy i wykorzystania w procesie szkolenia modeli.

Korzystanie z platform nie objętych takimi umowami i regulacjami może nieść ze sobą "poważne konsekwencje dla bezpieczeństwa naszych informacji" - podkreślił Mikael Wettercrantz, dyrektor ds. cyfryzacji w Kancelarii Rządu Szwecji.

Jako bezpieczną alternatywę zarekomendowano Copilot firmy Microsoft. Narzędzie pomyślnie przeszło weryfikację pod kątem bezpieczeństwa i jest objęte umową chroniącą dane, zawartą między amerykańskim gigantem a szwedzkim rządem.

Choć pracownicy administracji państwowej nadal będą mogli wspierać się sztuczną inteligencją w codziennej pracy, to odtąd będzie się to odbywać pod ścisłą kontrolą. Korzystanie z ChataGPT i Claude pozostanie dozwolone jedynie dla wąskiego grona uprawnionych osób i wyłącznie za pośrednictwem specjalnej platformy dla asystentów AI, opracowanej przez szwedzkie władze.

Jak podaje szwedzki publiczny nadawca Sveriges Radio, ograniczenia w korzystaniu z usług ChataGPT i Claude wprowadziły już także Szwedzki Urząd Skarbowy oraz Państwowa Rada ds. Opieki Instytucjonalnej. Analizę w tej sprawie prowadzi obecnie Szwedzki Urząd Egzekucyjny.

Wskazane platformy AI dołączyły do chińskiego DeepSeek na liście narzędzi niezatwierdzonych przez szwedzki rząd ze względu na obawy o bezpieczeństwo danych. W ubiegłym tygodniu Stany Zjednoczone ogłosiły całkowity zakaz korzystania z produktów i usług chińskiego producenta.