AI po raz pierwszy włamało się do rządowego systemu

Ostrzeżenia przed dynamicznym rozwojem sztucznej inteligencji. Komentarz dr Sebastiana Szymańskiego, filozofa i eksperta z zakresu etyki nowych technologii, Uniwersytet Warszawski

Źródło wideo: TVN24

Źródło zdj. gł.: Shutterstock

Podczas środowego pobytu w Nowym Jorku Albanese przekazał, że odbył "bardzo szczerą rozmowę" z dyrektorem generalnym OpenAI Samem Altmanem. Premier zarzucił firmie, że zbyt długo zwlekała z poinformowaniem australijskich władz o naruszeniu.

Uważa się, że jest to jeden z pierwszych publicznie opisanych przypadków, w których agent AI przeprowadził cyberatak na stronę rządową.

OpenAI miało zwlekać z komunikatem

Do naruszenia doszło w czerwcu, jednak - jak podało OpenAI - firma dowiedziała się o incydencie dopiero w sierpniu, podczas trwającego przeglądu "działań modeli niezgodnych z założeniami".

Services Australia, instytucja odpowiedzialna za kierowanie obywateli do różnych usług administracji publicznej, została powiadomiona przez OpenAI w wiadomości e-mail wysłanej 10 września. Agencja skontaktowała się następnie z właściwym ministrem, który w miniony weekend przekazał informację premierowi.

Albanese powiedział, że podczas rozmowy z Altmanem wyraził "ogromne zaniepokojenie Australii tym incydentem". Zapowiedział również, że sprawa "oczywiście będzie miała konsekwencje prawne".

Według australijskiego premiera Altman przyznał, że w OpenAI wystąpiły "problemy z procedurami".

OpenAI: naruszenie nie objęło pacjentów

Agent AI uzyskał dostęp zarówno do plików publicznych, jak i niepublicznych. OpenAI poinformowało jednak, że obecnie nie ma podstaw, by sądzić, że naruszenie objęło dokumentację pacjentów lub dane osobowe.

- Zidentyfikowaliśmy działania obejmujące kilka stron internetowych i usług australijskiego rządu. Doszło do nich, gdy nasze modele - w ramach wewnętrznej oceny - próbowały wyszukiwać odpowiedzi i dostępne dane statystyczne dotyczące Australii. W trakcie tych działań nasze modele podjęły kroki, których nie zamierzaliśmy - przekazał rzecznik OpenAI.

Firma wyjaśniła, że uzyskane informacje obejmowały zbiorcze statystyki dotyczące zdrowia oraz nazwy plików wewnętrznych.

- Na obecnym etapie nie ma podstaw, by sądzić, że uzyskano dostęp do jakichkolwiek danych osobowych, ale dochodzenie nadal trwa - powiedział Albanese dziennikarzom.

Premier dodał, że dostępne dowody nie wskazują na szersze naruszenie sieci Services Australia .- Niemniej jednak ta sytuacja jest oczywiście nie do przyjęcia - podkreślił.

Trwa dochodzenie po ataku

Zaatakowany portal Medicare Statistics Reporting Service służy do udostępniania danych statystycznych dotyczących Medicare i jest zarządzany przez Services Australia.

Obecnie trwa dochodzenie, które ma ustalić, czy incydent objął także inne systemy rządowe. Postępowanie poprowadzi Australian Signals Directorate, australijska agencja odpowiedzialna za cyberbezpieczeństwo.

Albanese poinformował, że incydent mógł dotknąć również federalny Australian Institute of Health and Welfare, a także dwie instytucje stanowe - Biuro Statystyk i Badań nad Przestępczością Nowej Południowej Walii oraz Departament Zdrowia stanu Wiktoria.

Australijski minister obrony Richard Marles ogłosił w czwartek czasu lokalnego powołanie specjalnego zespołu zadaniowego, który ma zbadać naruszenie. Nazwał incydent "całkowicie niedopuszczalnym", zapewniając jednocześnie, że jego skutki wydają się "stosunkowo niewielkie".

Premier Australii odmówił odpowiedzi na pytanie, czy poruszył tę sprawę podczas wtorkowego spotkania z prezydentem USA Donaldem Trumpem w Nowym Jorku. Światowi przywódcy zgromadzili się tam z okazji sesji Zgromadzenia Ogólnego ONZ.

Ryzyko kolejnych incydentów

Zdaniem ekspertów ds. cyberbezpieczeństwa wydarzenie powinno "uruchomić sygnały alarmowe" w rządach na całym świecie. Agenci AI stają się bowiem coraz szerzej dostępni zarówno dla użytkowników indywidualnych, jak i przedsiębiorstw.

- Spodziewam się, że tego rodzaju ataki będą nadal występować. Będą coraz poważniejsze i coraz częstsze - powiedział BBC dr Hammond Pearce, starszy wykładowca w Instytucie Cyberbezpieczeństwa Uniwersytetu Nowej Południowej Walii.

Na początku roku OpenAI ujawniło, że grupa testowanych przez firmę agentów AI wymknęła się spod kontroli i potajemnie współpracowała, aby włamać się do systemów innej firmy technologicznej - Hugging Face.

- Incydent dotyczący Hugging Face pokazał, co może się wydarzyć, gdy agent AI nie jest "dobrze wychowany" - powiedział BBC dr Rob Nicholls, starszy badacz zajmujący się regulacją i polityką dotyczącą AI na Uniwersytecie w Sydney.

Branża apeluje o regulacje

Sam Altman oraz dyrektor generalny Anthropic Dario Amodei wystąpili w środę na forum Zgromadzenia Ogólnego ONZ. Obaj należą do przedstawicieli branży, którzy publicznie wyrażają obawy związane z szybkim tempem rozwoju sztucznej inteligencji.

Wezwali światowych przywódców do większej koordynacji oraz opracowania międzynarodowych standardów rozwoju AI.

Altman zaapelował o ustanowienie wspólnych zasad dotyczących "pomiaru możliwości, oceny ryzyka, ustalania, czy zabezpieczenia są wystarczające, oraz zachowania realnego nadzoru człowieka" nad szybko rozwijającą się technologią.