AI zaatakowała rządowy portal Australii. "Głębokie zaniepokojenie"

• Premier Australii poinformował o wszczęciu pilnego śledztwa po ataku sztucznej inteligencji OpenAI na rządowy portal Medicare.

• Premier Albanese wyraził zaniepokojenie faktem, że po zablokowaniu ataku oprogramowanie OpenAI próbowało obejść zabezpieczenia i skrytykował spółkę za opieszałą reakcję.

• Firma OpenAI przekazała, że ich modele uzyskały dostęp do zbiorczych statystyk zdrowotnych i wewnętrznych nazw plików, ale nie uzyskały dostępu do danych pacjentów.

Szef australijskiego rządu potwierdził podczas czwartkowej konferencji prasowej, że sztuczna inteligencja rozwijana przez firmę OpenAI w czerwcu zaatakowała i złamała zabezpieczenia rządowego portalu Medicare Statistics Reporting Portal.

Albanesne podkreślił, że na serwerach znajdowały się jawne i niejawne "informacje dotyczące programu Medicare, odnoszące się do danych i statystyk", nie zaś dane medyczne obywateli. W toku jest dochodzenie, które ma wykluczyć uzyskanie przez AI dostępu do wrażliwych danych.

- Dzisiaj rozmawiałem z dyrektorem generalnym OpenAI, Samem Altmanem, aby wyrazić głębokie zaniepokojenie Australii tym incydentem. Wyraziłem również swoje rozczarowanie tym, że firma zbyt długo zwlekała z poinformowaniem rządu o tym, co się wydarzyło, a sposób, w jaki przekazano tę informację, był nie do przyjęcia - powiedział australijski premier.

Australia. Oprogramowanie OpenAI zaatakowało portal Medicare

Australijski polityk skrytykował OpenAI za to, że choć do ataku doszło w czerwcu, to rząd został o nim powiadomiony 10 września. Według Albanese korporacja Sama Altmana wykazała się także niefrasobliwością w nadzorze nad prowadzonymi pracami i w całości odpowiada za atak na serwis Medicare.

- Chodzi o firmę OpenAI, która prowadzi badania z wykorzystaniem sztucznej inteligencji, a agent (oprogramowanie, które przeprowadziło atak - red.), szczerze mówiąc, nie tylko nie robił tego, co miał robić, ale robił to w taki sposób, że gdy został zablokowany, to szukał sposobów na obejście tej blokady - przekazał premier.

- W OpenAI zdają sobie sprawę, że muszą wprowadzić lepsze procedury - dodał Albanese, który niebezpieczeństwa związane z rozwojem sztucznej inteligencji sygnalizował podczas sesji Zgromadzenia Ogólnego ONZ.

Podczas szczytu w Nowym Jorku także Sam Altman, dyrektor wykonawczy OpenAI, apelował o spowolnienie i uregulowanie prac nad rozwojem AI.

OpenAI potwierdza atak. AI "próbowało wyszukiwać odpowiedzi"

W oświadczeniu przekazanym stacji ABC OpenAI stwierdziło, że wewnętrzne dochodzenie nie wykazało, aby sztuczna inteligencja uzyskała dostęp do danych pacjentów.

"Zidentyfikowaliśmy aktywność związaną z kilkoma stronami internetowymi i serwisami rządu australijskiego, gdy nasze modele próbowały wyszukiwać odpowiedzi oraz dostępne dane statystyczne dotyczące Australii w ramach wewnętrznej oceny. W trakcie tego procesu nasze modele podjęły działania, których nie zostały przez nas zamierzone" - przekazało OpenAI stacji ABC.

"Informacje, do których uzyskano dostęp, obejmowały zbiorcze statystyki zdrowotne oraz wewnętrzne nazwy plików" - przekazała spółka.

Źródła: Reuters, ABC