Australia przykręci śrubę AI po skandalu z włamaniem do rządowego serwisu

Agent OpenAI uzyskał nieautoryzowany dostęp do strony australijskiego rządu

Źródło zdj. gł.: Adobe Stock

Canberra sygnalizowała potrzebę wprowadzenia surowszych regulacji, jeszcze zanim w czerwcu doszło do włamania. Udaremniła plany OpenAI i Anthropic obchodzenia przepisów dotyczących praw autorskich w celu szkolenia swoich modeli - zażądała wynegocjowania umów licencyjnych z australijskimi posiadaczami tych praw.

Włamanie do rządowego systemu

W czwartek premier Australii Anthony Albanese poinformował, że agent sztucznej inteligencji opracowany przez OpenAI uzyskał nieautoryzowany dostęp do strony internetowej australijskiego rządu. Incydent dotyczył portalu statystycznego zawierającego dane pochodzące z Medicare, czyli australijskiego powszechnego systemu opieki zdrowotnej.

Szef rządu oświadczył, że zdarzenie było "nie do przyjęcia" oraz że "wyraził głębokie zaniepokojenie" w rozmowie z właścicielem OpenAI Samem Altmanem. Dodał, że Canberra rozważa "możliwe wszczęcie działań organów ścigania oraz wprowadzenie środków legislacyjnych".

Z kolei firma tłumaczyła, że dowiedziała się o naruszeniu bezpieczeństwa przez jej bota dopiero w sierpniu oraz że nie doszło do ujawnienia danych osobowych.

Australia może zmienić prawo dotyczące AI

Jak informuje Reuters, incydent może zwiększyć znaczenie tzw. "licencji społecznej" - oceny przez rząd, czy firma przynosi korzyści społeczności, w której działa. To kryterium będzie brane pod uwagę w trakcie rozpatrywania wniosków o budowę centrów danych.

Nowe regulacje mogą również wprowadzić obowiązek zgłaszania przez firmy w branży AI przypadków naruszeń bezpieczeństwa spowodowanych przez ich technologię - na wzór istniejącego nakazu ujawnienia włamania w ciągu 72 godzin od momentu zdarzenia.

Centra danych w planach

Canberra dąży do wprowadzenia przepisów federalnych zobowiązujących centra danych do samodzielnego zapewniania sobie energii i ograniczania zużycia wody, a także uniemożliwienia im wykorzystywania australijskich treści do szkolenia modeli bez opłat.

OpenAI i Anthropic mają zawarte umowy partnerskie w zakresie budowy centr danych, które mogłyby się stać jednymi z największych w kraju. Żeby to jednak doszło do skutku, muszą uzyskać zgodę rządu.

Waszyngton sprzeciwia się regulacjom

Rząd Australii chce również obciążyć firmy odpowiedzialnością za bezpieczeństwo użytkowników - w tym umożliwienie im rezygnacji z algorytmów. Waszyngton ocenił te plany jako "cenzurę". Biały Dom już wcześniej krytykował australijskie opłaty nakładane na platformy publikujące treści informacyjne oraz zakaz korzystania z mediów społecznościowych przez osoby poniżej 16. roku życia.

- Dotychczasowe osiągnięcia Australii w zakresie regulacji technologicznych, pomimo oporu ze strony Stanów Zjednoczonych, sprawiają, że kraj może przewodzić innym państwom w kampanii na rzecz lepszych zabezpieczeń w zakresie sztucznej inteligencji – stwierdziła Johanna Weaver, dyrektorka wykonawcza Tech Policy Design Institute i była główna negocjatorka Australii ds. cyberbezpieczeństwa przy ONZ.

- Pytanie (...) jaka będzie reakcja Stanów Zjednoczonych - dodała.

W opinii Henry'ego Frasera z Queensland University of Technology nawet jeśli USA zgłoszą sprzeciw lub podejmą działania odwetowe, Australijczycy "wydają sie być gotowi wykorzystać tę okazję".

- Nie sądzę, aby spodziewali się negatywnej reakcji ze strony Stanów Zjednoczonych, a jeśli nawet tak jest, to doszli do wniosku, że krajowa debata publiczna dotycząca obaw społeczeństwa wobec tego typu zagrożeń przemawia za podjęciem działań - powiedział.