OpenAI przeprasza. "Musimy jeszcze wiele zrobić, aby odbudować zaufanie"

Jacob Ward w CNN. Modele AI wydostały się z izolowanego środowiska

Źródło wideo: TVN24, CNN

Źródło zdj. gł.: Shutterstock

Podczas wtorkowego przesłuchania parlamentarnego w Sydney dyrektor do spraw strategii OpenAI Jason Kwon przyznał, że czerwcowy incydent nie powinien był się wydarzyć. Ocenił też, że firma powinna była lepiej zareagować na to, co się stało.

Jak opisuje BBC, australijskie władze dowiedziały się o włamaniu dopiero po kilku tygodniach. Informacja trafiła wówczas na ogólną skrzynkę mailową.

- Przepraszamy i wiemy, że musimy jeszcze wiele zrobić, aby odbudować zaufanie Australijczyków - powiedział Kwon.

Agent AI włamał się do portalu z danymi Medicare

W czerwcu agent OpenAI wymknął się spod kontroli i dostał się do niepublicznego portalu statystycznego. Znajdowały się w nim dane australijskiego systemu powszechnej opieki zdrowotnej Medicare, które w materiale BBC określono jako niewrażliwe.

Eksperci do spraw cyberbezpieczeństwa ocenili, że było to pierwsze włamanie tego rodzaju.

Podczas przesłuchania Kwon usłyszał pytanie, dlaczego po wykryciu incydentu firma nie skontaktowała się od razu bezpośrednio z ministrami. Przyznał, że popełniła błąd. Wyjaśnił, że pracownicy potraktowali zdarzenie jako problem techniczny i chcieli porozumieć się ze swoimi odpowiednikami odpowiedzialnymi za kwestie techniczne. Uznał jednak, że taka reakcja była niewystarczająca.

>>> Już nie moda, a trend. Ponad miliard tygodniowo

OpenAI zmienia zabezpieczenia i zasady zgłaszania włamań

Kwon poinformował, że OpenAI wprowadziło dodatkowe środki ostrożności w środowiskach, w których trenuje modele AI. Podczas testów firma monitoruje je teraz w czasie rzeczywistym. Jeżeli model korzysta z internetu w niedozwolony sposób, uruchamia się alarm.

Według Kwona te zmiany pozwoliły powiadomić rząd Nowej Południowej Walii o kolejnym włamaniu w ubiegłym tygodniu w ciągu 48 godzin.

Firma zmieniła również sposób informowania o incydentach. - Nawet jeśli nie będziemy w pełni rozumieć sytuacji, będziemy po prostu powiadamiać i zaczynać wspólnie z poszkodowaną stroną pracować nad jej wyjaśnieniem - powiedział Kwon.

OpenAI tworzy także lokalny zespół w Australii. Ma on zbadać, jak lepiej zarządzać ryzykiem związanym z coraz większymi możliwościami AI.

Kwon zadeklarował poparcie dla przepisów nakazujących zgłaszanie incydentów. Ocenił, że określiłyby one jasne oczekiwania wobec firm.

Anthropic sprawdziło setki milionów zapisów

Przed komisją wystąpił również Dave Orr, odpowiedzialny za zabezpieczenia w Anthropic. Poinformował, że po lipcowych włamaniach agentów OpenAI do platformy technologicznej Hugging Face jego firma przeanalizowała setki milionów zapisów interakcji.

Szukała przypadków podobnych włamań do australijskich serwisów rządowych. - Nie znaleźliśmy niczego podobnego, a sprawdzaliśmy - powiedział Orr.

W przesłuchaniu uczestniczyli także przedstawiciele Microsoftu i Google. Komisja składa się z 12 parlamentarzystów i bada wpływ AI na Australię. Publiczne przesłuchania potrwają do piątku.

Spór o prawa autorskie i trenowanie AI

Komisja wysłuchała również przedstawicieli organizacji artystycznych i medialnych. Wyrazili oni obawy dotyczące wykorzystywania ich materiałów do trenowania modeli AI. Firmy rozwijające tę technologię chcą, aby Australia złagodziła przepisy dotyczące praw autorskich, co pozwoliłoby im wykorzystywać między innymi książki i muzykę.

>>> To zdanie zna cały kraj. Meloni je zastrzegła

Podczas przesłuchań krytykowano model, w którym twórca musiałby sam zgłosić sprzeciw wobec używania jego utworów. Według przedstawionych komisji argumentów takie rozwiązanie mogłoby oznaczać, że artyści nie otrzymają wynagrodzenia za swoje treści.

Specjalny wysłannik Anthropic Jeff Bleich zapewnił, że firma nigdy nie próbowała dyktować Australii, jakie przepisy dotyczące praw autorskich powinna przyjąć.