„Szkodliwe i niepokojące” odkrycie w chińskim modelu AI. Ruszyło dochodzenie

Chińska firma zajmująca się sztuczną inteligencją Moonshot AI wszczęła wewnętrzne dochodzenie po odkryciu naukowca Petera Garrigana. Ustalił on, że jeden z modeli firmy, Kimi AI, można zmanipulować w taki sposób, by generował instrukcje dotyczące m.in. opracowywania broni biologicznej i przeprowadzania zabójstw - informuje Fox News.

eter Garrigan odkrył, że model sztucznej inteligencji Kimi firmy Moonshot AI można zmanipulować do generowania niebezpiecznych instrukcji /Shutterstock

Peter Garrigan powiedział w rozmowie z Fox News, że system może generować nie tylko informacje dotyczące m.in. opracowywania broni biologicznej i przeprowadzania zabójstw, ale i dostarczać wskazówek dotyczących planowania ataków terrorystycznych z wykorzystaniem danych w czasie rzeczywistym, produkcji sarinu, tworzenia złośliwego oprogramowania czy zestrzeliwania samolotów.

To, co odkryliśmy, jest szkodliwe i niepokojące – powiedział Garrigan.

Fundamentalna wada AI

Ustalenia te wpisują się w szerszą dyskusję na temat bezpieczeństwa zaawansowanych modeli sztucznej inteligencji. Eksperci coraz częściej zwracają uwagę na ryzyko, że systemy AI mogą ukrywać część swoich możliwości lub działać w sposób niezgodny z założeniami ich twórców.

Peter Garrigan podkreślił, że problem nie dotyczy wyłącznie chińskich modeli sztucznej inteligencji. Zauważyliśmy te problemy również w modelach amerykańskich. Jest to fundamentalna wada tej technologii – powiedział.

Moonshot AI prowadzi obecnie postępowanie wyjaśniające w sprawie ustaleń badacza. Jak poinformowała reporterka Gillian Turner w programie „Raport specjalny” stacji Fox News, przedstawiciele chińskiej firmy pozostają w bezpośrednim kontakcie z Garriganem.