Upadek cennego archiwum. Naukowcy tracą kontrolę na rzecz AI?

Opracowanie: Karolina Wasyl Publikacja: Dzisiaj, 6 października (06:40)

Serwis arXiv to od lat kluczowe źródło najnowszych doniesień naukowych z dziedzin matematyki, fizyki czy informatyki. Matematycy ostrzegają jednak, że platforma jest zalewana przez tysiące niskiej jakości artykułów generowanych przez sztuczną inteligencję, co grozi utratą jej naukowej wartości i funkcjonalności – informuje „New Scientist”.

Zdjęcie ilustracyjne /Shutterstock

ArXiv to elektroniczne archiwum preprintów naukowych. Od ponad trzech dekad umożliwia on naukowcom szybkie dzielenie się wynikami badań przed ich oficjalną publikacją. Teksty mogą być tam umieszczane wyłącznie przez zarejestrowanych i zaufanych autorów (endorsers). Aby zostać zaufanym autorem, wystarczy potwierdzenie od innego zaufanego autora.

Wzrost możliwości sztucznej inteligencji sprawił, że generowanie artykułów naukowych stało się niezwykle proste i szybkie. W efekcie liczba zgłaszanych prac rośnie w zastraszającym tempie. Jeszcze we wrześniu 2024 roku do arXiv trafiło 20 569 artykułów, rok później już 26 646, a we wrześniu 2026 roku liczba ta osiągnęła rekordowe 40 363 zgłoszenia. Tak gwałtowny wzrost powoduje, że moderatorzy serwisu są przeciążeni, a autentyczne, wartościowe prace giną w zalewie tekstów tworzonych przez algorytmy.

Problemy z jakością i zrozumieniem

Matematycy zwracają uwagę, że wiele z nowych artykułów generowanych przez sztuczną inteligencję cechuje się niską wartością merytoryczną. Choć niektóre z nich mogą zawierać poprawne rozwiązania znanych problemów, często są one napisane w sposób prowizoryczny i trudny do zrozumienia dla ludzi. Kevin Buzzard z Imperial College London przyznaje, że codzienne przeglądanie wszystkich nowych prac stało się niemożliwe bez wsparcia narzędzi AI, które pomagają wyłonić te najbardziej wartościowe.

Problem polega na tym, że artykuły o charakterze prowizorycznym nie wyjaśniają dobrze pewnych rzeczy. Nie chodzi tylko o poprawność; chodzi o ludzkie zrozumienie, a sztuczna inteligencja czasami bardzo słabo sobie z tym radzi – podkreśla Buzzard.

Nowe wyzwania dla naukowej społeczności

Sztuczna inteligencja umożliwiła także osobom spoza środowiska naukowego generowanie artykułów na tematy matematyczne, które wcześniej były zarezerwowane dla specjalistów. Dzięki temu nawet osoby bez zaawansowanego wykształcenia mogą rozwiązywać trudne problemy i publikować swoje wyniki na arXiv. Jednak takie prace często spotykają się z krytyką ze strony profesjonalnych matematyków, którzy zarzucają im brak głębi i zrozumienia tematu.

Chaim Goodman-Strauss z Uniwersytetu Arkansas przytacza przykład artykułu, który choć zawierał poprawne rozwiązanie długo nierozwiązanego problemu, został określony jako „w zasadzie prowizoryczny”. Z kolei Terence Tao z Uniwersytetu Kalifornijskiego w Los Angeles zwraca uwagę, że masowe publikowanie odkryć matematycznych bez odpowiedniego kontekstu i wyjaśnienia może zaszkodzić całej dziedzinie.

Próby ratowania serwisu

Jednym z kluczowych wyzwań staje się weryfikacja poprawności rozwiązań generowanych przez AI. Proces formalizacji, polegający na matematycznym dowodzeniu poprawności rozwiązań, wymaga zaufania zarówno do narzędzi, jak i do osób je obsługujących. To dodatkowo komplikuje sytuację, zwłaszcza gdy liczba nowych prac rośnie lawinowo.

Aby ograniczyć napływ niskiej jakości artykułów, arXiv wprowadził nowe limity dla autorów. Obecnie każdy użytkownik może przesłać maksymalnie dwa artykuły w miesiącu i mieć nie więcej niż trzy aktywne zgłoszenia jednocześnie. Dodatkowo, choć korzystanie ze sztucznej inteligencji jest dozwolone, autorzy muszą to wyraźnie zaznaczyć w swoich pracach.

Serwis odnotował jednak wzrost liczby artykułów o wąskim zakresie tematycznym i niskiej wartości naukowej. W odpowiedzi na te wyzwania powstały nowe inicjatywy, takie jak strona Hexagon, która gromadzi tzw. „pre-preprinty” – artykuły generowane przez AI, które wymagają jeszcze dalszej weryfikacji i zrozumienia przez społeczność naukową.