ArXiv zabanuje autorów na rok, jeśli prześlą artykuły wygenerowane przez AI bez weryfikacji przez człowieka

BitcoinWorld

ArXiv Zbanuje Autorów na Rok, Jeśli Prześlą Prace Generowane przez AI Bez Weryfikacji Człowieka

ArXiv, szeroko używane repozytorium otwartego dostępu do preprintów badań, ogłosiło nową politykę, która może skutkować rocznym zakazem dla autorów przesyłających prace zawierające wyraźne dowody niezweryfikowanych treści generowanych przez AI. Posunięcie to, przedstawione w czwartek przez Thomasa Dietterricha, przewodniczącego sekcji informatyki ArXiv, jest wymierzone w rosnący problem niskiej jakości badań wytwarzanych przez AI, które podważają zaufanie do publikacji naukowych.

Co Nowa Zasada Oznacza dla Badaczy

Zgodnie ze zaktualizowanymi wytycznymi, jeśli moderatorzy znajdą „niepodważalne dowody" na to, że autorzy nie zweryfikowali wyników dużych modeli językowych (LLM) przed przesłaniem, praca zostanie odrzucona, a autorzy zostaną zawieszeni na rok w publikowaniu na ArXiv. Po upływie zakazu autorzy muszą mieć kolejne zgłoszenia zaakceptowane przez renomowane recenzowane czasopismo, zanim będą mogli wrócić na platformę.

Dietterich sprecyzował, że takie dowody obejmują sfabrykowane odniesienia, bezsensowne cytaty lub bezpośrednie błędy kopiuj-wklej z LLM. Polityka nie zakazuje całkowicie używania narzędzi AI; zamiast tego nakłada na autorów „pełną odpowiedzialność" za wszystkie treści, niezależnie od sposobu ich wygenerowania. Obejmuje to plagiat, stronnicze stwierdzenia i nieścisłości faktyczne wprowadzone przez AI.

Dlaczego Ma To Znaczenie dla Integralności Naukowej

ArXiv od dawna jest filarem szybkiego rozpowszechniania wyników badań, zwłaszcza w informatyce, matematyce i fizyce. Jednak rozwój generatywnej AI doprowadził do gwałtownego wzrostu liczby zgłoszeń, które wydają się być produkowane przy minimalnym nadzorze człowieka. Niedawne recenzowane badania udokumentowały wzrost liczby sfabrykowanych cytowań w literaturze biomedycznej, prawdopodobnie związany z używaniem LLM.

Egzekwując tę zasadę jednej szansy, ArXiv dąży do zachowania wiarygodności swojego repozytorium. Polityka obejmuje również proces odwoławczy, umożliwiający autorom kwestionowanie decyzji. Moderatorzy muszą najpierw oznaczyć problemy, a przewodniczący sekcji muszą potwierdzić dowody przed zastosowaniem kar.

Szersze Implikacje dla Społeczności Badawczej

Polityka ta odzwierciedla rosnący konsensus w środowisku akademickim, że narzędzia AI powinny wspomagać, a nie zastępować nadzór człowieka w badaniach. Przejście ArXiv do niezależnej organizacji non-profit, po tym jak przez ponad dwie dekady była hostowana przez Cornell University, daje jej większą elastyczność w egzekwowaniu takich środków. Repozytorium podjęło już kroki w celu ograniczenia zgłoszeń generowanych przez AI, w tym wymagając rekomendacji od osób publikujących po raz pierwszy.

Dla badaczy przekaz jest jasny: używanie AI do szkicowania lub poprawiania języka jest akceptowalne, ale przesyłanie pracy bez rygorystycznego sprawdzania faktów i weryfikacji cytowań – już nie. Jest to zgodne z szerszymi standardami redakcyjnymi w publikowaniu naukowym, gdzie odpowiedzialność pozostaje najważniejsza.

Podsumowanie

Nowa polityka zakazu ArXiv stanowi znaczący krok w utrzymaniu integralności badań preprintowych w erze powszechnego używania AI. Karząc autorów, którzy nie weryfikują treści generowanych przez AI, repozytorium wzmacnia zasadę, że ludzcy badacze ponoszą ostateczną odpowiedzialność za swoją pracę. W miarę jak narzędzia AI stają się coraz bardziej zintegrowane z procesem badawczym, takie zabezpieczenia prawdopodobnie staną się standardem w całym akademickim wydawnictwie.

FAQ

P1: Czy nowa polityka ArXiv zakazuje używania AI przy pisaniu prac?
Nie, nie zakazuje używania AI. Zakazuje przesyłania prac z wyraźnymi dowodami, że autorzy nie sprawdzili treści generowanych przez AI pod kątem błędów, takich jak sfabrykowane odniesienia lub bezsensowny tekst.

P2: Co stanowi „niepodważalny dowód" nadużycia AI?
Przykłady obejmują halucynowane cytowania, odniesienia do nieistniejących źródeł oraz bezpośrednie błędy kopiuj-wklej z LLM wskazujące na brak weryfikacji przez człowieka.

P3: Czy autorzy mogą odwołać się od zakazu?
Tak, polityka obejmuje proces odwoławczy. Moderatorzy muszą oznaczyć problem, przewodniczący sekcji potwierdzają dowody, a autorzy mogą zakwestionować decyzję.

Ten artykuł ArXiv Zbanuje Autorów na Rok, Jeśli Prześlą Prace Generowane przez AI Bez Weryfikacji Człowieka po raz pierwszy ukazał się na BitcoinWorld.