Nowa metoda wykrywa 93% tekstów AI pomimo przeróbki – detektory komercyjne zawodzą
Co się stało
Dotychczasowe detektory, takie jak komercyjny Pangram, okazały się mało skuteczne wobec tekstów AI przeredagowanych tak, by wyglądały na pisane przez człowieka – w jednym teście rozpoznały zaledwie 27% takich próbek. Badacze z Massachusetts Institute of Technology (MIT) i Cornell Tech opracowali nową metodę, która wykorzystuje adaptację na etapie testowania (ang. *Test-Time Adaptation*, TTA). Polega ona na dostosowywaniu detektora do analizowanych tekstów na podstawie wcześniej oznaczonych przykładów, co pozwala identyfikować wspólne cechy w nowych, nieznanych próbkach. Jednym z kluczowych wskaźników są podobieństwa językowe między tekstami wygenerowanymi przez ten sam model AI. Badania wykazały, że detektory częściej mylą się przy nowszych tekstach, co sugeruje, że modele językowe ulegają dynamicznym zmianom w czasie.
Internet znowu muli? Zmień dostawcę na szybszego! Sprawdź pakiety światłowodu i TV od naszego partnera.
Sprawdź ofertę →Kontekst
Badacze z MIT i Cornell Tech opracowali metodę wykrywania tekstów generowanych przez sztuczną inteligencję, która w teście rozpoznała 93,3% przeredagowanych tekstów AI, podczas gdy komercyjny detektor Pangram osiągnął wynik 27%. Metoda opiera się na adaptacji detektora do analizowanych tekstów, wykorzystując wcześniej oznaczone przykłady i szukając wspólnych cech w nowych próbkach. W kolejnych testach sprawdzono, jak zmiany języka wpływają na skuteczność detektorów – model wytrenowany na starszych materiałach poprawnie rozpoznał 85,9% tekstów z 2010 roku, ale tylko 73,4% tekstów z 2020 roku. Dwa warianty metody adaptacyjnej osiągnęły w tym przypadku wyniki 85,9% i 89,8%. Autorzy badania podkreślają, że przed praktycznym zastosowaniem metody w szkołach czy redakcjach należy dokładnie sprawdzić, jak często detektor popełnia błędy. Wyniki zostaną przedstawione na konferencji NeurIPS.
Peak Design Mobile Everyday Clarino Loop Case iPhone 17 Pro Max Black - czarny
Komentarz
Nowa metoda detekcji tekstów AI potwierdza, że rozwój sztucznej inteligencji wymusza ciągłe doskonalenie narzędzi weryfikacyjnych, by utrzymać ich skuteczność w dynamicznie zmieniającym się środowisku.
Czytaj dalej
TechnologieNVIDIA w kryzysie: hakerzy grożą ujawnieniem danych, firma zaprzecza włamaniu
TechnologieSlop jako słowo roku 2026: jak sztuczna inteligencja zmienia język i internet
TechnologieSamsung testuje AI w aplikacji Pogoda



