Osegi
AI·2 min czytania

Idea Lens: detektor sprawdza, czy pomysł wymyśliła sztuczna inteligencja

Idea Lens nie patrzy na dobór słów, tylko na to, jak tekst argumentuje. Badacze twierdzą, że poznaje, czy pomysł wymyślił człowiek, czy chatbot.

A researcher reading a printed scientific paper with highlighted passages next to a laptop showing an analysis of the text's argument structure.
Zdjęcie: t3n Magazin

Większość detektorów AI sprawdza, jak tekst jest napisany. Idea Lens pyta o coś innego: skąd wziął się sam pomysł. Badacze z Uniwersytetu Maryland i Google DeepMind przekonują, że ich model potrafi odróżnić pomysł człowieka od pomysłu maszyny.

Narzędzie opisano w preprincie, czyli artykule, którego niezależni eksperci jeszcze nie sprawdzili. Detektory tekstu, takie jak Pangram, analizują dobór słów, budowę zdań i statystyczne wzorce. Idea Lens bada za to strukturę argumentacji. Najpierw dzieli tekst, na przykład pracę naukową, na fragmenty i opisuje ich treść oraz funkcję: czy to dowód, zalecenie, czy opis. Potem inny model językowy przepisuje treść, żeby zniknął styl autora. Jako skutek uboczny narzędzie radzi sobie z wieloma językami. Można je wypróbować na stronie internetowej.

Jak działa Idea Lens i czego go nauczono?

Model wytrenowano na około 800 tysiącach tekstów, które Pangram oznaczył jako napisane przez AI lub przez człowieka. Błędy Pangrama zespół uznał za zaletę, bo wprowadzają do danych trochę szumu. Testy objęły też teksty sprzed ery ChatGPT.

Najlepiej wypadł przy mieszanym autorstwie. Gdy AI napisała tekst na podstawie ludzkich pomysłów, Pangram 4 uznawał te same teksty za wygenerowane nawet w 92,4 proc. przypadków. Idea Lens zszedł, zależnie od struktury, do 7 proc. Gdy człowiek pisał na bazie struktury wygenerowanej przez AI, Idea Lens rozpoznał jej pochodzenie w 68 proc. przypadków, a detektory prozy poniżej 10 proc.

Czym różni się tekst człowieka od tekstu AI?

Ludzie częściej podają konkretne szczegóły i wskazówki wspierające główną tezę oraz wskazują ograniczenia i przeszkody. AI pisze bardziej ogólnie, z wymiennymi szczegółami, a wady i kompromisy pomija lub nie docenia.

Narzędzie ma słabe strony. Niezależni badacze zauważają, że nie nadaje się do współautorstwa, gdy człowiek i maszyna razem tworzą pomysł. Nie wiadomo też dokładnie, jakie wskazówki model bierze pod uwagę i jak je waży, o czym zespół Rishantha Rajendhrana mówi sam. Według Rajendhrana narzędzie należy łączyć z innymi metodami i oceniać całość dorobku badacza, nie pojedyncze przypadki. Ma też pomagać naukowcom zrozumieć, jaką rolę AI odgrywa w ich pracy.

Aplikacje warte uwagi

SUMO: łamigłówka liczbowa

Wybierz właściwe pola, dodaj je i trafiaj w cel. Łatwa do nauczenia, trudna do opanowania. Za darmo, dla każdego wieku.

Tagi:idea lensai detectionpangramgoogle deepminduniversity of marylandchatgpt

Więcej z tego dnia

Zobacz wszystkie →

Więcej w kategorii: AI

Zobacz wszystkie →