Osegi
IA·2 min de lecture

Idea Lens : un détecteur qui cherche si l'idée vient de l'IA

Idea Lens ignore le choix des mots et analyse la structure des arguments. Selon ses auteurs, il repère si l'idée d'un texte vient d'un humain ou d'une IA.

A researcher reading a printed scientific paper with highlighted passages next to a laptop showing an analysis of the text's argument structure.
Image: t3n Magazin

La plupart des détecteurs d'IA se demandent qui a écrit les phrases. Idea Lens se demande qui a eu l'idée. Des chercheurs de l'université du Maryland et de Google Deepmind l'ont conçu pour déceler la présence d'IA dans l'argumentation d'un texte, pas seulement dans sa formulation.

Il s'agit d'un preprint, pas encore relu par des experts indépendants. Des outils comme Pangram examinent la surface : choix des mots, construction des phrases, motifs statistiques. Idea Lens découpe un texte, une étude scientifique par exemple, en segments et décrit le contenu et la fonction de chacun : preuve, recommandation, description. Un modèle de langage distinct reformule ensuite le contenu, ce qui efface presque entièrement le style et le vocabulaire de l'auteur. Effet secondaire utile : l'outil fonctionne dans de nombreuses langues.

Comment Idea Lens distingue-t-il une idée humaine d'une idée d'IA ?

Il évalue l'enchaînement et la nature des arguments. Humains et modèles organisent contenu et fonction, mais les modèles reprennent toujours des schémas voisins. Selon l'équipe, les textes humains contiennent plus de détails précis et de consignes qui appuient le propos central. L'IA reste plus générale, avec des détails interchangeables. Les humains citent aussi davantage les limites et les obstacles, alors que l'IA oublie ou sous-estime les inconvénients et les arbitrages.

L'outil a été entraîné sur environ 800 000 textes étiquetés « IA » ou « humain » par Pangram. Ce détecteur n'étant pas parfait, les chercheurs y voient un bruit utile. Les tests incluaient des textes antérieurs à ChatGPT.

L'écart se voit surtout en cas d'auteurs mixtes. Pour des textes rédigés (en partie) par une IA à partir d'idées humaines, Pangram 4 les classait jusqu'à 92,4 % comme générés par IA. Idea Lens descend jusqu'à 7 %, selon la structure. Pour des textes écrits par des humains sur une structure produite par l'IA, Idea Lens a repéré l'origine IA dans 68 % des cas, contre moins de 10 % pour les détecteurs de prose.

Quelles sont ses limites ?

Des chercheurs indépendants jugent l'outil inadapté à la vraie coécriture, où humain et machine construisent ensemble les idées. C'est aussi une boîte noire : on ignore quels indices il retient et comment il les pondère, ce que l'équipe de Rishanth Rajendhran reconnaît.

Rajendhran a déclaré à Science qu'il faut l'associer à d'autres outils et examiner l'ensemble de l'œuvre d'un chercheur, plutôt que des cas isolés, vu le tort causé à la réputation. L'équipe y voit aussi un moyen, pour les scientifiques, de mesurer le rôle de l'IA dans leur propre travail. Un site permet de l'essayer.

Des apps à découvrir

SUMO : le puzzle de nombres

Touche les bonnes cases, additionne, atteins l'objectif. Facile à apprendre, difficile à maîtriser. Gratuit, pour tous les âges.

Mots-clés:idea lensai detectionpangramgoogle deepminduniversity of marylandchatgpt

Plus d'actus de ce jour

Tout voir →

Plus dans: IA

Tout voir →