Le plus grand risque lorsqu’on rédige un article avec l’IA n’est pas la lenteur, mais la possibilité qu’elle invente des données ou des références sans que l’on s’en aperçoive. Un paragraphe apparemment complet peut citer un article qui n’existe pas ; un beau graphique peut reposer sur des chiffres fabriqués. Ce type de problème est très difficile à détecter dans la rédaction générative, car le modèle se soucie davantage de « fluidité de lecture » que de « véracité ». PaperAssist de MuchSci tente de résoudre ce problème par la conception de son processus : un flux en neuf étapes, où chaque étape produit de vrais fichiers et où les données réelles et les références réelles sont verrouillées aux points clés.
Pour le comprendre, il faut distinguer « générer un paragraphe » et « produire un manuscrit vérifiable ». Le premier vise la vitesse, le second la traçabilité.
01 Ce que les outils de rédaction d’articles redoutent le plus : inventer des données, inventer des références
Les hallucinations de l’IA rédactionnelle prennent deux formes courantes.
▲ Figure 1 | La rédaction générative classique vise la vitesse ; PaperAssist vise la vérification de chaque étape
L’une est l’hallucination de données. Le modèle ne sait pas quelles données vous possédez, mais peut « inférer raisonnablement » un ensemble de chiffres pour donner aux graphiques une apparence complète.L’autre est l’hallucination bibliographique. Le modèle peut générer une référence au format correct, mais l’article correspondant peut ne pas exister, ou les auteurs, l’année et le titre ne pas correspondre. Ces deux hallucinations ont en commun d’être localement plausibles tout en étant très difficiles à repérer d’un coup d’œil lors de la validation globale.
PaperAssist de MuchSci ne cherche pas à rendre le modèle plus honnête, mais à bloquer la « fabrication » en amont grâce au processus. Il exige que vous téléversiez de vraies données, que vous construisiez une bibliothèque de références à partir de bases de données réelles et que chaque citation puisse être retrouvée dans cette bibliothèque. Le problème n’est pas le modèle, mais un environnement de génération sans contraintes.
02 La chaîne en neuf étapes de PaperAssist (les huit premières sont visibles)
La capture d’écran montre l’interface d’auto-présentation de PaperAssist, où les huit premières étapes sont visibles.
▲ Figure 2 | Interface de PaperAssist : le processus complet en neuf étapes est décrit, la capture montre les huit premières
La première étape est la définition de la direction : transformer une idée floue en question de recherche, en fiches d’idées et en Proposal. La deuxième étape est la création de la bibliothèque de références : recherche multi-sources, déduplication, DOI et nombre de citations, téléchargement automatique des PDF dans la bibliothèque, puis rédaction d’une revue de littérature fondée sur les résumés réels de la bibliothèque. La troisième étape est l’élaboration du plan : génération du plan, de la structure des chapitres, du modèle de la revue cible, et indication des sections `data_needed` (celles qui nécessitent de vraies données).
▲ Figure 3 | Les six premières étapes constituent l’accumulation initiale du sujet, des références, des données et des figures
La quatrième étape est la réception des données : téléverser des CSV / Excel / JSON, profilage automatique avec pandas, mise en correspondance chapitre par chapitre de « ce que demande le plan → ce que vous avez → produire une analyse des écarts + une liste d’actions ». La cinquième étape est l’analyse des données : exécuter des statistiques sur de vraies données et produire des graphiques. La sixième étape est les illustrations de l’article : prise en charge de 8 types de graphiques, assemblage multi-panneaux Figure a/b/c, export SVG éditable selon la largeur de colonne de la revue.
▲ Figure 4 | Les septième et huitième étapes séparent l’exécution de « écrire » et de « écrire de manière fiable »
La septième étape est la rédaction du corps du texte : rédiger chapitre par chapitre, avec des citations dans le texte au format `[cite:key]`, puis une vérification croisée à trois volets en arrière-plan (utilisées / manquantes / non utilisées). La huitième étape est la révision et l’auto-contrôle : jusqu’à 3 tours + verrouillage, incluant la validation de l’authenticité des citations et un moteur de suppression des tournures typiques de l’IA. Le processus complet est annoncé comme comportant neuf étapes, mais la capture ne montre que les environs de la huitième ; nous ne spéculons donc pas sur les détails précis de la neuvième.
03 Comment les données réelles sont verrouillées
La clé de l’authenticité des données est d’empêcher le modèle d’avoir l’occasion de « remplir avec de faux chiffres ».
▲ Figure 5 | Les trois points de contrôle correspondent aux trois étapes où le risque d’inconduite académique est le plus élevé
PaperAssist fait plusieurs choses au niveau des données. D’abord, les données doivent être téléversées, elles ne peuvent pas être générées de toutes pièces. Ensuite, après le profilage automatique avec pandas, l’outil met en correspondance chapitre par chapitre les exigences du plan et les données existantes, en signalant clairement les écarts. De plus, les écarts ne sont pas automatiquement comblés : l’outil génère une liste d’actions qui vous indique ce qu’il manque encore. Cela signifie que si un chapitre nécessite de vraies données que vous n’avez pas encore fournies, le système ne fabriquera pas un chiffre plausible à votre place ; il vous laisse résoudre le problème.
L’avantage de cette conception est l’honnêteté. Elle sacrifie la vitesse de « l’apparence complète » pour gagner la fiabilité d’un « chaque étape vérifiable ».
04 Comment les références réelles sont verrouillées
L’hallucination bibliographique est plus difficile à prévenir, car une citation peut être parfaitement normalisée tout en reposant sur une source fictive.
PaperAssist adopte une approche fondée sur une bibliothèque de références interne. Lors de la recherche, des références sont identifiées à partir de plusieurs sources réelles, dédupliquées automatiquement, puis les PDF sont téléchargés dans la bibliothèque. Lors de la rédaction, le format de citation est `[cite:key]` ; l’arrière-plan vérifie si cette citation figure bien dans la bibliothèque, si elle a été utilisée et s’il existe des références qui auraient dû être citées mais ne le sont pas. Cette vérification croisée « utilisées / manquantes / non utilisées » fait passer la boucle de citation d’un simple format correct à une source vérifiable.
Bien sûr, cela exige que l’utilisateur construise réellement la bibliothèque de références. Si la bibliothèque omet elle-même des références clés, la vérification en arrière-plan ne pourra pas le détecter. Ce qui est verrouillé, c’est donc la « fabrication de références », pas « l’exhaustivité de la recherche bibliographique ». Cette dernière reste la responsabilité de l’auteur.
05 Limites
Comme d’habitude, explicitons les limites.
① Ce billet porte sur le mécanisme fonctionnel, non sur une promesse de résultat. PaperAssist réduit le risque de fabrication grâce à la conception de son processus, mais ne peut garantir la qualité académique, l’originalité ou le taux d’acceptation de chaque production.
② La responsabilité à la source des données réelles et des références réelles incombe toujours à l’auteur. Le système peut bloquer le « remplissage avec de faux chiffres » et les « références hallucinées », mais il ne peut pas juger à votre place si les données ont été correctement collectées, si la littérature est couverte de manière exhaustive ou si la thèse est valide.
③ La mesure dans laquelle l’IA peut participer à la rédaction d’un article est régie par les règles en vigueur de l’institution concernée. La responsabilité finale en matière d’intégrité académique, de normes de citation et d’utilisation des données incombe toujours à l’auteur.