MeLaSSS : Métrique dans l’espace latent sur les phrases simplifiées - Machine Learning and Information Access
Communication Dans Un Congrès Année : 2024

MeLaSSS : Metric in the Latent Space on Simplified Sentences

MeLaSSS : Métrique dans l’espace latent sur les phrases simplifiées

Résumé

This article explores a new approach to evaluating text summaries based on sentence simplification and the comparison of vector representations in the latent space. Drawing on existing metrics such as BERTScore and QuestEval, the MeLaSSS (Metric in the Latent Space on Simplified Sentences) method proposes to use CLS representations and sentence simplification techniques to improve the correlation between automatic evaluations and human judgements, although the results show that sentence simplification does not bring significant benefits due to the current limitations of the language models used for this task.
Cet article explore une nouvelle approche d’évaluation des résumés de textes basée sur la simplification des phrases et la comparaison des représentations vectorielles dans l’espace latent. En s’inspirant de métriques existantes telles que BERTScore et QuestEval, la méthode MeLaSSS (Metric in the Latent Space on Simplified Sentences) propose d’utiliser des représentations CLS et des techniques de simplification de phrases pour améliorer la corrélation entre les évaluations automatiques et les jugements humains, bien que les résultats montrent que la simplification de phrases n’apporte pas de bénéfices significatifs en raison des limitations actuelles des modèles de langue utilisés pour cette tâche.
Fichier principal
Vignette du fichier
MeLaSSS_article_TALN_2.pdf (486.25 Ko) Télécharger le fichier
Origine Fichiers produits par l'(les) auteur(s)

Dates et versions

hal-04678042 , version 1 (26-08-2024)

Identifiants

  • HAL Id : hal-04678042 , version 1

Citer

Tanguy Herserant, Tristan Luiggi, Laure Soulier, Vincent Guigue. MeLaSSS : Métrique dans l’espace latent sur les phrases simplifiées. Atelier sur l'évaluation des modèles génératifs (LLM) et challence d'extraction d'information few-shot, Institut des sciences informatiques et de leurs interactions - CNRS Sciences informatiques [INS2I-CNRS], Jul 2024, Toulouse, France. ⟨hal-04678042⟩
19 Consultations
14 Téléchargements

Partager

More