Blog ENI : Toute la veille numérique !
Offre estivale️ ☀️ : de -20% à -30% sur les livres en ligne et vidéos, avec le code PLAGE Cliquez ici !
Accès illimité 24h/24 à tous nos livres & vidéos ! 
Découvrez la Bibliothèque Numérique ENI. Cliquez ici

Extraction de caractéristiques de texte

Introduction

L’extraction de caractéristiques de texte est une étape fondamentale du traitement du langage naturel (TALN) qui vise à transformer le texte brut en informations significatives et structurées. Cette opération est cruciale pour permettre aux machines de comprendre et de traiter le langage humain de manière plus avancée. Plusieurs techniques et méthodes sont utilisées pour extraire des caractéristiques pertinentes du texte, chacune apportant une dimension particulière à l’analyse.

L’extraction de caractéristiques de texte est une discipline multidimensionnelle qui s’appuie sur ces différentes techniques pour fournir une représentation riche et significative du contenu textuel. En combinant ces méthodes, les praticiens du NLP peuvent approfondir l’analyse de texte pour répondre à une variété de besoins, que ce soit pour la classification, la recommandation, l’analyse d’opinion, ou d’autres applications avancées.

1. Fréquence des mots (Bag-of-Words)

La fréquence des mots, souvent appelée modèle Bag-of-Words (BoW), est l’une des approches les plus simples d’extraction de caractéristiques. Elle consiste à compter la fréquence d’apparition de chaque mot dans un document. Ce modèle ignore l’ordre...

Fréquence des mots (Bag-of-Words)

1. Fréquence des mots avec NLTK

On utilise le paragraphe suivant pour illustrer cette fonctionnalité :

L’analyse de texte est une composante essentielle du traitement du langage naturel. Elle permet d’extraire des informations, d’identifier des tendances et de comprendre le contexte sémantique. L’analyse de sentiments, la reconnaissance d’entités nommées et l’extraction de mots-clés sont quelques-unes des applications de cette discipline.

Le code suivant permet de réaliser une analyse de fréquence avec NLTK :

import nltk 
from nltk.tokenize import word_tokenize 
from nltk.probability import FreqDist 
 
# Phrase à analyser 
text = "L'analyse de texte est une composante essentielle  
du traitement du langage naturel. Elle permet d'extraire  
des informations, d'identifier des tendances et de  
comprendre le contexte sémantique. L'analyse de sentiment,  
la reconnaissance d'entités nommées et l'extraction de  
mots-clés sont quelques-unes des applications de cette discipline." 
 
# Tokenisation des mots dans la phrase 
tokens = word_tokenize(text) 
 
# Calcul de la fréquence des mots 
freq_dist = FreqDist(tokens) 
 
# Affichage des mots avec une fréquence...

TF-IDF (Term Frequency-Inverse Document Frequency)

1. Introduction

Le TF-IDF, abréviation de Term Frequency-Inverse Document Frequency, est une méthode avancée d’extraction de caractéristiques de texte qui évalue l’importance d’un mot dans un document spécifique par rapport à son occurrence dans l’ensemble du corpus. Cette technique est largement utilisée dans le domaine du traitement du langage naturel (TALN) pour représenter des documents de manière plus significative. Explorons à présent le TF-IDF en détail. 

2. Term Frequency (TF)

TF mesure la fréquence d’apparition d’un mot dans un document spécifique. Il est calculé comme le nombre d’occurrences d’un mot divisé par le nombre total de mots dans le document :

TF(terme, doc) = Nombre total de mots dans le document doc 
/ Nombre d'occurrences du mot terme dans le document 

3. Inverse Document Frequency (IDF)

Nous pouvons définir IDF ainsi :

  • Il mesure l’inverse de la fréquence du terme dans l’ensemble du corpus.

  • Il est calculé comme le logarithme du rapport entre le nombre total de documents dans le corpus et le nombre de documents contenant le terme.

La formule mathématique est la suivante :

IDF(term_, corpus_) = log(Nombre de documents contenant  
le terme term_ dans le corpus corpus_ / Nombre total de  
documents dans le corpus corpus_ + 1) 

4. TF-IDF

Le TF-IDF correspond au produit du TF et de l’IDF.

Il donne ainsi une mesure de l’importance relative d’un terme dans un document par rapport à l’ensemble du corpus....

Reconnaissance d’entités nommées

1. Introduction

La reconnaissance d’entités nommées (NER) est une tâche fondamentale du traitement du langage naturel (TALN) visant à identifier et à classifier des entités spécifiques dans un texte. Ces entités peuvent inclure des personnes, des lieux, des organisations, des dates, des montants monétaires, des pourcentages, etc. L’objectif principal de la NER est de permettre aux machines de comprendre la signification des entités présentes dans un document textuel.

La première étape de la NER est la tokenisation, qui consiste à diviser le texte en unités discrètes appelées tokens. Ces tokens peuvent être des mots, des phrases ou même des caractères, en fonction de la granularité choisie.

La NER repose sur des modèles linguistiques (disponibles dans NLTK ou spaCy) capables de comprendre la syntaxe et la sémantique du langage naturel. Ces modèles peuvent être basés sur des règles, des statistiques ou des approches d’apprentissage automatique.

Les entités nommées sont généralement étiquetées avec des catégories prédéfinies telles que PERSON (personne), LOCATION (lieu), ORGANIZATION (organisation), DATE (date), etc. Le processus d’attribution de ces étiquettes...

Analyse de sentiments

1. Introduction

Un chapitre à venir sera consacré à l’analyse de sentiments. Mais évidemment, cette thématique est une part entière de l’extraction de caractéristiques de texte. De ce fait, nous prenons ici quelques exemples simples avec spaCy et NLTK, consistant à entraîner un modèle pour justement pouvoir prédire la tonalité d’une phrase.

2. Analyse de sentiments avec spaCy

On se base sur le corpus suivant, associant une phrase et un niveau de sentiment (1 est très positif, et 0 est très négatif) :

corpus = [ 
("J'aime vraiment ce produit. Il est fantastique !", 1), 
("C'est un peu décevant. Je m'attendais à mieux.", 0), 
("Le service clientèle est exceptionnel. Très satisfait !", 1), 
("Je ne recommanderais pas ce produit. Très mécontent.", 0) 
] 

Nous allons utiliser l’intégralité du corpus pour entraîner un modèle (ceci n’est pas très réaliste, l’exemple est ici rhétorique, uniquement destiné à expliquer la démarche).

On entraîne effectivement le modèle :

import spacy 
from spacy.training.example import Example 
 
# Charger le modèle SpaCy avec le composant de classification de 
texte 
nlp = spacy.load('en_core_web_sm') 
 
# Corpus de documents...

Extraction de mots-clés

1. Introduction

L’objectif principal de l’extraction de mots-clés est de capturer l’information la plus pertinente et distinctive présente dans un texte, facilitant ainsi la compréhension du contenu sans avoir à lire l’intégralité du document. Les mots-clés extraits peuvent servir à résumer le contenu, à organiser des documents, à faciliter la recherche d’information, et à améliorer la compréhension des thèmes principaux.

La fréquence des mots ou la méthode TF-IDF permet d’obtenir une telle extraction. On peut aussi analyser la fréquence des paires de mots (bigrammes) ou groupes de trois mots (trigrammes) et ainsi identifier des expressions significatives qui portent souvent une information clé.

2. Exemple avec spaCy

Sur le texte suivant, on utilise le modèle pré-entraîné de spaCy pour identifier les bigrammes et les trigrammes :

Le changement climatique est un défi mondial. Les émissions de gaz à effet de serre augmentent chaque année, contribuant à des phénomènes météorologiques extrêmes. La communauté internationale doit agir de manière concertée pour atténuer les effets du réchauffement climatique et préserver notre planète...

Embeddings de phrases

1. Introduction

L’embedding de phrases est une technique en traitement du langage naturel (TALN) qui vise à représenter des phrases sous forme de vecteurs numériques dans un espace continu. Cette représentation vectorielle permet de capturer la sémantique et la similarité entre les phrases, facilitant ainsi leur utilisation dans des tâches telles que la classification de texte, la recherche d’information, la traduction automatique, et bien d’autres.

Lors du traitement de données textuelles, les modèles de Machine Learning et les algorithmes traditionnels ont besoin de représenter le texte de manière numérique pour être effectivement exploités. Cependant, les méthodes traditionnelles, telles que la représentation sac de mots (bag-of-words), ne captent pas la sémantique ou la similarité entre les mots et les phrases.

L’embedding de phrases repose sur l’idée qu’il est possible de représenter chaque mot et, par extension, chaque phrase, sous forme de vecteurs dans un espace mathématique continu. Cette représentation vectorielle est apprise à partir des données textuelles, permettant aux mots et aux phrases similaires d’être représentés par des vecteurs proches dans cet espace.

2. Principaux outils

a. Word2Vec

Word2Vec est une des premières techniques à avoir popularisé l’embedding de mots. Elle utilise des réseaux de neurones pour apprendre des représentations vectorielles de mots basées sur leur contexte.

b. Doc2Vec

Doc2Vec étend Word2Vec pour apprendre des embeddings de phrases en ajoutant un vecteur de document aux représentations des mots.

c. GloVe (Global Vectors for Word Representation)

GloVe est une approche basée sur des méthodes statistiques qui exploitent les co-occurrences de mots dans le corpus pour apprendre des embeddings de mots.

d. BERT (Bidirectional Encoder Representations from Transformers)

BERT...

Conclusion

L’extraction de caractéristiques de texte, que ce soit avec spaCy ou NLTK, aborde et implique des aspects très variés du NLP. La plupart des aspects abordés dans le présent chapitre seront approfondis dans les chapitres suivants dédiés à des thématiques fonctionnelles spécifiques.