Extraction de caractéristiques de texte

1. Fréquence des mots (Bag-of-Words)

La fréquence des mots, souvent appelée modèle Bag-of-Words (BoW), est l’une des approches les plus simples d’extraction de caractéristiques. Elle consiste à compter la fréquence d’apparition de chaque mot dans un document. Ce modèle ignore l’ordre...

1. Fréquence des mots avec NLTK

On utilise le paragraphe suivant pour illustrer cette fonctionnalité :

L’analyse de texte est une composante essentielle du traitement du langage naturel. Elle permet d’extraire des informations, d’identifier des tendances et de comprendre le contexte sémantique. L’analyse de sentiments, la reconnaissance d’entités nommées et l’extraction de mots-clés sont quelques-unes des applications de cette discipline.

Le code suivant permet de réaliser une analyse de fréquence avec NLTK :

import nltk 
from nltk.tokenize import word_tokenize 
from nltk.probability import FreqDist 
 
# Phrase à analyser 
text = "L'analyse de texte est une composante essentielle  
du traitement du langage naturel. Elle permet d'extraire  
des informations, d'identifier des tendances et de  
comprendre le contexte sémantique. L'analyse de sentiment,  
la reconnaissance d'entités nommées et l'extraction de  
mots-clés sont quelques-unes des applications de cette discipline." 
 
# Tokenisation des mots dans la phrase 
tokens = word_tokenize(text) 
 
# Calcul de la fréquence des mots 
freq_dist = FreqDist(tokens) 
 
# Affichage des mots avec une fréquence...

1. Introduction

Le TF-IDF, abréviation de Term Frequency-Inverse Document Frequency, est une méthode avancée d’extraction de caractéristiques de texte qui évalue l’importance d’un mot dans un document spécifique par rapport à son occurrence dans l’ensemble du corpus. Cette technique est largement utilisée dans le domaine du traitement du langage naturel (TALN) pour représenter des documents de manière plus significative. Explorons à présent le TF-IDF en détail. 

2. Term Frequency (TF)

TF mesure la fréquence d’apparition d’un mot dans un document spécifique. Il est calculé comme le nombre d’occurrences d’un mot divisé par le nombre total de mots dans le document :

TF(terme, doc) = Nombre total de mots dans le document doc 
/ Nombre d'occurrences du mot terme dans le document 

3. Inverse Document Frequency (IDF)

Nous pouvons définir IDF ainsi :

La formule mathématique est la suivante :

IDF(term_, corpus_) = log(Nombre de documents contenant  
le terme term_ dans le corpus corpus_ / Nombre total de  
documents dans le corpus corpus_ + 1) 

4. TF-IDF

Le TF-IDF correspond au produit du TF et de l’IDF.

Il donne ainsi une mesure de l’importance relative d’un terme dans un document par rapport à l’ensemble du corpus....

1. Introduction

La reconnaissance d’entités nommées (NER) est une tâche fondamentale du traitement du langage naturel (TALN) visant à identifier et à classifier des entités spécifiques dans un texte. Ces entités peuvent inclure des personnes, des lieux, des organisations, des dates, des montants monétaires, des pourcentages, etc. L’objectif principal de la NER est de permettre aux machines de comprendre la signification des entités présentes dans un document textuel.

La première étape de la NER est la tokenisation, qui consiste à diviser le texte en unités discrètes appelées tokens. Ces tokens peuvent être des mots, des phrases ou même des caractères, en fonction de la granularité choisie.

La NER repose sur des modèles linguistiques (disponibles dans NLTK ou spaCy) capables de comprendre la syntaxe et la sémantique du langage naturel. Ces modèles peuvent être basés sur des règles, des statistiques ou des approches d’apprentissage automatique.

Les entités nommées sont généralement étiquetées avec des catégories prédéfinies telles que PERSON (personne), LOCATION (lieu), ORGANIZATION (organisation), DATE (date), etc. Le processus d’attribution de ces étiquettes...

1. Introduction

Un chapitre à venir sera consacré à l’analyse de sentiments. Mais évidemment, cette thématique est une part entière de l’extraction de caractéristiques de texte. De ce fait, nous prenons ici quelques exemples simples avec spaCy et NLTK, consistant à entraîner un modèle pour justement pouvoir prédire la tonalité d’une phrase.

2. Analyse de sentiments avec spaCy

On se base sur le corpus suivant, associant une phrase et un niveau de sentiment (1 est très positif, et 0 est très négatif) :

corpus = [ 
("J'aime vraiment ce produit. Il est fantastique !", 1), 
("C'est un peu décevant. Je m'attendais à mieux.", 0), 
("Le service clientèle est exceptionnel. Très satisfait !", 1), 
("Je ne recommanderais pas ce produit. Très mécontent.", 0) 
] 

Nous allons utiliser l’intégralité du corpus pour entraîner un modèle (ceci n’est pas très réaliste, l’exemple est ici rhétorique, uniquement destiné à expliquer la démarche).

On entraîne effectivement le modèle :

import spacy 
from spacy.training.example import Example 
 
# Charger le modèle SpaCy avec le composant de classification de 
texte 
nlp = spacy.load('en_core_web_sm') 
 
# Corpus de documents...

1. Introduction

L’objectif principal de l’extraction de mots-clés est de capturer l’information la plus pertinente et distinctive présente dans un texte, facilitant ainsi la compréhension du contenu sans avoir à lire l’intégralité du document. Les mots-clés extraits peuvent servir à résumer le contenu, à organiser des documents, à faciliter la recherche d’information, et à améliorer la compréhension des thèmes principaux.

La fréquence des mots ou la méthode TF-IDF permet d’obtenir une telle extraction. On peut aussi analyser la fréquence des paires de mots (bigrammes) ou groupes de trois mots (trigrammes) et ainsi identifier des expressions significatives qui portent souvent une information clé.

2. Exemple avec spaCy

Sur le texte suivant, on utilise le modèle pré-entraîné de spaCy pour identifier les bigrammes et les trigrammes :

Le changement climatique est un défi mondial. Les émissions de gaz à effet de serre augmentent chaque année, contribuant à des phénomènes météorologiques extrêmes. La communauté internationale doit agir de manière concertée pour atténuer les effets du réchauffement climatique et préserver notre planète...

1. Introduction

L’embedding de phrases est une technique en traitement du langage naturel (TALN) qui vise à représenter des phrases sous forme de vecteurs numériques dans un espace continu. Cette représentation vectorielle permet de capturer la sémantique et la similarité entre les phrases, facilitant ainsi leur utilisation dans des tâches telles que la classification de texte, la recherche d’information, la traduction automatique, et bien d’autres.

Lors du traitement de données textuelles, les modèles de Machine Learning et les algorithmes traditionnels ont besoin de représenter le texte de manière numérique pour être effectivement exploités. Cependant, les méthodes traditionnelles, telles que la représentation sac de mots (bag-of-words), ne captent pas la sémantique ou la similarité entre les mots et les phrases.

L’embedding de phrases repose sur l’idée qu’il est possible de représenter chaque mot et, par extension, chaque phrase, sous forme de vecteurs dans un espace mathématique continu. Cette représentation vectorielle est apprise à partir des données textuelles, permettant aux mots et aux phrases similaires d’être représentés par des vecteurs proches dans cet espace.

2. Principaux outils