Le Deep Learning avec TensorFlow

Objectif du chapitre

Le chapitre précédent nous a permis d’aborder les concepts de base des réseaux de neurones. L’objectif de ce chapitre est double. D’une part, il va nous permettre d’aller un peu plus loin dans les concepts des réseaux de neurones tels que les réseaux de neurones à convolution ou le Transfer Learning, et d’autre part, il va nous permettre d’aborder la bibliothèque TensorFlow, qui est sans doute l’une des bibliothèques les plus utilisées pour implémenter les concepts sous-jacents des réseaux de neurones. Bien sûr, un seul chapitre ne va certainement pas être suffisant pour couvrir le sujet de Deep Learning dans sa globalité ni pour aborder tous les détails techniques de la bibliothèque TensorFlow. Le but est évidemment d’évoquer les concepts les plus fondamentaux du Deep Learning et les techniques les plus couramment utilisées avec TensorFlow de sorte que le lecteur, à la suite de ce chapitre, pourra sans difficulté aller plus loin dans sa formation traitant de ces deux sujets.

À la fin de ce chapitre, le lecteur aura abordé :

Le Deep Learning : notions générales

Pendant longtemps, les chercheurs en réseaux de neurones ont cru qu’un réseau de neurones avec une couche d’entrée, une couche de sortie et une ou deux couches cachées suffirait à modéliser la plupart des phénomènes étudiés dans ce domaine. Mais avec la multiplicité et la fréquence croissante des sources de données, les tailles des bases d’apprentissage ont beaucoup augmenté ces dernières années, notamment lors de la dernière décennie. Avec ces données d’apprentissage plus importantes en matière de taille, les réseaux de neurones complexes composés de plusieurs couches cachées ont montré une efficacité telle qu’aujourd’hui, dans certains domaines, il est très difficile d’envisager de développer des modèles d’apprentissage automatique sans l’utilisation de ces réseaux de neurones multicouches. En effet, les réseaux de neurones constitués de plusieurs couches cachées sont devenus des champions jamais égalés dans des domaines tels que la reconnaissance d’objets dans des images et la reconnaissance vocale.

Traiter le sujet du Deep Learning dans sa globalité avec toutes les versions techniques possibles proposées dans la littérature est quasiment impossible. Rien que l’évocation des grandes lignes des principes de ce domaine nécessiterait tout un ouvrage dédié en plusieurs tomes ! Cependant, dans ce chapitre, nous allons mettre en pratique les principes les plus répandus en matière de Deep Learning via des exemples en utilisant TensorFlow.

Mais avant d’aborder les détails techniques d’implémentation des réseaux de neurones complexes, cette section nous permet de passer en revue certains des principes les plus élémentaires du Deep Learning.

Lorsque nous parlons de Deep Learning, ou de l’apprentissage profond, il s’agit bien de réseaux de neurones constitués d’une ou plusieurs couches d’entrée, d’une ou plusieurs couches de sortie et de deux ou plusieurs couches cachées.

La figure suivante illustre l’architecture d’un...

Introduction à TensorFlow

Les réseaux de neurones avec Sequential API

Cette classe permet de définir un objet qui sera associé à un réseau de neurones dont les couches sont connectées les unes aux autres de manière linéaire en partant de la couche d’entrée jusqu’à la couche de sortie en passant par les couches cachées.

Chaque couche cachée d’un réseau de neurones de type models.Sequential reçoit ses entrées à partir des sorties de la couche située juste derrière elle, et les sorties de cette couche cachée seront connectées uniquement aux entrées de la couche située tout de suite devant elle.

Nous allons réaliser un exemple de réseau de neurones en utilisant Sequential API. Ce modèle de réseau de neurones que nous allons réaliser sera spécialisé dans la classification des images.

import tensorflow as tf 
from tensorflow import keras 
import os 
import pandas as pd 
import numpy as np 
import matplotlib.pyplot as plt 
 
os.environ['TF_CPP_MIN_LOG_LEVEL']='2' 

Utiliser Functional API

Functional API permet de développer des réseaux de neurones dont la structure est plus complexe que la structure des réseaux de neurones que nous pouvons développer avec Sequential API. Avec Functional API, les couches d’un réseau de neurones ne sont pas forcément empilées les unes derrière les autres de manière linéaire comme avec Sequential API.

Dans cette section, nous allons développer un réseau de neurones avec trois couches d’entrée, trois couches cachées et deux couches de sortie. Afin de diversifier nos exemples de réseaux de neurones développés avec TensorFlow, nous allons développer cette fois un réseau de neurones pour une régression linéaire. L’architecture du réseau de neurones que nous allons réaliser dans cet exemple correspond à l’architecture de la figure suivante :

Figure 14-34 : réseau de neurones avec trois couches d’entrée, trois couches cachées et deux couches de sortie

import tensorflow as tf 
from tensorflow import keras 
import os 
import pandas as pd 
import numpy as np 
import matplotlib.pyplot as plt 
 
from sklearn.datasets import fetch_california_housing 
from sklearn.model_selection import train_test_split ...

Opérations avancées sur les réseaux de neurones

import tensorflow as tf 
from tensorflow import keras 
import os 
import pandas as pd 
import numpy as np 
 
os.environ['TF_CPP_MIN_LOG_LEVEL']='2' 
 
cifar10_class_names = { 
   0:"Plane", 
   1:"Car", 
   2:"Bird", 
   3:"Cat", 
   4:"Deer", 
   5:"Dog", 
   6:"Frog", 
   7:"Horse", 
   8:"Boat", 
   9:"Truck", 
} 
 
cifar10 = keras.datasets.cifar10 
(x_train, y_train), (x_test, y_test) = cifar10.load_data() 
 
x_train = x_train.astype("float32") 
x_test = x_test.astype("float32") 
 
x_train= x_train/255 
x_test = x_test /255 
 
y_train = keras.utils.to_categorical(y_train, 10) 
y_test = keras.utils.to_categorical(y_test...