Neural Networks From Scratch

Parler de l’intelligence artificielle est une chose. Comprendre son fonctionnement en est une autre : vecteurs, espaces latents, deep learning, neurones artificiels — autant de concepts que l’on cite souvent sans vraiment savoir ce qui se passe dessous.

Neural Networks from Scratch est un livre et un cours qui rendent accessible la construction d’un réseau de neurones depuis zéro.

L’auteur, Harrison Kinsley (alias Sentdex), part d’un constat simple : la plupart des tutoriels en deep learning simplifient à l’excès. On importe Keras ou PyTorch, on résout un problème déjà résolu sur un jeu de données déjà préparé, et on obtient un résultat sans jamais comprendre pourquoi. Quand vient le moment de s’attaquer à quelque chose de nouveau, on se retrouve à changer des paramètres au hasard en espérant que ça marche.

NN TDM 1NN TDM 2

Table des matières – Cliquer pour agrandir dans une nouvelle fenêtre

Le livre prend le chemin inverse. On code d’abord un neurone en Python pur, sans aucune librairie externe. On assemble ensuite des couches, on programme les fonctions d’activation (ReLU, Softmax, Sigmoid, Linéaire), on calcule la perte par entropie croisée, puis on implémente la rétropropagation et les optimiseurs — SGD, AdaGrad, RMSprop, Adam — un par un. Une fois les mécanismes bien ancrés, on reprend le tout avec NumPy, ce qui permet au passage de se familiariser sérieusement avec cette librairie incontournable.

Le seul prérequis est une connaissance de base de Python* et de la programmation orientée objet, ainsi qu’un niveau secondaire en mathématiques. L’algèbre linéaire est expliquée dans le livre lui-même ; pas besoin d’avoir suivi des cours universitaires.

Formule complète d'un réseau de neurones
Formule complète d’un réseau de neurones– Cliquer pour agrandir dans une nouvelle fenêtre

Le livre est disponible en version papier (souple ou rigide, impression couleur intégrale avec coloration syntaxique du code) et en version numérique. L’achat de n’importe quel format donne accès à l’ebook : le PDF est envoyé immédiatement par courriel, et une version Google Doc permet de surligner le texte et de poser des questions directement dans le livre, auxquelles les auteurs — et la communauté — peuvent répondre. Les impressions physiques sont faites à la demande depuis des imprimeries locales partout dans le monde ; compter de trois à six semaines pour la livraison.

Revenir en haut de page