Exploration complète du Deep Learning: des prérequis mathématiques aux techniques avancées
Bienvenue sur le dossier consacré au Deep Learning en NLP ! Le traitement automatique du langage naturel (NLP) est une branche de l'intelligence artificielle qui permet aux machines de comprendre et de générer du langage humain. Le Deep Learning, quant à lui, est une technique d'apprentissage automatique qui utilise des réseaux de neurones pour apprendre à partir de données.
Dans ce dossier, nous allons explorer les bases du Deep Learning appliqué au NLP. Nous commencerons par les prérequis mathématiques et les bases du Machine Learning, avant de nous plonger dans les techniques spécifiques au NLP, telles que la tokenisation, le stemming, la lemmatisation, et les réseaux de neurones tels que les RNN et les Transformers pour la modélisation de langage.
Nous aborderons également les avancées les plus récentes en NLP, comme la génération de texte, la traduction automatique et la compréhension de texte. En espérant que ce dossier vous permettra de mieux comprendre les techniques du Deep Learning appliquées au NLP. Bonne lecture !
Prérequis mathématiques :
- Statistiques (WIP)
- Probabilités (WIP)
- Algèbre linéaire
Bases du Machine Learning :
- Supervisé vs semi-supervisé vs non-supervisé (WIP)
- Regressions, clustering, classifications... (WIP)
- Data splitting, Train-Test-Val (WIP)
- Mesures de performances (WIP)
- Overfitting et underfitting (WIP)
- Normalisations (WIP)
Bases du Deep Learning :
- Perceptron
- Multilayer Perceptron (WIP)
- Fonctions d'activation :
Bases du NLP :
- Tokenisation (WIP)
- Stemming et lemmatisation (WIP)
Réseaux de neurones dans le NLP :
- Shallow network: Word2Vec (WIP)
- RNN (WIP)
- LSTM (WIP)
- GRU (WIP)
- Transformers & LLM (WIP)
Bien que la lecture des articles de ce dossier puisse vous apporter des connaissances utiles, il est important de
souligner que la pratique est essentielle pour progresser en informatique. Par conséquent, je vous encourage à trouver
des données et à les utiliser pour mettre en pratique les concepts que vous avez appris dans ce dossier. N'hésitez pas
à vous lancer et à coder par vous-même, car c'est en faisant que l'on apprend le mieux. Alors, à vos claviers !