Dans le monde en constante évolution de l’information et des technologies, les technologies modernes d’Intelligence Artificielle (IA) basées sur le Traitement du Langage Naturel (NLP) et les Grands Modèles de Langage (LLMs) deviennent de plus en plus répandues. En comprenant et en générant du texte de manière similaire à l’humain, elles jouent un rôle central dans les sociétés de l’information multilingues.
Aujourd’hui, les systèmes de NLP et de LLM tels que GPT, BERT, BART, LaMDA, etc., attirent l’attention des chercheurs ainsi que des secteurs public et privé de toutes tailles et de tous types. Par exemple, des géants de la technologie comme Facebook, Amazon, Google, etc., investissent des millions de dollars dans ces projets de recherche modernes.
Grâce à ces technologies, les organisations peuvent automatiser de nombreuses tâches avancées telles que la création de contenu, l’amélioration et le développement des services et produits, etc.
Si vous êtes intéressé par le fonctionnement des composants du NLP et des Grands Modèles de Langage (LLMs), ce livre constitue une excellente introduction ainsi qu’un guide complet sur le NLP et les LLMs, offrant des conseils théoriques et pratiques. Il couvre des sujets tels que la compréhension du langage naturel (NLU), la génération du langage naturel (NLG), les composants du NLP (analyse morphologique et lexicale, analyse syntaxique, analyse sémantique, intégration du discours, analyse pragmatique), les modèles de traitement du langage naturel, les grands modèles de langage, les transformers, l’entraînement préalable (pre-training), l’affinage (fine-tuning), les processus d’apprentissage en contexte (in-context learning) et l’ingénierie des invites (prompt engineering).
Afin de tester les concepts clés du NLP et des LLMs par la mise en œuvre, la partie pratique de ce livre vous apprendra, à travers des exemples, à écrire de véritables programmes NLP et LLMs. Cette section comprend de nombreux exemples de code source en Python. Nous y résumons et discutons des bibliothèques NLP courantes en Python ainsi que de leurs applications dans ces exemples.
Dans cette partie pratique, vous travaillerez avec le modèle GPT-3.5 d’OpenAI comme exemple de LLM afin de comprendre comment utiliser l’ingénierie des invites pour obtenir de meilleurs résultats à partir d’un LLM et apprendre à appliquer des techniques d’ingénierie des invites telles que le « few-shot prompting », le « chain-of-thought prompting », etc., à des cas concrets et réalistes.
Prof. Dr Youssef TAHER
Expert en IA – Big DATA