GPT3 

Tattleware, les logiciels de surveillance

1 GPT-3 (Generative Pre-trained Transformer 3) est un modèle de traitement de langage naturel (NPL) permettant à des ordinateurs d’analyser et de produire des textes complexes de haute qualité, grâce au machine learning.

2 Capable de gérer plus de 175 milliards de paramètres, GTP-3 est l’un des réseaux neuronaux les plus avancés jamais construits. 

3 Cette technologie a été développée par Open.ai, organisme de recherche sur l’IA cofondé par Elon Musk et cofinancé par Microsoft, dans le but de promouvoir l’Intelligence Artificielle pour l’humanité toute entière. GPT-3 est accessible via son API (Application Programming Interface). 

4 GPT-3 génère automatiquement un texte (completions) à partir de quelques mots (prompts ou instructions / invites de commande). Une expérience a montré que GPT-3 pouvait produire un rapport de fin d’études universitaires en une vingtaine de minutes. Résultat ? Variable selon les matières mais globalement “passable” ce qui n’est déjà pas si mal… 

5 Vous pouvez tester librement la génération de texte ainsi que les fonctions de conversation automatique, avec l’outil Playground (option Personal use) d’OpenAI. 

6 Très sensible à l’éthique en Intelligence Artificielle, OpenAI a doté GPT-3 de nombreux filtres détectant les biais malveillants (sexisme, racisme, etc.). C’est encore aléatoire mais l’intention de ne pas nuire est clairement présente.

7 La bataille des modèles de traitement de langage naturel (NLP) ne fait que commencer. Lancé en juin 2021 par l’Académie d’Intelligence Artificielle de Pékin (BAAI), l’outil de langage naturel Wu-Dao 2.0 peut gérer 10 fois plus de paramètres que GPT-3 et générer textes, images et chansons… entre autres ! Toutefois, OpenAi ne se laisse pas distancer : le successeur de GPT-3 – GPT-4 – (quelle originalité !) devrait être 500 fois plus puissant avec cent mille milliards de paramètres…

La leçon à tirer

Les êtres humains vont-ils réussir à devenir 500 fois plus puissants tous les deux ans ? 

Pour aller plus loin


Cet article vous a plu ? N’hésitez pas à le faire suivre à vos amis… Vous pouvez aussi vous abonner à notre Newsletter pour recevoir nos articles directement dans votre boîte mail chaque vendredi.