Deep Learning, Comment Les Algorithmes Changeront-ils Dans Le Futur ?

L’expression « deep learning » désigne simplement l’apprentissage des différentes étapes d’un processus, au lieu de ne se consacrer qu’à l’apprentissage d’une seule étape. De ce point de vue, il y a une explosion combinatoire du nombre d’algorithmes d’apprentissage profond, par rapport aux algorithmes superficiels. 

Entre 2006 et 2011, le deep learning était populaire, mais l’expression désignait alors principalement le fait d’accumuler des algorithmes d’apprentissage non supervisé afin de définir des fonctionnalités compliquées pour un apprentissage supervisé.
À partir de l’année 2012, l’expression a principalement renvoyé à l’utilisation de la rétropropagation pour optimiser tous les paramètres dans un graphique de calcul profond représentant une fonction dérivable.

Il semble très probable que nous ayons bientôt des algorithmes qui soient plus bayésiens (plutôt que basés sur un unique point d’estimation des meilleurs paramètres), et qui utilisent plus d’opérations non dérivables, etc. Nous les qualifierons sans doute toujours d’algorithmes profonds.

Je pense également que nous cesserons de penser autant à la distinction entre le « deep learning » et les autres types d’apprentissage. Le deep learning est déjà si commun qu’il n’a plus grand chose d’exotique. Nul besoin de stratégie de marque spécifique ou d’efforts particuliers des relations presse pour le faire accepter.