Introduction

Un petit billet rapide pour vous faire part d’une soutenance de thèse à laquelle j’ai assistée le lundi 18 juin. Le sujet de thèse porte sur les techniques d’apprentissage artificiel multi-tâches.

Références

La thèse dont je parle dans ce billet a été soutenue :

• le lundi 18 juin 2012
• à la maison de la recherche de l’Université de Lille 3
• par Jean Baptiste Faddoul

Un résumé de la thèse est disponible sur le site de l’Inria.

Apprentissage multi-tâche

C’est quoi?

Le principe : on dispose de données sur lesquelles on va accomplir des tâches qui sont “reliées”. Le but est de tirer parti de la “liaison” entre les tâches pour mieux apprendre à traiter chacune des tâches que si on les apprenait toutes une par une de manière isolée.

Prenons un exemple pour que ce soit plus clair.

Supposons deux tâche d’étiquetage A et B étiquetant pour la tâche A des données par a1, a2, a3 et pour la tâche B par b1, b2, b3. Le but est par exemple de déceler que l’étiquetage par A d’une donnée par a1, entraîne de manière quasi certaine l’étiquetage par B avec b2.

Quel est l’avantage du multi-tâche?

Lorsqu’on ne dispose pas de suffisamment de données pour apprendre chacune des tâches séparément, la quantité d’informations supplémentaires apportées par la détection des liens permet d’augmenter l’efficacité de l’apprentissage.

Ainsi, dans l’exemple précédent, si l’on a suffisamment d’exemples pour étiqueter correctement les données pour la tâche A, même si l’algorithme ne dispose pas de suffisamment d’informations pour B, il sera quand même capable d’étiqueter avec une bonne précision les données b2 grâce aux étiquettes a1.

Techniques et Algorithmes

Pour décrire brièvement les techniques et algorithmes utilisés, nous avons :

• l’emploi de weak learners, en l’occurrence des bi-stumps ou stumps à deux niveaux
• l’emploi d’algorithmes de boosting tel que Adaboost

Conclusion et perspectives

Le cas de figure où l’on ne dispose pas assez d’exemples d’apprentissage sur une tâche donnée est finalement assez fréquent et l’idée d’apprendre les différentes tâches reliées avec une certaine concordance pourrait se révéler une piste assez intéressante. Je reviendrai donc sans doute sur le sujet dans un prochain billet.

Mots clefs : adaboost, apprentissage artificiel, apprentissage automatique, apprentissage multi-tâches, bi-stump, boosting, stump, weak learner

Cette entrée a été publiée le Mardi 3 juillet 2012 à 14 h 02 min, et rangée dans Actualités, Thèse. Vous pouvez suivre les réponses à cette entrée via son flux RSS 2.0. Vous pouvez laisser un commentaire, ou faire un rétrolien depuis votre site.