===== Environnement Grilles et CQ-Learning-ers ===== Article utilisé : http://www.aamas-conference.org/Proceedings/aamas2010/pdf/01%20Full%20Papers/15_02_FP_0421.pdf ==== Présentation ==== Le CQ-Learning permet la coordination d'agents. Son implémentation fait office de surcouche au QLearning qui rend les agents sensibles aux collisions. Les agents suivent leur politique optimale jusqu'à rentrer en collision, c'est alors qu'ils créent un état joint qui leur permettra de se coordonner. La politique optimale n'est jamais mise à jour, les états joints le sont à chaque fois qu'ils sont utilisés. Etant donné que certaines parties de l'article cité plus haut ne sont pas claires, l'algorithme implémenté ici est peut être légèrement différent sur certains points, cependant le principe reste le même. ==== Expérience ==== L'algorithme est testé sur trois environnements différents, un Tunnel to Goal (ttg) un cmu (quoi que cela puisse vouloir dire), et un Two Robots Game (tr). CMU {{:cmu_exemple.png?500|}} Les cases de couleurs sont les objectifs des agents de même couleur (sauf dans le ttg où il les deux agent sont le même objectif). Seul les résultats pour le CMU seront montrés. ==== Resultats ==== === CMU === A la 4 000eme itération, la politique devient déterministe, l'agent ne peut plus choisir d'actions aléatoirement. Moyenne des sommes des récompenses :\\ {{:cmu2_rewards.png?500|}} Moyenne du nombre de collisions :\\ {{:cmu2_collisions.png?500|}} Moyenne du nombre d'états joints :\\ {{:cmu2_nbjs.png?500|}} Petite optimisation sur les états joints, lorsqu'ils n'ont pas été utilisés depuis trop longtemps, ceux-ci sont supprimés. Ils le sont aussi lorsqu'ils indiquent la même action que l'état individuelle. Voici les stats obtenues en lançant l'expérience 5 fois : En moyenne, les agents ont besoin de 13.6 etapes\\ Avec un ecart-type de 6.23217458035 En moyenne, les agents ont 0.0 collisions \\ Avec un ecart-type de 0.0 En moyenne, les agents ont 1.7 etats joints \\ Avec un ecart-type de 1.41774468788