===== Environnement Grilles et CQ-Learning-ers =====

Article utilisé : http://www.aamas-conference.org/Proceedings/aamas2010/pdf/01%20Full%20Papers/15_02_FP_0421.pdf

==== Présentation ====

Le CQ-Learning permet la coordination d'agents. Son implémentation fait office de surcouche au QLearning qui rend les agents sensibles aux collisions.

Les agents suivent leur politique optimale jusqu'à rentrer en collision, c'est alors qu'ils créent un état joint qui leur permettra de se coordonner. La politique optimale n'est jamais mise à jour, les états joints le sont à chaque fois qu'ils sont utilisés.

Etant donné que certaines parties de l'article cité plus haut ne sont pas claires, l'algorithme implémenté ici est peut être légèrement différent sur certains points, cependant le principe reste le même.

==== Expérience ====

L'algorithme est testé sur trois environnements différents, un Tunnel to Goal (ttg) un cmu (quoi que cela puisse vouloir dire), et un Two Robots Game (tr).


CMU
{{:cmu_exemple.png?500|}}

Les cases de couleurs sont les objectifs des agents de même couleur (sauf dans le ttg où il les deux agent sont le même objectif).

Seul les résultats pour le CMU seront montrés.
==== Resultats ====
Les moyennes sont effectuées sur 125 itérations.

=== CMU ===

Moyenne des sommes des récompenses :\\
{{:cmu_rewards.png?500|}}

Moyenne du nombre de collisions :\\
{{:cmu_collisions.png?500|}}

Moyenne du nombre d'états joints (contrairement à la légende) :\\
{{:cmu2_nbjs_opti.png?500|}} \\

Petite optimisation sur les états joints, lorsqu'ils n'ont pas été utilisé depuis trop longtemps, ceux-ci sont supprimés.

A la 4 000eme itération, la politique devient déterministe, l'agent ne peut plus choisir d'actions aléatoirement. Il n'y a plus de collisions surprise et donc seul les états joints utiles sont gardés.