OC Hao Meta06

J.K.
Hao, Universit d'Angers 1

Mta-heuristiques et leurs applications

Jin-Kao Hao

LERIA
Universit d'Angers
2, Boulevard Lavoisier
F- 49045 Angers Cedex 01

tlphone : 02 41 73 50 76
email : hao@info.univ-angers.fr
Web : www.info.univ-angers.fr/pub/hao
J.K. Hao, Universit d'Angers 2
1. Optimisation combinatoire
2. Panorama sur les mthodes de rsolution
3. Approche de recherche locale
4. Approche dvolution
5. Approche dhybridation
6. Exemple dapplications
7. Conclusions

PLAN

1re partie

Panorama sur les mthodes de rsolution

Cette partie est fonde sur larticle de synthse suivante :

J.K. Hao, P. Galinier et M. Habib
Mtaheuristiques pour l'optimisation combinatoire
et l'affectation sous contraintes.
Revue d'Intelligence Artificielle Vol.13 (2) : 283-324, 1999.

Article accessible : www.info.univ-angers.fr/pub/hao

Quelques rfrences gnrales

Handbook of Applied Optimization, P.M. Pardalos & M.G.C. Resende,
Oxford University Press, 2002.
Modern Heuristic Techniques for Combinatorial Problems, C.R.
Reeves (Ed.), McGraw-Hill, 1995.
New Ideas in Optimization, D.Corne, M. Dorigo et F. Glover (Ed.),
McGraw-Hill, 1999.
Tabu Search, F. Glover & M. Laguna, Kluwer Academic Publishers,
1997.
Simulated Annealing and Boltzmann Machines, E. Aarts & J. Korst,
Johne Wiley & Sons, 1989.
Genetic Algorithms in Search, Optimization, and Machine Learning,
D.E. Goldberg, Addison-Wesley, 1989.
Optimisation combinatoire

Minimisation

tant donn un couple (S,f) o
S un ensemble fini de solutions ou configurations (espace de recherche)
f : SR une fonction de cot (ou objectif)
trouver s*eX _ S tel que f(s*) s f(s) s eX (config. faisables ou ralisables)

s*
S
X
Remarques :
pour la maximisation, il suffit de remplacer "f(s*) s f(s)" par " f(s*) > f(s)"
en pratique, S et f ne sont pas ncessairement donns l'avance (pb codage)
la plupart des pb d'optimisation intressants sont dans la classe NP-difficile
Exemple : voyager de commerce (TSP)

mthodes de recherche
(RO)
construction
rech. locale
MD
(<72)
tabou
(86)
glouton
(<56)
SEP
(<66)
recuit
(83)
mthodes de recherche
(IA)
construction rparation
min-conflit
(90)
GSAT
(92)
A*
(68)
CSP
(74)
algorithmes
volutifs
AG
(75)
prog.
vo.
(66)
stratgies
d'volution
(73)
recombinaison
scatter search
path relinking
(77)
Mthodes de rsolution
Quatre grandes approches :

1. Construction : instanciation successive des variables selon un ordre statique ou
dynamique (branch & bound, CSP, mthodes gloutonnes...)
2. Recherche locale : rparation itrative d'une configuration complte par des
modifications locales (descente, recuit simul, recherche tabou, min-conflit...)
3. Evolution : volution d'une population de solutions par des oprations "gntiques"
(slection, croisement, et mutation), ex : algorithmes gntiques...
4. Hybridation : combinaison de diffrentes approches (volution + RL, volution +
construction...)

Approche de construction
- l'instanciation successive des variables selon un ordre statique ou dynamique.
- si exacte (complte), alors complexit exponentielle dans le pire des cas
- ex : branch & bound, CSP, mthodes gloutonnes...

Approche de recherche locale ou voisinage
- rparation itrative d'une config. complte par des modifications locales
- non-exacte
- ex : descente, recuit simul, recherche tabou, mais aussi min-conflit...
Remarque : possibilit d'insrer la recherche locale dans un algorithme exact (complet)

Approche d'volution
- volution d'une population de solutions par des oprations "gntiques"
(slection, croisement, et mutation)
- non-exacte
- ex : algo. gntiques, stratgies d'volution, programmation volutive...

Remarques :
- domaine de recherche en pleine actualit et en volution constante
- revue & confrence spcialises
* Metaheuristics International Conference (MIC) (depuis 1995)
* Journal of Heuristics (depuis 1995, fondateur : F. Glover)

rech. locale algo. volutifs
MD tabou
mtaheuristiques
recuit algo. gnt. prog. vo.
stratgies d'vo.
mthodes hybrides
Autres
Mtaheuristiques
Heuristique

une mthode approche conue pour un problme particulier pour produire
des solutions non ncessairement optimales (avec un temps de calcul
raisonnable)

Mtaheuristique

une stratgie (rgle) de choix pilotant une heuristique
(introduite initialement dans le contexte de la mthode taboue)
un schma de calcul heuristique, gnral et adaptable un ensemble
de problmes diffrents

Champs dapplications privilgis

problmes de recherche difficiles quon ne sait pas traiter autrement
Heuristiques v.s. mtaheuristiques
Deux principes de base pour une recherche heuristique

Intensification (ou exploitation)

permet dexaminer en profondeur une zone particulire
de lespace de recherche

Diversification (ou exploration)

permet dorienter la recherche vers de nouvelles zones (prometteuses)
dans lespace de recherche

Une recherche heuristique efficace
ncessite un bon compris entre intensification et diversification

Remarque: Mtaheuristiques fournissent des moyens diffrents pour la mise en
oeuvre de ces deux principes complmentaires.

Voisinage
- fonction N : S 2
S
, s eS, N(s) c S,
i.e. cette fonction associe chaque point de S un sous-ensemble de S
e.x. pour les CSP, changement de la valeur dune variable
- seS est un optimum local par rapport N si s'eN(s), f(s) s f(s') (pour pb. min.)

Fonction dvaluation Eval
- fonction Eval : S R, s eS,
i.e. cette fonction permet de quantifier la qualit des points de S
- Eval = f (objectif initial) si lon travaille dans lespace de recherche ralisable
- Eval = f + une fonction de pnalit si lon travaille dans lespace non ralisable

Stratgie de mouvement
- rgle de choix permettant de passer dune configuration courante
une configuration voisine.
Recherche locale lments de base

Procdure gnrale

tape 1 (initialisation)
a) choisir une solution initiale s e S
b) s* s (i.e. s* mmorise la meilleure solution trouve)

tape 2 (choix et terminaison)
a) choisir s' eN(s)
b) s s' (i.e. remplacer s par s')
c) terminer et retourner la meilleure solution trouve si la condition d'arrt vrifie

tape 3 (mise jour)
a) s* s si f(s) < f(s*)
b) aller l'tape 2

Remarque : mtaheuristiques diffrentes => stratgies de choix diffrentes l'tape 2
Recherche locale la procdure
Recherche locale
point initial
point final
voisinage
Recherche locale la descente

Mthode de descente stricte


Choisir un voisin s eN(s) tq f(s) < f(s) (s est plus performant que s)
s s (i.e. remplacer s par s)
terminer si seN(s), f(s) > f(s)

Remarque :
dcisions prendre
o *1re ou meilleure amlioration
o comment valuer rapidement les voisins chaque itration
(technique delta, matrice de gains)

Proprit : s'arrte au 1er optimum local rencontr

remdes simples :
o relance multiple alatoire
o acceptation de voisins moins performants
Recherche locale recuit simul

Recuit simul


1. choisir au hasard s' e N(s) (s nest pas ncessairement meilleur que s)
2. si f(s') s f(s), alors accepter s, sinon accepter s avec une probabilit p(Af,T)
3. terminer si la condition d'arrt est ralise (un nb. max d'itr est effectu...)

Remarque :

dcisions prendre
1. comment dterminer la probabilit p(Af,T) (diminution priodique ou
continu)
2. comment valuer rapidement les voisins chaque itration (delta)

une recherche partiellement fonde sur le hasard

Schma de refroidissement

Schma de refroidissement (cooling schedule): la fonction qui spcifie
lvolution (souvent la diminution progressive) de la temprature
Schma de dcroissance par palier:
1. la temprature est conserve pour un nombre ditration variables
(paliers), la longueur de chaque palier est inversement proportionnelle
la valeur de la temprature
Autres schmas de refroidissement :
1. dcrotre la temprature chaque itration.
2. une temprature constante (algorithme de Metropolis).
3. fonction de temprature non-monotone.
Le critre de Metropolis
Fonction CritMetropolis(Af,T)
- Si Af < 0 renvoyer VRAI
- Sinon
avec une probabilit de exp(Af,T) renvoyer VRAI
Sinon renvoyer FAUX
Commentaires:
1. Un voisin qui amliore (Af <0) ou cot gal (Af = 0) est toujours accept.
2. Une dgradation faible est accepte avec une probabilit plus grande quune
dgradation plus importante.
3. La fonction CritMetropolis(Af,T) est une fonction stochastique : appele deux
fois avec les mmes arguments, elle peut renvoyer tantt vrai et tantt
faux.
Recherche locale recuit simul
(avec paliers et refroidissement gomtrique)

Algorithme gnral

Gnrer une configuration initiale s ;
s* s;
T := T0;
Repeat
nb_moves := 0
For i := 1 to iter_palier
choisir au hasard s' e N(s);
calculer Af = f(s) f(s);
if CritMetropolis(Af, T) then
s s;
if f(s)<f(s*) then s* s;
nb_moves := nb_moves + 1;
acceptance_rate := i / nb_moves;
T := T * coeff;
Until <condition fin>
Retourner s*
Recherche locale tabou

Recherche tabou


1. choisir s e N(s) tq s" e N(s), f(s') s f(s") (s est le plus performant des
voisins de s, mais peut tre moins performant que s)
(liste tabou pour empcher des cycles)
2. s <- s', mme si f(s') > f(s)
3. terminer si la condition d'arrt est ralise (nb. max d'itr effectu...)

Remarque :

La rgle de choix permet tabu daller au del des optima locaux
dcisions prendre
1. que stocker dans la liste tabou
2. comment dterminer la longueur de la liste (statique ou dymanique)
3. comment valuer rapidement les voisins chaque itration (delta)
Mcanismes spcifiques pour intensification et diversification
Recherche locale (rsum)

Descente :

choisir un voisin plus performant s' e N(s) i.e. f(s') < f(s)
Rapide mais s'arrte au 1er optimum local rencontr

Recuit :

choisir au hasard s' e N(s); si f(s') s f(s) alors accepter s'
sinon accepter s' avec probabilit p(Af,T)

Tabou :

choisir un des meilleurs voisins s' e N(s), accepter s' mme si f(s') > f(s) (liste
tabou pour empcher des cycles)

Recuit et tabou ne s'arrtent pas au 1er optimum local rencontr
Dautres formes de recherche locale

Recherche Voisinage Variable (VNS Variable Neighborhood Search)
La descente sopre avec un ensemble de voisinages N
k
(ex: dans le cas dun
problme 0-1, N
k
(x) = { distance_hamming(x,x)=k}

GRSAP (Greedy randomized adaptative search procedures)
La descente (ou une autre RL) est applique sur des solutions initiales
gnres avec une procdure gloutonne non-dterministe.

Randow-Walk
Avec une probabilit p, prendre un voisin au hasard
Avec une probabilit 1-p, appliquer la descente
Un exemple : le fameux algorithme WalkSAT (GSAT est une descente stricte)

Mthode bruitage (Noising method)
La recherche locale est applique avec une fonction dvaluation f bruite ou
sur les donnes bruites du problme

Recherche locale : performance

Thorique

preuves de convergence dans certains cas (recuit simul, tabou...), mais
difficlement utilisables en pratique

Pratique

trs bons rsultats pour de nombreux problmes difficiles
adaptation indispensable :
le codage du problme (configuration et espace de recherche)
le voisinage (connaissances spcifiques du problme)
techniques pour traiter les contraintes
les structures de donnes employes

Amlioration

hybridation avec les algorithmes gntiques
hybridation avec l'approche de construction
Approche dvolution

Notion principale
volution d'un ensemble de configurations (population)
oprateurs d'volution : slection, recombinaison et mutation

Procdure gnrale
tape 1 : (initialisation)
Choisir un ensemble de configurations initiales (population)

tape 2 : (volution)
Slection sur la population
Application d'oprateurs de recombinaison et de mutation

tape 3 : (mise jour)
Rorganisation de la population (ex, limination des configurations
non-performantes de la population)

Remarques :
diffrentes coles : AG, stratgies d'volution et program. volutive
un cadre algorithmique trs gnral et puissant
Remarques :
justification par le thorme des schmas :
les schmas courts et performants (building blocks) se X et se multiplient
la performance d'une config. est un indicateur directe de la performance de tous
les schmas auxquels elle appartient (// implicite)
dcisions prendre :
comment valuer rapidement les configurations de la population
comment quilibrer l'exploitation et l'exploration

1 0 1 1 0 1
1 0 1 1 0 0

1 0 1
0
1
0 1
0 1 0
0 1
1 0 1
0
1 0 1
0 1 0 0 1
X parents
enfants
Algorithme gntique simple (Holland 75)
Caractristiques :
codage universel du problme sous forme de chanes en 0/1
oprateurs "gntiques" stochastiques (aveugles) : mutation et croisement
Croisement : change de bits entre deux config. (monopoint, bi-points, uniforme...)
Mutation : modification de valeurs de bits dtermins au hasard d'une config. (enfant)
Approche dvolution

La pratique

Spcialisation :

configuration (codage) adapt au problme (ex, permutation pour TSP)
oprateurs d'volution (mutation et croisement) adapts au problme

Hybridation :

avec l'approche de construction
avec la recherche locale

Remarque: intgration indispensable de connaissances spcifiques

Approche dvolution : performance

Thorique

preuves de convergence dans certains cas, difficilement utilisables en pratique

Pratique

rsultats souvent faibles avec AG nafs, i.e. mutation et croisement aveugles

rsultats fortement comptitifs avec AG spcialiss
o codage adapt au problme
o oprateurs gntiques intgrant des connaissances du problme

rsultats fortement comptitifs, mme les meilleurs avec AG hybrides
o hybridation avec l'approche de construction (ex, glouton)
o hybridation avec la recherche locale : GLS - Genetic Local Search

Remarque :
l'adaptation est indispensable
Approche hybride gntique recherche locale

Ide de base :

combiner 2 mthodes complmentaires : recherche globale et recherche locale
- diversification avec recombinaison (spcifique)
- intensification avec recherche locale

2 Schma d'hybridation

AG + descente :
les configurations de la population sont des optima locaux.

AG + tabou (recuit) :
les configurations de la population sont amliores pendent un nombre
fixe d'itrations.

Principe de conception

l'oprateur de RL doit tre performant
l'oprateur de croisement doit tre spcialis au problme
Algorithme gntique hybride

Procdure gnrale

a) gnrer une population de configurations P
b) appliquer une recherche locale chacune des configurations de P

tape 2 (volution et terminaison)
a) choisir p1 et p2 dans P
b) gnrer une configuration e par une recombinaison de p1 et p2
c) amliorer e par l'application de la recherche locale
d) Insrer la nouvelle configuration e dans la population
e) terminer et retourner la meilleure solution trouve si la cond. d'arrt vrifie

tape 3 (mise jour)
a) re-organisation de la population (ex, limination des configurations
non-performantes de la population)
Gntique recherche locale
P1
P2
Fils
P1
P2
Fils
Algorithme gntique hybride
RL
Dautres approches fondes sur la notion de population/agent

La recherche disperse (Scatter Search)

Optimisation par colonie de fourmis

Optimisation par essaim particulaire (Particle Swarm Optimization)

Adaptation des mta-heuristiques

Rsolution d'un problme avec une mtaheuristique

analyse et modlisation du problme traiter
choix d'une mtaheuristique selon
o la qualit des solutions recherches
o la disponibilit des connaissances sur le problme
o le savoir-faire...
adaptation de la mtaheuristique au problme
o configuration (espace de recherche)
o fonction dvaluation
o voisinage
o oprateurs de recherche
o traitement des contraintes
o structures de donnes...

valuation de l'algorithme (benchmarking si possible)

qualit de la meilleure solution trouve ou profile de recherche
rapidit, i.e. l'effort (le "temps" de calcul, le nb d'itration...) ncessaire pour
trouver une solution
robustesse
Conclusions sur les mtaheuristiques

Atouts
gnrales et applicables une trs large classe de problmes
possibilit de compromis entre le temps de calcul et la qualit de solution
possibilit d'intgrer des connaissances spcifiques du problme
domaines d'application privilgis : problmes combinatoires de grande taille

"Inconvnients"
optimum global non garanti
adaptation souvent indispensable
difficult de prvoir la performance (qualit et temps)

Performance
thorique: preuve de convergence dans certains cas, non utilisable en pratique
pratique : dpend de l'adaptation au problme (codage du problme,
connaissances spcifiques, traitement de contraintes, structures de donnes...)

Perspectives:
Systmes de rsolution gnriques fonds sur les mtaheuristiques

Lapproche mta-heuristique constitue un outil puissant pour la rsolution de
problmes combinatoires difficiles (discrets et continus)

Deuxime partie

Exemples d'application

Exemples d'application

Applications

positionnement d'antennes pour les rseaux radio-mobiles (Esprit 4)
affectation de frquences dans les rseaux radio-mobiles (France Telecom)
planification journalire de prises de vues d'un satellite (Application CNES)
volution dquipements de rseaux tlcoms (Bouygues Telecom)
planification de rencontres sportives (Sports League Scheduling)
planification de rencontres d'quipage (Progressive Party Problem)

Problmes de rfrence

SAT & Max-SAT
coloration et T-coloration de graphes
satisfaction de contraintes CSP et Max-CSP
sac--dos multidimensionnel (mono-objectif et multi-objectif)

Coloration de graphes

k-coloration (satisfaction)
tant donn un graphe G=<V,E>, trouver une partition de V en k classes
telle que 2 nuds adj. ne soient pas dans la mme classe (k-coloriable)
Coloration (optimisation)
o dterminer le plus petit k pour lequel le graphe est k-coloriable (le nb chromatique)

Intrts du problme
o beaucoup d'applications : affectation de frquences, emploi du temps, ordonnan
o beaucoup de travaux existants
o grande difficult : NP-difficile (impossible de colorier de manire exacte des
graphes alatoires de densit 0.5 > 90 nuds, d'aprs Johnson et al. 91)
o un des 3 problmes traits par le "2
nd
Dimacs Implementation Challenge" (92-93)
A C
B D
A
D
E B
C E
Coloration de graphes

Algorithmes connus

construction

DSATUR (Brlaz 79)
RLF (Recursive largest First) (Leighton 79)
XRLF (Johnson et al. 91)

recherche locale

recuit simul (Chams et al. 87, Johnson et al. 91)
tabou (Hertz & de Werra 87, Dorne & Hao 97)

Hybridation

population + RL + construction (Morgenstern 94)
croisement d'affectation et RL (Fleurent & Ferland 94, Costa et al. 95)
croisement spcialis et RL (Dorne & Hao 98, Galinier & Hao 99)
Algorithme gntique locale pour la coloration

Processus de rsolution gnrale
1. On fixe le nombre de couleurs k, on cherche une k-coloration propre
2. Si succs, on dcrmente k, on va l'tape 1)
3. On s'arrte quand on n'arrive plus trouver une k-coloration

Dfinitions
o espace de recherche S : toutes les partitions de V en k classes
S = {s , s est une partition de V en k classes {V
1
,V
2
,...,V
k
} }
o fonction d'valuation f : le nombre d'artes ayant deux extrmes colories avec
une mme couleur
s e S, f(s) = , {<u,v> e E | u eVi et v e Vi }
Remarque :
f(s) = 0 si s est une coloration propre pour une valeur de k fixe
A C
B D
A
D
E
B
C E
A C
B D
A
D
E B
C E

Recherche locale avec tabou

voisinage : on change la classe d'un nud en conflit
liste tabou :
o contenu : quand un nud u perd sa couleur c(u), u est interdit de reprendre c(u)
pendant l(u) itrations
o longueur : l(u) dfinie dynamiquement en fonction du nombre de nuds en conflit.

valuation des configurations :
o structure de donnes performantes
o algorithmes incrmentaux pour une valuation rapide des voisins.


Croisements classiques
uniforme : la couleur d'un nud chez un enfant est dtermine alatoirement par la
couleur de l'un des parents

affectation : la couleur d'un nud est dtermine d'aprs les rgles suivantes:
si les deux parents ont la mme couleur, alors prendre cette couleur
si les deux parents n'ont pas la mme couleur, alors prendre alatoirement la
couleur de l'un des parents (ou une autre couleur)

Remarque :
Problme de permutation de couleurs; ces croisements ne permettent pas de
transmettre les bonnes proprits des parents aux enfants.
A C
B D
A
D
E
B
C E

A C
B D
A
D
E
B
C E

Croisement spcialis GPX (Greedy Partition Crossover) (P. Galinier et J.K. Hao, Hybrid
evolutionary algorithms for graph coloring. Journal of Combinatorial Optimization, 3(4): 379-397, 1999.)
Une bonne proprit est la suivante :
o toute classe de grand cardinal doit tre conserve chez l'enfant.

Le croisement GPX
o pour chaque classe l pair, transmettre la classe de cardinal maximum de p1
o pour chaque classe l impair, transmettre la classe de cardinal maxi. de p2
A B C D E F G H I J
C D E G A F I B H J
D E F G
D E F G B H J A C
I
A B C H I J
D E F G B H J
A C I
C A I B H J
parents enfant
I
p1,i
I
p2,j

Croisement spcialis UIS (Union of Independent Sets) (R. Dorne et J.K. Hao, A new
genetic local search algorithm for graph coloring. LNCS 1498 : 745-754, Sept. 1998)

Une autre bonne proprit est la suivante :
o si deux classes sans conflit V
1
i
e p1 et V
2
j
ep2 partagent un nombre
important de nuds, on doit conserver les deux classes chez l'enfant.

Le croisement UIS
o I
p1,i
_V
1
i
e p1 est un ensemble indpendant de cardinal maximum chez p1,
on cherche chez p2 un ens. indpendant I
p2,j
_V
2
j
e p2 tel que j e{1..K},
|I
p1,i
I
p2,j
|soit maximal
o on construit une classe i chez l'enfant par l'union de I
p1,i
et I
p2,j

o les nuds absents sont distribus alatoirement

Remarque : un ou deux enfants peuvent tre gnrs
Rsultats sur des benchmarks

Jeux de test (DIMACS benchmarks)
o graphes construits (Leighton 79, Culberson 79)
o graphes alatoires G
n,d
(Hertz & de Werra 87, Johnson et al. 91)

Critres d'valuation
o qualit de la meilleure solution (la plus petite valeur pour k)
o rapidit en terme de nombre d'itrations et en temps

Paramtres
o taille de la population : 5 ou 10
o solutions initiales : construites avec l'algorithme de DSATUR
o nombre d'itrations pour chaque RL : 250 4000
o liste tabou : rglage dynamique et automatique
o condition d'arrt : une k-coloration trouve ou nb max. d'itrations atteint
Rsultats sur des benchmarks
Problmes de T-coloration

T-coloration simple
- tant donn un graphe G=<V,E> et un ensemble Tij d'entiers positifs incluant
la valeur 0 pour chaque (Vi,Vj)eE, trouver une fonction c : V-> {1,2...k} telle que :
(Vi,Vj)eE, | c(Vi) - c(Vj) |eTij
(la distance entre chaque paire de couleurs de 2 noeuds adj. = des valeurs de Tij)

Remarques :
- si Tij = {0,1...dij}, alors (Vi,Vj)E, | c(Vi) - c(Vj) | dij

- "T-Span" d'une T-coloration : la distance entre la couleur max. et la couleur min.
- "T-Span" d'un graphe G : le plus petit "T-span" de tts les T-colorations poss. de G
V1 V2
V3 V4
1
3
5
1
2
1 4
2
3
T-span = 4

(d12)
(d14)
(d13)
(d24)
(d34)
T-coloration
2
2
1
1
V1 3
4
V4
V3
V2
4
2
T-coloration
avec ensembles
T-coloration avec ensembles
chaque noeud Vi, on associe :
- un entier bi > 1, le nb de couleurs demand par Vi et
- un ensemble Ti d'entiers incluant la valeur 0 (val. interdites entre paire de couleurs)

Colorier chaque noeud Vi eV avec bi >1 couleurs tout en respectant les contraintes :
- la distance entre chaque paire de couleurs d'un mme noeud Vi doit tre diffrente
des valeurs de Ti : Vi e V, m, n e{1...bi}, m = n, | c(Vim) - c(Vin) | e Ti,
- la distance entre chaque paire de couleurs de 2 noeuds adj. Vi et Vj doit tre
diffrente des valeurs de Tij : (Vi,Vj) e E, m{1...bi}, n e{1...bj}, |c(Vim) - c(Vjn)| e Tij

Remarques :
- si Ti = {0,1...di}, alors Vi e V, m,n{1...bi}, m = n, |c(Vim) - c(Vin) > di
- affectation de frquences est une application concrte de la T-coloration
Problmes de coloration
coloration
construction : DSATUR (Brlaz 79), RLF (Recurs. largest First) (Leighton 79)
recuit simul (Chams et al. 87, Johnson et al. 91), tabou (Hertz & de Werra 87)
hybridation (Fleurent & Ferland 94, Morgenstern 94, Costa et al. 95)
T-coloration simple
ordre dynamique (glouton) (Gamst 92)
tabou et recuit simul (Costa 93)
T-coloration avec ensembles
ordre dynamique (glouton) et tabou (Jiang 96)
Algorithmes rcents
Algorithme hybride gntique + tabou pour la coloration
Algorithme tabou pour T-coloration et T-coloration avec ensemble

Jeux de test

coloration
DIMACS benchmarks
graphes de taille jusqu' 1000 noeuds et 200 couleurs environ

T-coloration
jeux alatoires (pas de benchmark disponible)
+ distance de sparation prise entre 1 et 5
+ nb de couleurs par noeud pris entre 1 et 5
graphes de taille jusqu' 1 000 noeuds (environ 3 000 variables
entires, 4 millions de contraintes) et 2 000 couleurs

Remarque : d'aprs (Johnson et al. 91), aucun algo. exact exist. ne peut
colorier des graphes alatoires de densit 0.5 > 90 noeuds

Rsultats

coloration
les algorithmes tabou et hybrides dominent les algo. de construction
AG hybrides amliorent les meilleurs rsultats de certains jeux DIMACS

T-coloration
les algorithmes tabou et hybrides dominent l'algorithme DSATUR adapt
les rsultats de l'algo. tabou sont proches de l'estimation thorique

Remarques :

intressant d'initialiser la recherche avec un algo. de construction
SAT & Max-SAT
Dfinition SAT
- tant donne une conjonction de clauses, dterminer une
affectation des valeurs {0,1} toutes les variables qui rend toutes les
clauses vraies.
- si toutes les clauses ne peuvent pas tre satisfaites, alors
dterminer une affectation qui maximise le nombre de clauses vraies
(Max-SAT).

Remarque : un des problmes NP-Complet les plus tudi avec des
applications varies (VLSI, emploi du temps, ).

SAT & Max-SAT

- algorithmes complets
* Davis & Putnam (depuis 1960) : SATZ (1997), Zchaff (2002)...

- algorithmes incomplets
* recherche locale : tabou, recuit simul
* GSAT & WalkSAT (92, 94), unitWalk (2002)
* hybride "gntique et tabou" GASAT (2003)

GASAT

- un croisement spcifique fonde sur la satisfaction de clauses
* corriger les clauses fausses
* conserver les clauses vraies
- un algorithme tabou

Problme de rencontres d'quipages
(PPP - Progressive Party Problem)

Le problme

affecter 29 quipages visiteurs de tailles diffrentes 13 bateaux htes de
capacits diff. pour T priodes de temps conscutives avec les contraintes :

chaque quipage visiteur visite un bateau diffrent pour chaque priode diffrente.
deux quipages ne doivent pas se rencontrer plus d'une fois
la capacit de chaque hte doit tre respecte

Remarques :
problme de base avec T = 6, plus difficile quand T augmente,
pas de solution connue pour T > 8 (en 1996), mais T= 10 une borne sup.
contraintes htrognes, non binaires

- programmation linaire en nombres entiers : chec pour T<6 (Brailsford et al. 96)
- program. par contraintes 1: T = 6 et 7 en 20-30 mn, chec pour T > 8 (Smith et la 96)
- program. par contraintes 2 : T < 7 en quelques sec., T = 8 en quelques heures,
chec pour T>9 (Cosytec 97)

Approche heuristique avec tabou (Galinier & Hao 98)
- une formalisation du problme en CSP :
* var. = un couple (quipage, priode) et dom. = l'ens. des htes D = {1...13}
* contraintes : n-aires
- deux voisinages :
* N1 : changer la valeur d'une seule variable en conflit (quipage, priode)
(changer l'hte d'un quipage qui viole des contraintes)
* N2 : changer les valeurs de 2 variables (une au moins est en conflit)
(changer les htes de 2 quipages d'une mme priode)
- algorithmes de recherche locale (descente, metropolis, tabou)
- valuation et analyse de la performance de 2 voisinages et des algorithmes

Rsultats

- pour Ts9, solutions en moins de 5 secondes
- chec pour T = 10 (une contrainte non satisfaite)

Remarques :
- rsolution du pb jusqu' T = 9 avec N1 et N2
- N2 plus performant car il permet de rsoudre le pb. jusqu' T= 8 avec la descente
- pas de diffrence significative entre mtaheuristiques utilises (recuit et tabou)

- problme ouvert pour T = 10

=> jusqu' T = 9, problme simple pour la recherche locale

Planification de tournois sportifs
(SLSP Sports League Scheduling Problem)

Semaine 1

Semaine 2

Semaine 3

Semaine 4

Semaine 5

Semaine 6

Semaine 7

Priode 1

1 vs 2

1 vs 3

5 vs 8

4 vs 7

4 vs 8

2 vs 6

3 vs 5

Priode 2

3 vs 4

2 vs 8

1 vs 4

6 vs 8

2 vs 5

1 vs 7

6 vs 7

Priode 3

5 vs 6

4 vs 6

2 vs 7

1 vs 5

3 vs 7

3 vs 8

1 vs 8

Priode 4

7 vs 8

5 vs 7

3 vs 6

2 vs 3

1 vs 6

4 vs 5

2 vs 4

Exemple dune programmation valide pour 8 quipes
Le problme
Planifier les tournois entre T quipes (T pair) sur T-1 semaines, chaque semaine tant
dcoupe en T/2 priodes avec les contraintes suivantes :
- unicit / semaine : chaque quipe joue exactement 1 fois / semaine,
- double / priode : aucune quipe ne peut jouer plus de 2 fois / priode,
- tournoi simple : chaque quipe joue contre toutes les autres exactement une fois.
Remarque: problme se rsout en temps linaire si (T -1) MOD 3=0 (T=10, 16, 22, 28, 34, 40, 46)
problme encore ouvert sinon (T=12, 14, 18, 20, 24, 26, 30, 32, 36, 38, 42, 44...)

- PLEN avec contraintes de cardinalit (Cplex) : T 12 (McAloon et al. 97)
- PPC avec contraintes de diffrence (ILOG Solver) : T 14 (McAloon et al. 97)
- PPC avec algorithmes de filtrage puissants (ILOG Solver) : T 24 (Rgin 98)
- PPC avec transformation du problme (ILOG Solver) : T 40 (Rgin 99)

Approche heuristique avec tabou (Hamiez & Hao 00)
une formalisation du problme en CSP
une heuristique pour la construction dune solution initiale
voisinage fond sur change entre deux matches (dont un est en conflit)
traitement de contraintes : satisfaction constante et pnalit
longueur de la liste tabou dynamique

Rsultats
- solutions trouves jusqu T = 40
- pour T s 20, solutions en quelques secondes

Remarques sur lalgorithme tabou:
- solution initiale joue un rle important
- la faon de traiter les contraintes joue un rle important
- diversification indispensable

Remarque sur le problme :
- beaucoup faire pour rsoudre le problme pour T> 40 quipes
si (T-1) MOD 3 = 0

, . . . , max b x A c s x c

s
{ }
n
m n m n
x et b A c 1 , 0 , ,
* *
e N e N e N e

Sac--dos multidimensionnel

Dfinition du problme

Etant donn n variables bivalentes et m contraintes linaires
avec
Remarque :
- trs nombreuses applications dans des domaines varis,
- NP-difficile, rsolutions exactes limites des instances n < 90 et m < 5.
Sac--dos multidimensionnel

algorithmes exacts (B&B) (Shih 79)
relaxation (Frville & Plateau 93)
Tabou (Glover & Kochenberger 97, Hanafi & Frville 98) (trs bon rsultats)
gntiques spcialiss (Chu & Beasley 98)
algorithme hybride simplex + tabou (Vasquez & Hao 00d)

Jeux de test
benchmark OR-LIB et dautres (n=100 2500 et m = 5 100)

Rsultats
Lalgorithme hybride fournit les meilleurs rsultats pour lensemble des
benchmarks les plus difficiles.
2
2
1
1
S1
3
3
S4
S3
S2
4
4 stations
2
Affectation de frquences dans les rseaux radio-mobiles

Le problme
tant donn
1. n stations {S1, S2...Sn}
2. les trafics bi (i e {1...n}), i.e. le nombre de frquences demand par
station
3. les contraintes d'interfrences dfinies par une matrice de rutilisation
M[n,n]
o "co-station": | f
i,g
f
i,h
| > M[i,i], ie{1...n}, g,he{1..Ti}, g=h
o "stations adjacentes": | f
i,g
f
j,h
| > M[i,j],i,je{1...n}, i=j, ge{1..bi},
h e{1..bj}
trouver un plan d'affectation
en minimisant les interfrences avec k frquences donnes (interfrences
mesures en termes de contraintes violes)

Remarque : c'est un problme de coloration gnralis

Mthodes de rsolution existantes
recuit simul (Duque-Anton et al. 93, CNET 95)
rseaux de neurones (Kunz 91)
algorithmes gntiques (Crompton et al. 94)
algorithmes de coloration (Gamst 86, CNET 95)

Algorithmes Tabou et gntiques rcents
(Dorne & Hao 95, Hao & Dorne 96, Renaud & Camanida 97, Hao et al. 98)
Traitements de contraintes
Croisement spcialiss
Un algorithme tabou

configuration : une affectation respectant les trafics et les contraintes de co-
station

fonction de voisinage N : S 2
S
: s et s' voisins s'ils diffrent par la valeur
d'une seule frqu. en conflit d'une station

liste tabou : attribut mmoris = <station, ancienne_val_de_frqu.>

la longueur de la liste tabou : une fonction linaire de la taille du voisinage

valuation incrmentale des configurations : valeur d'valuation de chaque
mouvement possible (une matrice A de w x k )

aspiration : accepter tout mouvement conduisant une configuration de
qualit suprieure la meilleure configuration rencontre

f11f12 f21 f22 f23 f31 f32 f41
S1 S2 S3 S4

Un algorithme tabou

choisir une solution initiale s eS
mmoriser la meilleure solution trouve s* s
initialiser les structures de donnes (liste tabou, matrice A...)

choisir un des meilleurs voisins non tabou s'eN(s) tq s"eN(s), f(s') < f(s")
s s' (mme si s' est moins performant que s)
terminer si max_itr est effectu (ou si s n'est plus amliore pendant
max_itr)

tape 3 (mise jour)
s* s si f(s) < f(s*)
rendre le dernier mouvement tabou pendant k itrations
mettre jour d'autres structures de donnes (matrice A...)
aller l'tape 2

Jeux de test fictifs et rels (fournis par le CNET)

nb de frquences par station : 1 4
distance de sparation de frquences de co-station : 2 4
distance de sparation de frquences de stations adjacentes : 1 3
de grande taille, jusqu'
1 000 variables entires
54 valeurs par variables
35 000 contraintes

Rsultats

Lalgorithme tabou et lalgo. gntique spcialis dominent largement
l'approche classique de construction
Les croisements standards jouent un rle marginal

Rseaux urbain : 50 km x 46 km
568 sites potentiels
56792 points de mesure du signal radio
17393 STP
6652 TTP pour 2988.08 erlang
Positionnement dantennes pour les rseaux radio-mobiles
Matrice de perte en propagation du signal radio
o pour chaque site les valeurs de lattnuation du signal radio sur tous les STP

Antennes
o diffrents types : omnidirectionnelle, directionnelle large ou petite ouverture
o paramtres : puissance (26 55 dBm), azimut (0 359), tilt (-15 0)
o nombre dmetteurs (TRX) : 1 7 selon trafic assurer
Zone gographique
o un ensemble S de points de service (STP en bleu) : seuil de qualit Sq du signal radio
dfini par un niveau de champ (-82 dBm2Wincar,-90 dBm8W outdoor,...),
o un ensemble T c S de points de trafic (TTP en blanc) : estimation de trafic en erlang,
o un ensemble L de sites candidats pour le positionnement dantennes

Dterminer
un sous ensemble de sites parmi les sites candidats,
pour chaque site slectionn, le nombre et le type dantennes,
pour chaque antenne, la valeur de chacun de ses 3 paramtres (puiss, tilt et azimut).

Les contraintes impratives
Couverture : tous les STP doivent tre couverts par une antenne,
Connexit locale : toute cellule constitue une seule composante connexe (en V8),
Hand-over : toute cellule doit avoir des points de recouvrement avec ses voisines.

Objectifs
minimiser le nombre de sites slectionns,
minimiser les interfrences gnres par les antennes,
maximiser le trafic support par le rseau,
maximiser le rendement des metteurs de chaque antenne.

Remarques :
o trs grande combinatoire pour le choix dun positionnement ralisable
o grande complexit de calcul pour vrifier les contraintes et pour valuer les objectifs
o importante demande de ressource mmoire ( 200 500 MO de donnes par jeux)

Contexte

quelques tudes pour les rseaux micro cellulaires (indoor), rien pour les
rseaux cellulaires de grande taille
Projet europen ESPRIT 4 ARNO (Algorithms for Radio Network Optimisation)
Mthodes heuristiques tudies :
o recuit simul, tabou, gntique, rseaux de neurone
o heuristiques spcifiques

Une approche heuristique fonde sur la mthode tabou (Vasquez & Hao 00a)

Pr-traitement pour rduire par une heuristique la combinatoire
Optimisation par mthode tabou pour rechercher des solutions ralisables
Post-optimisation par raffinement local pour amliorer la solution

Remarques :

Une mta-heuristique seule nest pas suffisante pour aborder le problme

Rseaux Sites potent. Min. sites Min. cellules STP

Construction
Autoroute 250 25 75 29954
Rural 320 22 65 72295
Petite zone urbaine 568 24 70 17393
Ville grand trafic 244 21 61 48512

Extension
Autoroute 250 25 75 29954
Rural 320 47 140 80854
Petite zone urbaine 568 63 189 42492
Ville grand trafic 244 113 337 48512

Positionnement dantennes : rsultats

Caractristiques des rseaux
Un rseau urbain : 50 km x 46 km
- 568 sites potentiels
- 56792 points de mesure du signal radio
- 17393 points de service (STP)
- 6652 points de trafic (TTP) pour 2988.08 erlang
Contraintes :
o toutes les contraintes satisfaites : couverture, connexit locale et hand-over.
Objectifs :
o nombre de sites / antennes : 34 / 52 (35 direct. petite ouverture, 17 direct. large
ouverture)
o interfrences : niveau trs bas
o trafic assur : 85%
o rendement des metteurs : trs bon

Remarque : les approches par pnalits nont pas trouv de solution ralisable.
Un rseau autoroute : 39km x 168km
-250 sites potentiels
-29954 STP
Contraintes :
toutes les contraintes satisfaites : couverture, connexit locale et
hand-over.
Objectifs :
nombre de sites/antennes : 58 / 103
1 omni-directionnelle, 67 direct. petite ouverture, 35 direct. large
ouverture
interfrences : niveau trs bas
trafic assur : moyen
rendement des metteurs : trs bon
Planification journalire de prises de vues d'un satellite

Le problme

tant donn :
un ensemble P de photographies (mono ou stro) planifier pour le jour suivant ;
une pondration (l'agrgation de certains critres) pour chaque photo ;
les diffrentes possibilits de ralisation de chaque photographie :
trois pour les mono (une des trois camras utilisables - avant, milieu et arrire),
une seule pos. pour les stro ( raliser conjoint. par les camras avant et arrire)
un ensemble de contraintes binaires et ternaires respecter imprativement (non
chevauchement et respect des temps de transitions entre prises de vues...)
une contrainte de mmoire : non dpassement de la capacit en mmoire d'une camra
par la somme des photos ralises sur la camra.

dterminer un sous-ensemble P'_P tel que :
la somme des pondrations associes l'ensemble des photos de P' soit maximale
toutes les contraintes soient respectes.

Remarque :
peut tre formalis comme un un sac--dos en variable 0/1 sous contraintes logiques
Planification de prises de vues

algorithme exact (Verfaillie et al. 96)
algorithmes gloutons (Agnse et al. 95)
algorithme tabou (Agnse et al. 95)

Un algorithme tabou rcent (Vasquez & Hao 00b)
une formalisation du pb. en sac--dos 0/1 sous contraintes (au lieu de CSP)
un algorithme tabou intgrant :
une technique de relaxation de la contrainte de mmoire
un voisinage efficace
une technique d'valuation incrmentale rapide
une gestion dynam. de la liste tabou fonde sur les frqu. de mouvements

Calcul des bornes suprieures (Vasquez & Hao 00c)
Programmation dynamique et tabou (partition de graphes)
Planification de prises de vues

Jeux de test (dfinis par le CNES, disponibles sur l'internet)
deux types
sans contrainte de mmoire (optimum connu)
avec contrainte de mmoire (optimum non connu)
de grande taille, jusqu'
900 variables entires
17 000 contraintes (binaires, ternaires et n-aines)

Rsultats
jeux sans contrainte de mmoire : solution optimale en moins de deux minutes
jeux avec contrainte de mmoire :
quelques secondes pour atteindre les meilleures solutions connues
amlioration des meilleures solutions connues en quelques minutes

Conclusions

L'approche mtaheuristique est trs prometteuse pour la rsolution
de problmes combinatoires de grande chelle
Lapproche mtaheuristique pourrait tre combine avec dautres
mthodes exactes ou heuristiques
Une bonne performance ncessite souvent :
d'une formalisation adquate du problme
d'une adaptation "intelligente" d'une mtaheuristique :
+ l'intgration des connaissances spcifiques du problme
+ des structures de donnes efficaces

OC Hao Meta06

Uploaded by

Document Information

Original Title

Copyright

Available Formats

Share this document

Share or Embed Document

Sharing Options

Did you find this document useful?

Is this content inappropriate?

Copyright:

Available Formats

OC Hao Meta06

Uploaded by

Copyright:

Available Formats

J.K.

Hao, Universit d'Angers 1

J.K. Hao, Universit d'Angers 26

You might also like