Professional Documents
Culture Documents
Sommaire
A.
Il faut savoir que la rponse une tude et le mode de recueil ne sont pas neutres. Les tudes par sondage notamment en
mode auto-administr comme le propose ce kit aura tendance exclure les personnes les plus vulnrables (personnes en
difficults, atypiques, marginalises). Si ce public fait partie de votre cur de cible, vous devrez rflchir des
mthodologies plus adaptes. La Mission Mthodes dcoute et dinnovation du SGMAP pourra vous aider.
Internet
Tlphone
Courrier
Face face
Avantages
- Mthode la moins coteuse
- Dlais de mise en uvre rapides
- Disponibilit de lenqute : les usagers
peuvent rpondre quand ils le souhaitent
- Suivi en temps rel de la participation et
des rsultats
- Absence de saisie des donnes la clture
de lenqute
- Permet la dispersion gographique des
rpondants.
- Permet en parti un contrle de
lchantillon
- Rapport qualit/prix moyen.
- Permet la dispersion gographique des
rpondants.
- Assure souvent des taux de retour levs
(rle de lenquteur)
- Permet un meilleur contrle a priori de
lchantillon
Inconvnients
- Le mode de rponse en auto-administr
(lenqut rempli le questionnaire seul,
sans la prsence dun enquteur)
prsente deux limites:
- le profil des rpondants est certainement
un peu biais car bas sur le volontariat
(opinions plus tranches).
- Difficults sassurer de la qualit de
comprhension du questionnaire et du
srieux avec lequel le questionnaire est
complt.
- Coteux
- Long
- Suppose des enquteurs forms
de la part dun enquteur, certaines personnes sexcluent des enqutes (les moins diplmes, les
actifs, etc..) tandis que dautres sont sur-reprsentes (les inactifs, etc). Il est difficile davoir un
chantillon de rpondants reprsentatif de la population enqute. La qualit dune consultation
sapprcie au taux de participation : la reprsentativit nest rellement assure que si ce taux
approche les 80%. Cet idal est cependant rarement atteint (les scores habituels sont de 60% et plus
pour les enqutes internes trs impliquantes et entre 5% et 10% pour les enqutes externes auprs
du grand public).
Lchantillon que vous obtiendrez ne sera donc pas reprsentatif au sens scientifique du terme :
les personnes qui rpondent au questionnaire sont les plus motives le faire et celles dont lopinion
est la plus tranche que ce soit en faveur ou en dfaveur de votre organisme.
Ce dfaut de reprsentativit pose un problme pour les questions dopinion et notamment les
questions lectorales. Il est moins important dans le cadre de projets damlioration continue du
service. Le rapport qualit/cot milite en faveur de lutilisation des enqutes auto-administres en
ligne tant que le taux dusagers prts rpondre reste important.
- Surveiller la structure de votre chantillon de rpondants (mthode des quotas)
Vous pourrez considrablement rduire ce dfaut de reprsentativit en vrifiant la structure de
lchantillon des rpondants finale par rapport la population initiale sur un certain nombre de
critres appels quotas.
En savoir plus : Raliser une extraction de votre base dusagers grce une slection alatoire
sous Excel
Si vous disposez de bases trs importantes dusagers se comptant, par exemple, en centaines de
milliers, il est compliqu techniquement et inutile statistiquement de les interroger tous. La
meilleure option est alors de raliser une consultation auprs dune partie reprsentative de
lensemble de vos usagers.
Les sondages publis sont, en gnral, raliss partir dchantillons de 1000 individus car cela
reprsente le meilleur rapport qualit / cot.
Il vous est ainsi possible dextraire un fichier de 10 000 usagers pour leur envoyer votre
questionnaire en esprant obtenir 1000 rpondants en comptant sur un taux de retour estim
10%. (taux difficile connatre lavance).
La slection alatoire vous permet dassurer la reprsentativit de votre chantillon, en vitant par
exemple de slectionner les personnes interroges par ordre alphabtique de nom de famille ou par
date de contact avec vos services : il faut que chaque usager ait la mme probabilit de participer
ltude.
Cette reprsentativit est primordiale si vous voulez que les rsultats de votre tude soient une
illustration de lexprience de lensemble de vos usagers.
Pour effectuer une slection alatoire sous Excel :
1- Noter lordre initial de classement des usagers (en lignes), au cas o vous auriez besoin dy
revenir.
2- Ajouter autant de colonnes au tableau que dinformations sur vos usagers (nom, prnom,
contact ? etc.). Ajouter une colonne o apparatra le nombre que vous allez attribuer chaque
usager.
3- Utiliser dans cette colonne la fonction ALEA (qui vous permet de donner alatoirement un
numro chacun des usagers) grce la formule suivante : =ALEA()*(b-1)+1, b tant le nombre
dusagers total que contient votre fichier. Celle-ci vous permet dattribuer alatoirement un nombre
chacun des usagers.
4- Copier la colonne cre et la coller au mme endroit en utilisant le collage spcial pour ne
conserver que la valeur et non pas la formule.
5- Slectionner lensemble du tableau et trier dans lordre croissant des numros attribus
alatoirement aux usagers.
6- Les personnes interroger sont les X premires personnes dans le tableau (X reprsentant la taille
de la population dusagers que vous avez choisi dinterroger).
Cet chantillon est ainsi reprsentatif du fichier initial.
ou de vous inscrire sur la plateforme Sphinx pour raliser votre propre questionnaire.
A froid
A chaud
(questionnaire long)
(questionnaire court)
Indicateurs de satisfaction ou
dimplication (Effort / Recommandation)
10
3. Slectionner le rpondant
Slectionner les usagers qui ont vcu lexprience que vous souhaitez valuer
Les premires questions sont des questions de filtre qui vous permettront de vrifier que lusager
est bien entr en contact avec vos services pour effectuer une dmarche, et assez rcemment pour
en avoir le souvenir. Cela permettra dobtenir des rponses qui concernent une exprience de
service relle et non une opinion vasive sur votre service ou sur ladministration en gnral. La
question est de savoir quelle antriorit fixer ce contact ?
En gnral cela va dune heure pour les enqutes chaud aux 12 derniers mois pour les enqutes
annuelles plus froid. Par exprience, au-del dune anne, on considre en effet que leffort
mmoriel est tel que la qualit de restitution par lusager est compromise.
Il est prfrable de slectionner des usagers qui ont termin leur dmarche au moment de
lenqute, afin dobtenir des expriences compltes de service dautant que la satisfaction de
lindividu peut changer avec lavance de son dossier (pour vous aider choisir, voir la partie D.I ;
Temporalit)
11
Le propos de ce guide est dattirer lattention sur le fait que cet indicateur historique doit tre mani
avec prcaution. Cette question donne souvent des rsultats assez levs sans reflter rellement la
satisfaction des usagers. Pour viter cet cueil en matire de pilotage interne, il est ncessaire de se
focaliser sur les rsultats des trs satisfaits ou dajouter des questions plus impliquantes6. Il est
galement prfrable de complter cette question sur la satisfaction globale par une question de
satisfaction dtaille se rapportant aux critres pertinents pour juger de la qualit de votre service
(dlai, qualit de linterlocuteur, qualit de linformation pralable, etc.) afin de disposer dun
diagnostic suffisamment riche pour le transformer en plan daction.
5. Dtailler la satisfaction
Comprendre les facteurs de satisfaction ou dinsatisfaction des usagers pour agir.
La question de satisfaction globale permet davoir une vue densemble de la satisfaction de vos
usagers, mais ce sont les questions de satisfaction dtaille et le recueil des attentes spontanes qui
permettent de dceler les forces et faiblesses du service et de mettre en place des plans daction
pour lamlioration de la qualit de service7.
Nous vous proposons dans notre questionnaire standard, des exemples ditems parmi lesquels vous
pouvez faire une slection. Pour faciliter ladministration du questionnaire, ces critres sont rpartis
en trois grandes catgories (information, accueil et traitement) :
- Linformation pralable au service. Cette thmatique est souvent oublie dans les enqutes de
satisfaction. Pourtant, elle permet de prendre la mesure des difficults de lusager avant son
entre en contact avec les services : savoir qui sadresser, quelles dmarches accomplir et sy
retrouver entre les diffrentes sources dinformation (entre administrations, voire entre
diffrents canaux dinformation dun mme organisme), etc
- LAccessibilit et laccueil. Cette catgorie de questions permet dvaluer la facilit dentre en
contact avec les services et la qualit de leur interaction avec les usagers : le temps dattente ; les
modes de contact mis disposition pour lusager (guichet, email, site Internet, tlphone,
courrier).
- Le traitement et la fourniture du service. Les questions de cette catgorie portent sur la
dmarche en elle-mme, son droulement, son rsultat : dlai de traitement, comptences et
implication de linterlocuteur, traitement des erreurs, capacit de lorganisme tre proactif
Cette liste nest pas exhaustive : la slection des items dpend de chaque organisation, des services
proposs et des informations que vous souhaitez obtenir. Pour cela, vous pouvez vous reportez aux
conseils pour la cration de nouvelles questions8.
Voir Partie B.11 sur Les conseils de base pour formuler de nouvelles questions
12
Satisfaction globale
Information pralable
Accueil et accessibilit
Fourniture du service
Si lon considre que la perception globale dun service est base -au moins en partie- sur un certain
nombre de critres rationnels, il faut pouvoir les lister. Ce sont ces critres qui alimenteront votre
bilan daction en vous indiquant vos zones de forces et de faiblesses9. Il est donc important de
recenser en amont les critres qui font sens dans votre secteur dactivit ou votre mtier.
Nous avons essay de rassembler un certain nombre de critres standards, provenant du croisement
de plusieurs sources : le modle SERVQUAL et les travaux mens partir de ce modle par lUnion
europenne (Groupe EUPAN) ou au Qubec (Outil Qubcois de Mesure). Ce modle est bas sur le
calcul de lcart entre perceptions et attentes sur 22 items regroups en 5 grandes dimensions :
Aspect physique, Fiabilit, Assurance, Prvenance et Empathie.
Nous nous sommes ensuite fonds sur les rsultats dune cinquantaine dtudes qualitatives
ralises depuis 2008 sur la qualit de service et les cartographies de parcours dusagers dans
ladministration. Grce ces parcours inter-administrations, nous avons pu mesurer limportance de
linformation pralable et notamment la ncessit de se reprer dans le maquis administratif
(identification du service contacter) et davoir des sources dinformation concordantes.
Cest souvent le manque de coordination inter-administration qui rend complexe les dmarches
pour les usagers. Nous vous conseillons donc fortement de conserver ces deux items (item Q3.1 et
3.4 dans le questionnaire) mme si cela suppose de travailler en collaboration avec dautres
administrations pour y remdier par la suite.
Nous avons par ailleurs dtect un besoin nouveau par rapport au modle SERVQUAL que lon
appelle la pro-activit ou la prvenance et qui suppose que les administrations devancent les
besoins des usagers (item 5.6 dans le questionnaire). Etre pro-actif pour un organisme, cest par
exemple prvenir un usager de la date dchance de son contrat et lui envoyer le lien vers un
questionnaire pr-rempli de rinscription.
13
14
Voir le Guide partie introductive Partie A.5 De nouveaux indicateurs pour piloter la relation client/usager
Voir documents sur le Net Promoter Score.
12
Le fait de dcider que donner une note de 8 10 - plutt que 7 par exemple - fait de vous un promoteur nest pas bas
sur les dclarations des usagers mais sur une pure hypothse marketing.
11
15
Pour chaque tude, vous devez choisir les variables pertinentes par rapport aux comparaisons que
vous prvoyez de faire. Si votre tude a pour objet de vrifier la satisfaction ou les comportements
de plusieurs cibles dusagers (ex : abonns / non abonns), noubliez pas dinclure ces questions dans
votre questionnaire.
Les questions concernant le profil des rpondants est donc lment important introduire dans un
questionnaire de satisfaction. Veillez toutefois ne pas alourdir votre questionnaire de
caractristiques sociodmographiques dont vous nallez pas vous servir de manire oprationnelle.
16
Utilisez des formulations de questions et un vocabulaire le plus neutre possible, qui laissera
lensemble des opinions la possibilit de sexprimer. Si vous poser des questions, il faut tre prt
en accepter les rponses.
Q1 : : Ne jugez-vous pas que ? , tes vous satisfait de la modernisation de notre site ?
Q2 : Jugez-vous que , A propos de lvolution de notre site, diriez-vous quil sest amlior, dtrior ou
quil na pas chang ?
Evitez les ngations dans la formulation de vos questions : celles-ci ont tendance troubler la bonne
comprhension des usagers.
Q1 : Etes-vous plutt daccord ou pas vraiment daccord avec laffirmation suivante : Notre offre nest pas tout
fait adapte vos besoins ?
Rsistez la tentation de poser plusieurs questions en une : lanalyse, vous ne saurez pas quel est
llment qui a t jug par les usagers
Q1 : Jugez-vous ce site utile et intressant?
En termes de structuration
Attention lordre de passation des questions : des effets de rponses peuvent tre induits par les
questions prcdentes (ex : toujours placer les questions appelant une rponse spontane avant la
mme question proposant des lments de rponse pr-identifis sinon la seconde influencera la
1re).
Posez les questions uniquement aux personnes concernes grce au systme des filtres13.
13
17
Il est conseill de varier lordre de passation des items (pour la satisfaction dtaille par exemple),
pour viter le biais gnr par leffet de lassitude : les rpondants sont toujours plus concentrs sur
les premiers items que sur les suivants.
Limitez le nombre de questions ouvertes : leur utilisation est tentante mais elles sont longues et
difficiles exploiter (forte dispersion des rponses).
Enfin, attention la longueur du questionnaire : ne rajoutez pas trop de questions, au risque de
voir augmenter le nombre dusagers abandonnant son remplissage en cours de route. Un
questionnaire moiti rempli nest pas utilisable.
C. Administrer le questionnaire
1. Temporalit
Combien de temps doit durer ltude ? Quand interroger les usagers ?
Plusieurs questions se posent quant la temporalit de votre tude :
-
Dabord, est-ce mieux de raliser ltude chaud (juste aprs lexprience de service) ou
froid (lorsque la dmarche est termine depuis longtemps)? Cela dpend de votre objectif
principal.
Enqute chaud : Si votre but est de disposer dun retour dexprience prcis sur votre
service et dalimenter un systme damlioration continu, vous avez tout intrt raliser
votre tude chaud. Vous pouvez donc envoyer votre questionnaire ds la clture de la
dmarche et jusqu une semaine aprs, car par exprience, il y a ensuite un phnomne
de d-mmorisation. Ce type dinterrogation prsente une difficult technique car elle
implique une gestion hebdomadaire voire quasi quotidienne des envois demails. Les
enqutes chaud ont galement le dfaut daugmenter artificiellement les scores de
satisfaction car
1. le rpondant a davantage le sentiment de juger son interlocuteur que le service
en lui-mme (parfois les agents eux-mmes annoncent aux enquts que lenqute
18
Ensuite, quel moment de lanne la faire ? Evitez les priodes de vacances scolaires : les taux
de retour risquent dtre moins bons, de nombreuses personnes ne consultent que peu (voire
pas) leurs emails. Evitez galement -ou du moins pensez lisser- les priodes atypiques pour
les usagers comme pour vos services comme par exemple les priodes de forte affluence (ex :
Nol, pics dactivit), car les usagers que vous contacterez auront des profils atypiques et vos
process surement perturbs.
Enfin, pendant combien de temps ? Cette dcision dpend de votre plan daction global, du
temps dont vous disposez pour rcuprer les rsultats et du taux de retour estim. Il faut la
fois laisser du temps pour que le maximum dusagers rponde, tout en imprimant un rythme
votre enqute : dcidez avant son lancement dune date de dbut, dune date de fin, et des
dates de relance. Par exemple, vous pouvez dcider de raliser votre enqute en 3 semaines,
avec deux relances : lune la fin de la premire semaine et lautre la fin de la deuxime.
19
La hot line technique du prestataire retenu (La socit Sphinx) est galement votre disposition pour
vous aider dans cette phase.
14
Cf. Introduction
20
- envoyer le questionnaire via une adresse email neutre qui ne corresponde pas au service ou la
personne directement en charge des dmarches, car cela peut diminuer la participation mais
aussi biaiser les rponses (les usagers peuvent ne pas oser dire ce qui les a insatisfait). Nous vous
conseillons de crer une adresse email spcifique, relie au service qualit de votre organisme (
ex : enquete@xx.fr; servicequalite@xx.fr)
- crez un lien de confiance et de rciprocit avec lusager en lui annonant quil aura accs aux
rsultats de ltude ainsi quaux plans dactions qui en dcouleront et qui seront rendus publics.
- Vous pouvez galement envoyer un email de relance aux usagers qui nont pas rpondu, dans la
mesure du possible une semaine aprs le premier envoi (et si besoin, faites une deuxime relance
deux ou trois semaines aprs). Le nombre de relances que vous pouvez faire dpend de la dure
de votre terrain dtude, attention toutefois ne pas les multiplier au risque de harceler vos
usagers. Cf. exemple demail de relance
15
Voir le Guide partie introductive Partie A.3 savoir interprter un score de satisfaction et Partie A.4 reprer la
structure de satisfaction de vos usagers
21
16
Voir le Guide partie introductive Partie A.5 De nouveaux indicateurs pour piloter la relation client/ usagers , et
Partie B.8 Au-del de la satisfaction, des indicateurs pour mesurer limplication des usagers du prsent guide
17
Cest--dire que lenqut tendance donner la rponse quil croit tre la plus lgitime et non celle quil aurait donn
spontanment
22
Construction du mapping :
Grce aux rsultats de la satisfaction des usagers sur chacun des items tests (question 3 5) et la
satisfaction globale (question2), il est possible de raliser le mapping ci-dessus.
- en abscisse (de gauche droite), est report le taux de satisfaction pour chaque item
dtaill (issu directement des rponses des enquts)
- en ordonne (de bas en haut), est reporte limportance de chaque item calcule grce au
score de contribution de chaque item la satisfaction globale.
+
Importance*
Elments prioritaires
amliorer
Pro-activit
Elments prioritaires
valoriser
Comptences de linterlocuteur
Fiabilit de la rponse
Information
Taux de Satisfaction
Dlai
Amabilit
Elments secondaires
surveiller
Elments secondaires
maintenir
Lecture du mapping :
Cette matrice18 permet de distinguer quatre catgories de facteurs :
Les lments de force valoriser (lments importants et satisfaisants) : dans lexemple
ci-dessus, la comptence de linterlocuteur apparat comme un lment la fois
satisfaisant et important. Cet lment est donc un point fort maintenir
Les lments de faiblesse corriger (importants et peu satisfaisants) : dans lexemple, les
usagers ont not durement la qualit de l'information ainsi que la capacit de pro-activit
de lorganisme or ces deux lments font partie des lments dterminants dans la
sanctification des usagers. Il s'agit donc des points amliorer prioritairement.
Les lments secondaires surveiller (peu satisfaisants et peu importants) : le dlai de
ralisation des dmarches a galement t mal not mais il est bien moins important pour
la satisfaction finale des usagers, il s'agit donc d'un axe d'amlioration moins important.
18
23
19
Ces lments s'inspirent des travaux raliss en marketing notamment par la chercheuses Sylvie Llosa
24
dusagers satisfaits ou diminuer le nombre dusagers insatisfaits. Pour en savoir plus voir les travaux
raliss sur ce sujet21.
21
De lcoute des usagers laction, La satisfaction : en comprendre la logique, en identifier les leviers, SGMAP
disponible sur le site www.modernisation.gouv.fr/documentation/etudes/lanalyse-des-moteurs-de-la-satisfaction-usagers
25
Nous vous recommandons de faire attention lanalyse des rsultats et aux comparaisons entre
services : ceux-ci ne sont pas tous de mme nature, et il est plus facile dobtenir 90% de satisfaits sur
lentretien des parcs que sur laccompagnement au retour lemploi. Avant de faire des
comparaisons, il faut faire attention plusieurs caractristiques :
la diversit des publics concerns (grand public, professionnels, en difficult) ;
le type de frquentation (volontaire ou non, gratuite ou non, occasionnelle ou rgulire) ;
la nature du service (spcialis ou non, monopole ou concurrence) ;
des services homognes (ex : ramassage des ordures, police) obtiennent souvent un indice de
satisfaction plus lev que des services htrognes (ex : demandes daides)22 ;
les services complexes (ex : une demande daide) obtiennent des notes de satisfaction moins
leves que des services transactionnels plus automatiques (ex : renouvellement de passeport
ou immatriculation), car ils sont plus simples23.
A terme, lutilisation du questionnaire standard associ ce guide (sans modifications, ou seulement
la marge) pourra ventuellement permettre la cration dune base de donnes de comparaison
sous rserve dacceptation des personnes (mme mthodologie).
Notions dveloppes dans : DINSDALE Geoff, MARSON D. Brian, Sondages auprs des clients et des citoyens : dissiper les
mythes et redfinir les orientations, Rseau du service ax sur les citoyens, Centre canadien de gestion, Canada, Mars 1999
23
Notions dveloppes dans THIJS Nick, Measure to improve. Improving public sector performance by using citizen user
satisfaction information, EUPAN, EIPA, 2011
24
26
de ceux qui ont rpondu au questionnaire. Outre leffet en termes dimage pour votre
organisme, cela pourra vous apporter un meilleur taux de retour lors de vos prochaines tudes
de satisfaction;
mais aussi les engagements damlioration de la qualit de service qui en dcoulent.
Ltude de satisfaction que vous avez ralise vous informe sur les amliorations prioritaires mettre
en uvre et les attentes de vos usagers. Ces rsultats sont mettre en perspective avec deux autres
facteurs : la faisabilit technique des demandes et leur cot. Cela vous permettra de fixer des
engagements de service adquats.
Nous vous conseillons d'inclure la communication sur les engagements de service pris suite l'tude
en mme temps que la communication des rsultats ou en lger diffr si les contraintes de temps
sont trs fortes. Cela permet de montrer aux usagers que leur avis compte vraiment, quil nest pas
demand seulement pour la construction dindicateurs de performance mais bien pour
lamlioration du service qui leur est rendu. Vous pouvez dailleurs associer les usagers la
recherche de solutions, en mettant en place des groupes de co-construction avec les plus motivs.
27