Professional Documents
Culture Documents
PARA LA
,
TRANSFORMACION
Innovaciones en la evaluacin
de programas y proyectos sociales
Oiga Nirenberg
Josette Brawerman
Violeta Ruiz
TRAMAS SOCIALES
Directora de coleccin:
20.
S. Checa (comp.)
Gnero, sexualidad y derecbos reproductivos en la
adole.\'cencia
21. T. Puig
La cormmiwcirn 'l1lUnicipal crmplice con los ciud{ulanos
22. M. Caracciolo Basco y M. Laxalde
Economa .mlid{lria y capital.mcial
23. M. Montero
IntT'oduccirn a la psicologa C017lU7taria
24. H. Lejarraga (comp.)
De,wrrollo del nifio en contexto
25.
G. Kessler
Delito, exclusirn y juventud
EVALUAR PARA
LA TRANSFORMACiN
Innovaciones en la
evaluacin de programas
y proyectos sociales
OLGA NIRENBERG
JOSETTE BRAWERMAN
VIOLETA RUIZ
26. V. Ruiz
La.\' orgrmizacione.\' c07mmitaria.\' y gestirn asociada
27. M. Mucci
P~;icoprojilaxis
qltirrp;iw
28. T Puig
Se awbr la diversirn
29. F. Elas
La adopcirn de niiios como cuestin social
~I"~
PAIDS
BuenoS Aires
Barcelona
Mxico
y ser incorporado
I
I
- ---------
Nirenberg,
Evaluar
evaluacin
Nirenberg,
2" reimp,224 p.
302.3
NIR
de Paisaje
.. ----- ...
-------.
LAS AUTORAS
Oiga
para la transformacin:
innovaciones en la
de programas Y progmmas sociales / Oiga
Josette Brawerman y Violeta Ruiz.- 1" ed_
Buenos Aires' Paids, 2005.
; 21x13 cm.- (Tramas sociales)
ISBN 950-12-450S-X
1. Brawerman, Josette 11. Ruiz, Violeta 111. Ttulo 1. Interaccn Social Intergrupal
Quedan
rigurosmnente
bajo
sanciones
las
cualquier
distribucin
medio
prohihidas,
establecidas
o procedimient.o,
(h~ ejemplares
2000 do todas
Editorial
de (~lla
In auLori~acin
cOlnprcndidos
mediante
laH "dicionos
(~scrita
la reproduccin
la reprografa
a!qui]cr
o prst.amo
de los titulares
total
pblicos.
en castellano
Aires
literaria(g.editorialpaidoH.com.ar
www.paidosargentina.col11.al.
o parcial
y el tralnn1i(:nLo
Paid<is SAICF
sin
en 1<1s h~yn.s,
del
de esta
copyright,
o.bra por
inform{;co,
y la
OIga Nirenberg
Es sociloga (Universidad Naciona] de Buenos Aires
-UBA-), con pos grados en Planificacin Social y en Salud Pb]icl. Es directora ejecutiva del Centro de Apoyo a] Desarrollo Loca] (CEAD EL) y coordinadora
de]
~lrea de eV;l]uacin de] Programa de Atencin a Nii10s y
Adolescentes en Riesgo (ProAme, Secretara de Desarrollo Social/BID). Trabaja como consultora en evaluacin para otros programas nacionales de ]a Secretara
de Desarrollo Socia] y en el Programa Materno Infanti] y Nutricin
(PROMIN, del Ministerio
de Sa]ud/BIRF), y para programas internacionales,
en especial e] Programa Regional de Salud Integra] del Adolescente de la OPS-Washington
DC y e] Programa UNI de
]a Fundacin W. K. Kellogg.
- 1'ril1t"d in Argontina
J osette
Impreso
en Grfica
Santiago
del I,stero
Tirada:
MPS,
:3:38, Lans, "n fobrero de 2005
1000 ejemplaros
ISBN 950-12-4508-X
BrawemUll
Es sociloga (UBA), con estudios de posgrado en P]anificacin Social. 1 la sido consultora del Centro Interamericano de Des:lrrollo Socia] de la OI'~A y de UNICEF
7
Oiga Nirenbax,
Argentina. En la actualidad es miembro del equipo tcnico de CEADEL y consultora del rea de evaluacin del
Programa Materno Infantil y Nutricin (PROMIN, Ministerio de Salud/BJRF) y del Programa de Atencin a Nifos y Adolescentes en Riesgo (ProAme, Secretara de Desarrollo Social/BID).
INDICE
Violeta A. Ruiz
Es sociloga (UBA), con estudios en Programacin
Social. En 1997 recibi el Premio Adeba por el trabajo
presentado sobre la evaluacin del Programa Materno
Infantil del Ministerio de Salud. Se desempeil como
consultora en programas sociales dependientes de distintas reas de gobierno y Organizaciones de la Sociedad
Civil (OSe:). Ha coordinado y colaborado en evaluaciones de programas para la Direccin Nacional de Gasto
Pblico Social del Ministerio de Economa, CEADEL,
UNICEF Argentina y programas dependientes de la Secretara de DesarroUo Social de la Nacin.
13
21
27
27
29
31
36
38
42
46
48
5]
53
58
62
65
79
72
75
77
80
85
91
96
105
105
107
129
130
1B
133
135
138
138
144
148
154
161
162
164
lO
169
169
170
173
177
181
183
188
189
190
Anexos
Matriz sntesis de un modelo evaluativo
Instrumento de valoracin
191
1<)2
205
Bibliografa
217
165
11
PRLOGO
I
\
El ttulo del libro Evaltun par-a la transformacin adelant;] 1;]intencin de l;]s ;]utoras, fruto de su aquilatada
experiencia en ]a formulacin y evaluacin de programas
sociales. Y esta intencin se resume, a nuestro juicio, en
la propuesta de una reflexin profunda del significado de
la evaluacin como elemento clave en la programacin
de l;]s poltic;]s sociales.
Es frecuente, en los anlisis de esta problemtica,
confundir 1;]actividad de evaluacin ~con los supuestos
de racionalidad implcitos en ella- con la de programacin. Atribuir a la programacin -entendida como la
asign;]cin de recursos eJ;'ante- un carcter racional en
todos los casos induce a error. Ll programacin, como
metodologa de asignacin de cualquier tipo de recurso
en la sociedad, puede ser racional o irracional tanto en
objetivos como en mtodos, y es de suma importancia tener en claro este punto al abordar este tema, especialmente en la evaluacin de programas_
En este trabajo, Nirenberg, Brawerman y Ruiz hacen
un minucioso anlisis del significado de la evaluacin en
r
13
Pnilogo
1. Weber,
M.:
eCOnO'lIIII}
slIciedilll,
Mxico,
Fondo
de Cultura
l':con,',-
miea, 19(,4.
2. Mayntz,
1994.
R.:
Sociologll
de Illlld'llliniSl'mcirn
14
/>bliur,
iVbdrid, Ali:1Ilz.:l,
lS
__
-IIIIIIII,". ---II1IIII1IIl1li111,
--------------
Violeta Ruiz
Esta concepcin limitada se contrapone con la racionalidad asociada a la evaluacin, que constituye el modelo de la propuesta contenida en este libro y que R. Gmez3 (utilizando los criterios epistemolgicos de K. O.
Apel) caracteriza como comprehensiva, en tanto discute o
elucida la propia racionalidad (y justeza) de los fines que
se persIguen.
La mera racionalidad instrumental, restringida y fragmentaria, est irremediablemente ligada a una concepcin de la sociedad y su organizacin, y elimina la reflexin sobre las consecuencias de la accin, con un notorio
empobrecimiento y limitacin en el anlisis, tanto a nivel epistemolgico como de la propia concepcin de la
sociedad, de su organizacin, de los "modos aceptados
como racionales y para la accin social misma".
La propuesta evaluativa que se aborda en este texto
-en tanto elaborada COl110 proceso que abarca y contiene
todo el desarrollo del plan o proyecto, sometiendo a crtica sistemtica no slo los fines seleccionados y el ajuste
de la operacin a stos sino adems, y fundamentalmente, los efectos deseados y no deseados de la implementacin, y aun el propio ejercicio de la evaluacin misma,
mediante la "metaevaluacin"-, supera los lmites de la
razn instrumental y de la crtica expuesta.
Un elemento destacable de esta propuesta es el de la
profuwb asociacin que se establece en el texto entre evaluacin y mtodo cientfico, relacin estrechamente ligada
a la concepcin de racionalidad anteriormente expuesta.
Sin embargo, esta asociacin est lejos de identificar ambas actividades, e ignora sus diferencias. Recuperando la
16
fJrlogo
17
Prlogo
/8
HALPVRN
agosto de 1999
J.~
i'_
I
.
19
INTRODUCCIN
21
Introduccin
cimiento, entendemos ese mecanismo como instrumental para la accin orientada a transformar las situaciones
de grupos humanos en condiciones desventajosas. Es por
eso que, pese a las silni]itudes, la evaluacin se distingue
de la investigacin social.
No intentaremos aqu discutir otros enfoques ni criticar otras formas de evaluar; m<1Sbien tomamos los
aportes que cada una de esas modalidades puede brindar, incluyndo]as en un esquema abarcativo. S intentaremos aclarar algunas confusiones provenientes tanto de
distintos usos IingListicos para nombrar las mismas cosas como de iguales trminos para nombrar cosas distintas, como puede verse sobre todo en los captulos 2 y 3,
donde discutimos los diferentes tipos y abordajes de
evaluacin y desmitificamos algunas de las distinciones
tradicionales.
La mirada eva]uativa que aqu proponemos es integradora, comprehensiva, con momentos de detalle y momentos de sntesis gest<1]tica.
Este libro no sirve como manual o receta para evalmlr
de form~l universal todo tipo de proyecto o programa; en
tal sentido no desarrolla instrumentos sino que procura
transmitir la concepcin de cU<1]esson los procesos requeridos y las orientaciones acerca de las formas de encarados, para disear evaluaciones distintas para los diferentes proyectos o programas donde los profesionales
del campo socia] solemos hacer cada vez una nueva expenenCla.
Para cumplir con nuestro propsito dividimos el texto en seis captulos y dos anexos.
El primer captulo pretende dejar aclarada nuestra
concepcin general acerca de la evaluacin y su utilidad
Introduccin
como funcin de la gerencia, es decir, incluida en la gestin social. El segundo captulo hace una recorrida por las
tipologas usuales de la evaluacin en la literatura consultada y, como ya advertimos, se abordan algunas discusiones aclaratorias a] respecto. En el tercer captulo hablamos de los abordajes, de los falsos dilemas entre las cifras
y las palabras -lo "cuanti" y lo "cuali"- que envolvieron
durante aos la cuestin de la evaluacin y que ahora parecieran ir superndose, aunque no del todo, concluyendo que es el rigor metodo]gico lo que importa en las
evaluaciones y que es slo mediante la subjetividad de
muchos diferentes que se puede resolver la subjetividad
individua], aislada e idntica a s misma. El cuarto captulo presenta una resea de las tcnicas a las cuales puede
recurrir ]a evaluacin para generar o recopilar y analizar
informacin, sin pretender con eso tratar ]a cuestin de
forma exhaustiva, pues es tal e] caudal de tcnicas existentes que se requerira un libro slo para ese desarrollo; sin
embargo, hemos incluido algunas que nos parecieron novedosas y tambin discutimos algunas otras que ltimamente se levantaron a] nivel de "mtodos", pero que continan siendo herramientas simples y tiles a disposicin
de los eva]uadores (como las relacionadas con "evaluaciones rpidas" o de rtlpid m:\'c.\TtJ1CJZt).
Finalmente, los captulos quinto y sexto forman un
solo bloque pero los hemos dividido para dar un respiro
a los eventuales lectores. En el quinto se describen las caractersticas y los pasos del proceso de diseo de un modelo evaluativo, y en el sexto recorremos las fases de su
aplicacin y de la diseminacin de los hallazgos, las conclusiones y las recomendaciones producto de la evaluacin, cuyo meollo es el informe evaluativo. En los anexos
24
de esas institueiones
son: el Centro
de Apoyo
al Desarro-
25
CAPITULO 1
Para qu la evaluacin?
Alicia.
110
el Cato.
eir Alicia.
[1,11 ese CIlW)
dll igual adndc vay"s, interrumpi
... siempl"e que llegue a "Z~'1I77apllrte, termin
modo
el Gato .
Alicia, a
de explicacin.
({-
Ci\RROLL 1
Introducindonos en tema
E] bmoso dilogo entre la ingenua Alicia y el Gato
sagaz resulta til para abordar la cuestin de la evaluacin en los programas y proyectos sociales.
Alicia nos habla de la direccimzalid/ld cuando pregunta
hacia dnde tiene que ir; esa pregunta, tan frecuente en
la accin social, adopta diferentes formas: cmll es la direccionalidad deseable para nuestro proyecto?, nos estamos dirigiendo hacia donde nos proponamos?,
en
qu medida estamos transitando procesos que nos llevan
26
ese di:logo aclara que "es uno de los pas'ljes m,is citados de Alitodo en libros cientficos, en los que ha servido para ilustrar el
entre la realilbd informe de la materi'l y el Glr<cter intencional
toda ordcnaein lgica".
27
Para qu la evaluac5n?
"'''''''''''''''----w
~-~----Oiga Nirenberp;, ]oJette Brawermrln, Violeta Ruiz
Para qu la evaluacin?
II!~ I
I! I
11:
1987). En verdad, puede decirse que esa reflexin continua, a medida que la accin se desarrolla, es propiamente
la evaluacin, la que alimenta con sus hallazgos la planificacin y gestin de los proyectos.
Visto as, se trata de un proceso que slo conceptualmente es separable, pues en ]a prctica el proceso
de planificacin/ejecucin/evaluacin
es una integridad indivisible, conformada por momentos -funciones- en continua retroalimentacin.
Los tericos de las
ciencias de la administracin
engloban ese proceso en
el concepto de "gerencia", y tambin se usa el trmino
"gesti n".
Queriendo transmitir metafricamente
esa cualidad
integral de la gerencia y dentro de la gerencia la funcin
o momento de la eV~11uacjn, en una de sus brillantes exposiciones Paulo Mona" ]a compar con el caso de un
mnibus repleto de pasajeros, donde e] conductor debe
arreglar defectos del motor sin detener el coche y con todos los pasajeros dentro.
Pero aun sabiendo que resulta complicado, si no reflexionamos sobre la accin que desarrollamos mientras
los programas o proyectos se realizan, si no cuestionamos o mirarnos crticamente cmo llegamos a donde
llegamos, difcilmente podamos responder a la pregunta de Alicia: cmo seguir desde aqu?, y a 1<1otra, pre-
31
II1
1 11
Para qu la evaluacin?
Entendemos
por evaluacin de programas o
proyectos sociales una actividad programada de
rejlex5n sobre la accin, basada en procedimientos
sistemtiticos de recoleccin, anlisis e interpretacin de informacin, con ]a finalidad de emitir
juicios valorativo,\' fundamentados y cormmicable.\' sobre las actividades, resultados e impactos de esos
proyectos o programas, y formular recomendaciones para tomar decisiones que permitan ajustar la
accin presente y mejorar la accin futura,
:
,
Basada en pnJcedimientos sistC7ntiticos: supone una metodologa y tcnicas para la recoleccin y el an,)lisis de
la informacin relevante que alimentar ]a reflexin y
fundamentar ]os juicios valorativos que se emitan
acerca de las actividades, los resultados y los impactos
de los cursos de accin implementados.
"
))
'1
que se reaLiza cuando se comp;lran situaciones o estados actuales de grupos poblacionales, contra sus situaciones o estados pasados, para saber qu cambi y poder emitir un juicio acerca de si la situacin esU mejor, peor o igual. Esa comparacin contra s mismo en
el tiempo es a veces -sobre todo en los primeros tramos de la ejecucin de un programa o proyecto- ms
relevante que la otra, contra esdndares, pues aunque
se concluya que se est lejos an de lo desea ble -el estndar-, la situacin puede haber mejorado mucho
debido a la gnlVedad de la situacin inici;ll o punto de
partida -"lnea de base"-, y eso es en s alt;lInente valorable y muy estimulante para los que ejecut;lI1 las acciones, ya que la evaluacin les demuestra los logros
obtenidos y les permite programar sobre mejores bases. La fundamentacin de nuestros juicios valorativos
depended de la consistencia y confiabilidad de la informacin -cu;ll1titativa y cualitativ;l- que recojamos,
al estilo de las "evidencias" que corroboran los testimonios en un juicio frente a un tribunal. I,os juicios
valorativos deben poder comunicarse a las audiencias
identificadas, lo que significa que se deben redact;lr
informes comprensibles y programar devoluciones de
los h;lllazgos en modalidades adecuadas para la mejor
comprensin por parte de los actores involucrados.
F07711'lllm"recO'lilelUlacilJlles pam towm" decisiones I/ue pl'/"rnitan (~j'llstm""y 'lllljol"al" la,l' acciones: la evaluacin tiene
mltiples aplicaciones y puede perseguir diferentes
propsitos, pero de modo general intereS;l destacar
que se trata de pensar sobre el hacer, para identificar
errores y problemas que dificultan la acci(m, para per-
35
Evaluacin e investigacin:
bastantes similitudes y algunas diferencias
Una evaluacin no es equivalente a una investigacin, aun cuando comparte muchos de sus procedimientos. La investigacin busca fundamentalmente
incrementar el cuerpo de conocimiento,
estableciendo
relaciones entre hechos, fenmenos, situaciones, etc.,
mientras que la evaluacin se preocupa ante todo por el
perfeccionamiento
de la accin y compromete
esencialmente un juicio de valor. En suma, "b evaluacin
debe ocuparse fundament~llmente
de los posibles Clmbios en un programa existente" (llamilton
Smith,
1981). La investigacin termina con conclusiones acerca de cmo oculTen los hechos, alimenta la teora y el
cuerpo de conocimiento sobre cierto segmento del saber, mientras que una evaluacin debe terminar con recomendaciones que l1even a modificar lo que se vena
haciendo, o bien a agregar nuevas acciones (lo cual, sin
duda, se funda en un "saber" acerca de cmo oCUlTen
L1Scosas y en ciertas hiptesis acerca de c(mlO debieran
ocurrir).
'Emto lo expuesto en el acpite anterior como lo recin expresado permiten concluir que son las 'I'CO'lI1I''l1(!ffI)J7I'.\' para la toma de decisiones
las que distinguen la
evalu~lcin de b investigacin; no pareciera lgico pensar en una evaluacin por el solo hecho de describir y
emitir un juicio sobre cmo se hacen bs cosas, si no se le
agregan las recomendaciones
emergentes para decidir
sobre los cursos de accin y cambiar lo que se detecte como mejorable.
,{
Para qu la evaluacilll;--
Para qu la evaluacilJl(
es sinrgica, e, ya que se logran otros resultados no especficos o buscados primariamente, como puede ser la incorporacin de hbitos positivos de autocuidado, de higiene,
de relaciones con los pares y en la t~llnilia, entre otros.
El ejemplo previo es un caso en el que la evaluacin
puede ser vista tambin como investigacin, ya que posibilita el avance del conocimiento a partir de la sistematizacin de la prctica. TUllbin permite recomendar mejoras
para la accin (aun dentro de la misma modalidad innov,~dora), pues se puede descubrir algn caso entre los analIzados donde, adems de las actividades Idicas y de articulacin con las maestras de las escuelas, se agrega la interaccin peridica con los padres, para concientizarlos acerca
de las ventajas de los nuevos modos de llevar a cabo la
complementacin escolar, lo que redunda en mejores resultados. Ese hallazgo implicar recomendar tambin actividades concretas dirigidas a los bmiliares de los nifos,
promoviendo as enfoques ms integrales. Resumiendo: es
muy sutil la distincin entre evaluacin e investigacin.
radigmas de la ciencia, particularmente durante la segunda mitad de este siglo. El paso de las formas mecanicistas, neopositivistas, racionalistas, objetivistas a las concepciones fenomenolgicas, ms relativistas e inclusivas
de factores con textuales y que incorporan metodologas
intersubjetivas, al incidir en los modos de conocer y
abordar la realidad, influyeron tambin en las modalidades de planificacin, gestin y evaluacin de los proyectos y programas sociales.
llace unas dcadas, la evaluacin se planteaba como la
ltima etapa de un proceso lineal de fonuulacinlimplementacin de proyectos y programas, por la cual se trataba de mir,lr hacia atrs y establecer -siguiendo mtodos y herramientas especializ'ldos provenientes de la investigacin en ciencias sociales y cientficamente vlidos
segn el p'lradigma dominante- si las acciones ejecutadas
haban producido los efectos deseados o buscados.
Esto llev a la elaboracin de disefos de evaluacin
bastante sofisticados con el fin de reproducir condiciones
"experimentales" o "cuasi experimentales" que pennitieran determinar si se proclujeron cambios en 1<1 situacin
problemtica inicial que motiv la intervencin (proyecto o programa social) y si esos cambios se debieron a las
acciones desplegadas. No desconocemos la necesidad de
contar con elementos de juicio acerca de los impactos de
estrategias o cursos de accin de uso difundido, pero lo
cierto es que estos disel0s requieren personal tcnicamente capacitado p,lra llevados a cabo, por lo que suelen
convertirse en evaluaciones externas, con escasa o nula
intervencin de los integrantes de los programas o proyectos; por otra parte, producen informacin que puede
ser til en ciertos niveles decisorios (por ejemplo, para
4. Max-NeeF
de
orientarse:
la resoluci,')\l de un prohlema puntual, contri huyen a la vez a
la resoluci()\l o prevel1ciI1 de otros prohlemas.
Un ejemplo muy utili,.ado es el de la laCr,1I1Ci:1materna, que:1 L1ve/'. que contrihuye
a la huena nutricin del heh, lo preserva inmunolgicnnente,
y e0l1solid:1 un Ia,.o
:lkctivo
entre la madre
s:lrro\lo
posterior.
a su :lpropiado
de-
)Y
___
.-----~-~-_._.-----
Pam qu la evaluacin?
tonco con la fsica o la biologa, sino que coexisten diversas corrientes, en algunos casos contradictorias entre
s -paradigmas rivales (Khun, 1970)~, en otros con diferentes enfoques o nLlsis (caso de las teoras del aprendizaje y las metodologas para la lectoescritura en psicopedagoga, o las diferentes corrientes en metodologas
para la planificacin participativa, las diferentes escuelas
de la psicologa social y la influencia de ellas en la determinacin de las tcnicas ms eficaces para las dinmicas
grupales). Por ende, no existen certezas acerca de cules
son los requerimientos mnimos para la correcta aplicacin de las diferentes corrientes tericls.
La evaluacin puede verse entonces como una respuesta a la necesidad de reducir esa incertidumbre en cada uno de los momentos de la accin, para reconocer si
los esfuert,os esdn "correctamente" encaminados. Es decir que se requiere una retroalimentacin
continua en la
implementacin para ir corrigiendo sobre la marcha los
cursos de accin teniendo en cuenta las cuestiones que
preocupan a los involucrados en la ejecucin (tanto los
ejecutores como los destinatarios).
Ij~s en el sentido recin apuntado que la evaluacin social se distingue de otro tipo de evaluaciones, por ejemplo, de aquellas que se aplican a proyectos de construccin o de infraestructura; hay modelos de evaluacin que
han sido traslad~ldos directamente de los proyectos de ingeniera o de obras ,1 los proyectos o programas sociales,
lo cual gener muchas dificultades y resistencias por parte de quienes los ejecutan, puesto que esos modelos, a veces impuestos por algunas agencias de financia miento,
son poco adaptables a los escenarios comunitarios donde
los proyectos sociales tienen lugar.
L-
-~.-~,___
,,.,.,
I
I
I
41
1,1
...--------------------~--------()~g-a
Violeta Ruiz.
Para qu la evaluacin?
l
'1
ill
111
43
I
Illi
()~!!,/
Nirmbeg,
Para qu la evaluacirn?
45
________________
----'-L
O~i!
Pan! qu la evaluacin?
Violeta Ruiz
a "ensefiar", a transferir su saber a los otros, a los que estn haciendo las cosas en terreno, planteando con ellos
una reJacjn de tipo asimtrica y "vertica]". Lejos de esa
figura se est,l pensando en c1 rol del eva]uador como facilitador, con un papel importante en cuanto acompaa los
procesos, entrando y saliendo de ellos, conservando la posibilidad de una mirada con suficiente distancia aunque
involuerada, dcsencHlcnando procesos de reflexin, brindando una perspectiva "preguntona" y crtica, invo]ucrando a todos los actores posibles en esp,lcjos de reHexin
conjunta y de debate a partir de preguntas, muchas veces
ingenuas, otras veces rspidas.' No debe o]vj(Jarse que ese
ev,l]uador tambin est aprendiendo, tambin tiene su
mente abierta a nuevas formas de actuar. No se tr,lta de un
juez; se tr,lta de alguien a Ja par, con el rasgo distintivo del
"preguntn", del cuestionador, que juega de ve:r,en cuando de ol!t.\ider, que se pone c1 gorro dc1 abogado del diablo, para provoclr y estimuJar la reflexin, a Ja vez que
aprende junto con los dems. No ensCl'a: provoca y estimub el aprl~ndi:r,aje conjunto.
Es relevante la contribucin de la evaluacin a los
procesos de aprendizaje institucion,l], puesto que resulta
prioritario comprometer a quienes tLlbajan en 10s proyectos o programas en un "proceso educativo programado que produ:r,cl clInbios" (Organizacin Panamericana
de 1.1 Salud y FU1HJacinW. K. KeIJog, ]99H).
5. S,')er'ltes,
en el di;logo
lo a travs de pregunt;ls
con Fedro,
es posible
su alumno,
apn;nder.
ser
47
PaTa qu la evaluacin?
La evaluacin es capacitador~l
e iluminadora pues
busca en la teora, la experiencia y el conocimiento, las
argumentaciones
que mejor expliquen los resultados y
facilita el crecimiento, el desarrollo y el perfeccionamiento de los que intervienen en un proyecto.
FjecllcJ-nde la evaluacirn
El proceso de la evaluacin
Reiteradas veces se dijo que entendemos la evaluacitm
como un proceso, como una funcin de LJ gerencia o un
conjunto de actividades, siendo, por ende, programable.
Es lo mismo que afirmar que requiere para Sll desarrollo
un proceso o secuencia que le es propio, el cual se esquematiza a continuacin.
ProgrtlTl1acirn de la evaluacirn:
definicin del sujeto-ol:jeto de evaluacin,
establecimiento de la finalidad,
identificacin de las {l/uliencias,
determinacin de! nivel de tlTulixis,
Si bien e! proceso evaluativo se ha presentado esquemticamente de forma aislada y lineal, debe interpretarse
que forma parte de un proceso mayor que es e! proceso
administrativo de la gerencia y que como tal retroalimen49
4S
''
d,
'"
OIga Nin:nbeig,
CAPTULO 2
Los tipos de evaluacin
FFYFR;\BI:";I)
(1 iJH4)
Existen muchas formas de evaluar y esto ha dado lugar a una profusa y posiblemente confusa terminologa,
'lcuada en la literatura sobre el tema, que remite a distinciones (a veces a oposiciones) entre modos, tipos, enFoques o perspectivas de evaluacin. En su mayora,
surgen de la introduccin en la prctica de lluevos focos
de inters y de los diferentes nfasis que los mismos
evaluadores fueron dando al uso de la evaluacin. Muchas aparecen incJuso para superar restricciones o limitaciones con que se enfrent;ron en el desarrollo de las
modali(bdes ms tradicionales. Sin embargo, como se
ver,), responden a diferentes necesidades y no son excJuyentes.
Como producto de los intentos de sistematizar la experiencia en propuestas conceptuales y metodo]gicas,
se pueden encontrar innumerables cJasificaciones. Algunas han tenido mucha difusin en ]a Iiteratun1 sobre evaluacin y merecen una breve descripcin pues alertan
SI
K,
Una distincin clsica proveniente de la tradicin econmica y trasladada a las ciencias sociales es la que suele
efectuarse entre evaluacin cx antc y evaluacin ex post.
Como su nombre lo indica, la cvaluacin cx ante (a veces denomin,lda tambin "de predecisin", "de factibilidad" o "de pertinencia") se emprende antes de iniciar un
programa o proyecto para tomar una decisin relativa a
si debe implementarse
o no. En trminos generales
apunta a "comparar la eficacia o la rentabilidad econmica de las diferentes acciones para alcanzar ]os objetivos
deseados" (Pineault y Daveluy, 1987, C1p. 6).
Desde el punto de vista del proceso de intervencin
socia] se tLlta, en b fase de formulacin y diseDo del
proyecto, de esta blecer, adems de su 'l'clltabilid;ul CC01US'lIIiC/l, su pcrtincnci/f -es decir, la adecuacin de las soluciones que propone a la realidad que se pretende modificar-, su coherencia inter'lla en trminos de adecuacin
de recursos a objetivos y de stos a metas y actividades,
V su filCtibilid/fd, o sea, ]a disponibiliebd
de ]os recursos
;'equ'eridos y la existencia de condiciones paL1 desarrollar las ,1cciones esperadas.
Es el tipo de evaluacin que suelen realizar os organismos financiadores a la hora de decidir aprobar un proyecto. Puede servir para mejorar su formulacin y tambin para seleccion,lr proyectos, por ejemplo, cu,mdo se
trata de un concurso.
1, '!:mbin
principal
ycctos.
')2
tcnica
se (!cnomin;ha
"eosto-bendio",
de ;1I1;lisis econmico
identificndo!a
para la evalll'lCi(m ex
{117ft
con la
de pro-
()Z~'(l
Nirer!IJel~,
]o,I'ette Bmwermar!,
Violeta Ruiz
La evaluacin ex post es la que se realiza una vez concluieLJla ejecucin del proyecto. Aqu tambin se utilizan
varios trminos -aunque no con un significado unvocopara h~lcer referencia a diferentes momentos en los que
se reahza, sea apenas concluida la bse de ejecucin (de
fin de proyecto, a posteriori, terminal), sea varios aos
despus que el proyecto o programa ha tenninado.2 De
todos modos, en general se concentra en los resultados
obtenidos para evaluar en qu medida se alcanzaron los
objetivos previstos (situacin objetivo), eules han sido
los efectos, buscados y no buscados, atribuiblcs al proyecto, sobre la situacin inicial que se pretenda modificar; tambin procura identificar los f~lctores que contribuyeron a producir estos resultados. Merece destac1rse
que un aspecto importante -a menudo descuidado- de
~sas evaluaciones es contar con una "lnea de base", o informacin diagnstica de la situacin inicial, p;lra poder
contrastarla con ]a situacin final. Aunque acorde con las
metodologas circulantes de planificacin/programacin
~1 formu]acin de un proyecto o programa del~e acompa~
]:arse de un chagn{)stico, no cs frecuente que ste se reaIIcc COI: .~a. mirada puesta en el proceso eva lua tivo, y por
ende chhcllmente incorpora la inf~mnacin pertinente
par:~ p(~der. apreciar los cunbios producidos despus de
su fm;llIzaCl{m. Lo dicho mucstra que, pese al camino ya
Violeta Rui:::.
Aunque se lo distingue, tambin el seguimiento o 'f'IlOnitO'l'eo' se refiere a la evaluacin que se realiza durante la
ejecucin de un proyecto. Tia sido definido como
[ .. 1 el examen continuo
o pcri(dico que efecta la administraci(n,
en todos sus niveles jer[rquicos, de la manera en que se est[ ejecutando una actividad. Con ello se busea asegurar que la entrega de
insumos, los calendarios de trahajo, los productos esperados se
conl'()J']]]en a metas estahlecidas y que otras ~1Cciones quc son necesarias progresen de acuerdo con el plan tr'lZ'ldo (ONU, 19H4).
')6
ha sido tra-
[,0.1'
tipOJ de evaluacin
11
')7
1:
l!
()~f!,{!
59
1,
Violetl! Rui::.
organizacin y es mayor garanta de objetividad. Sin embargo, sus debilidades estaran en las tensiones entre
evaluador y evaluado, que pueden incluso generar dificultades en el acceso a la informacin, en las restricciones p,lra G1ptar los factores en juego y la racionalidad interna del proyecto y en las probables resistencias de su
person,ll a aceptar resultados que podran cuestionar sus
objetivos, metas y lneas de accin.
Por otra parte, en nuestra concepcin, el evaluador o
equipo de evaluadores externos contratados traen, adems
de sus propias orientaciones y preferencias ideolgicas y
teriC1s, compromisos con quienes los contratan y ello
puede incidir sobre 1<1
supuesta "objetividad" de su labor.+
La solucin salomnica propuesta en alg'unos casos
es la eVftlllacirfn mixta, conformando un "equipo" constituido por evaluadores externos e internos con momentos de trabjo conjunto y momentos de trabajo independiente.
OtTa forma de preguntar acerca del tema de quin
evala, sobre todo en el caso de org,mizaciones o progl'<lmas de ciert,l complejidad (con diversos depart,1111entos o
subsedes o localizaciones) es en qu nivel evaluamos?
En t,ll sentido, si la evaluaci(m es a nivel centT,ll suele hablarse de control de p;e.l'tirf,,; en los niveles intermedios se
hace nE1sis en la ,wjJervisirf y si se realiza en el nivel
operativo, donde se hacen concret,ls las ,1cciones (prestacin de bienes o scrvicios) en relacin con la gente (los
beneficiarios o usuarios o elientes), sc h,lbla de eva/l/flci!)"
4, Para un mayor
sente libro,
desarrollo
3 del pre-
1,0.1'
tipo,\, de evaluacin
muy ligada al propio trabajo de los equipos tcnicos actuantes (por ejemplo, los grupos operativos de
mejoramiento de calidad o de auditora mdica que llevan a cabo los grupos profesionales en los estab]ecimien-
ojJemtivfl,
tos de salud).
La cuestin de quin evala en realidad Ueva implcito el problema de la resistencia a la propia pdctica de la
evaluacin y a las dificultades para utilizar sus resultados.
No es inusual que se lleven ,1 cabo evaluaciones rigurosas -sean internas o externas, de procesos o terminales,
en uno o en otro nivel de 1:1organizacin, programa o
proyecto- cuya implementacin
y desarrollo han sido
aceptados por la org,l11i7,acin pero cuyas recomendaciones son eSC1samente tenidas en cuenta luego por los propios responsables y ejecutores de proyectos. Su compromiso personal y emocional con las metas, la poblacin
destinataria y otros aspectos especficos de la organiz,lcin se puede erigir en una b,11Terapara la aceptacin de
cambios en la orientacin de su accionar. En sntesis, como ya se vio en el primer captulo, existen contr,H!icciones entre los propsitos de la evaluacin y la lgica de
funcionamiento de las organizaciones. Este tema, recurrente en la revisin de las experiencias, nos recuerda
que la programacin de una evaluacin debe incorporar
,1cllerdos y negoci'lciones entre todos los involucrados en
el proceso, sobre todo en torno a sus propsitos y a su disefo. 'E1mbin es necesario contempL1r la introduccin
de mecanismos que permiLln compartir sus diferentes
c(,l]1<lS,incluyendo el anlisis y la interpretacin de la informacin y la formulacin de las recomendaciones. Slo as se podd h,lblar genuinamente de evaluacin partiClpatlva.
{,()
{'1
Violeta R'lliz.
62
63
J....
el valor de esta distincin reside en un lJamado de atencin a la necesidad de realizar evaluaciones durante todo e] ciclo vital de un proyecto. En realidad, como se ha
afin1l<ldo en el primer captulo, e] propsito de ]a evaluacin es contribuir a un aprendizaje que impulse e]
cambio o ]a aplicacin de medidas correctivas. Desde esta perspectiva, toda evaluacin cumple una funcin formatlva.
Otra distincin tambin tradicional en ]a literatura
sobre e] tema es ]a que se establece entre ('7)ftluaciln descriptiva y expliwtiva (Suchman, 19(7), La primera se refiere a los estudios que tienen por objetivo pronunciarse
respecto de] xito o fr,lC1SOde un programa a partir de la
descripcin cuantitativa o cualitativa de sus actividades,
sus procesos o sus resultados y de su comparacin con a]gn objetivo, meta o est,lndar preestablecido.
La segunda se propone identificar los factores que exp]ican situaciones de xito o fracaso de los objetivos de
un programa. Construye esquemas interpretativos de la
multiplicidad de causas e interdependencia
de efectos a
partir de marcos conceptuales y tericos preexistentes o
bien de la formulacin de hiptesis a verificar.
Entendemos que se trata de una distincin artificial.
T(da evaluacin debe de,\'cribil' (y ello posiblemente constituya su primera etapa metodolgica), pero su discfo
debe considerar tambin la identificacin de los bctores
que intervienen para e,1jJliwr los logros y los fracasos. Por
otra parte, como y,l dijimos, toda intervencin socia] es
llna estrategia destinada ,1 producir cambios en un contexto determinado, Implic1 una serie de hiptesis acerca
de los resultados esperados que se traducen cn la fonnu!acin de objetivos; por cjemplo, si el objetivo de un pro-
Violeta Ruiz
67
__
~ ..
1'1
I
6. Se volver, sobre
la cuestin
de los distintos
atributos
0
8
en
accesibilidad,
equidad, sustem'lbilillad.
Nos detendremos
nuevamente
en estos conceptos al abordar nuestra propuesta
de "modelo evaluativo".
69
________
tipos de resultados
Violeta Ruiz
distincin entre ambos (Pineault y Daveluy, 1987). La eficacia se refiere a la capacidad de un proyecto o de alguno
de sus componentes para alcanzar sus objetivos en condicioncs ideales, es decir, si se dan las condiciones prefijadas
y aplicando las normas tal como se han formulado para ]a
aplicacin de las tcnicas cspecficas, mientras que la efectividad se refIere a la comparacin de los resultados obtenidos respecto de los esperados, teniendo en cuenta las
condiciones concretas de ejecucin, en las circunstancias
reales del contexto de] proyecto o programa y con aplicaciones distantes en mayor o menor medida de las normas
fonl1uladas. Los autores citados hablan por un lado de eficacia potencial y por otro de efIcacia real (o efectividad) y
sus explicaciones se refIeren a programas de atencin de
salud, los cuales suelen estar ms nonnatizados quc la mayora de los progr,lmas y proyectos del campo social.
Como puede lograrse una multiplicidad de resultados
(expresados en objetivos de distinto nivel de especificidad),
la evaluacin de la efIcacia o la efectividad de los proyectos
sociales suele enEltizar sus fines ltimos en trminos de las
soluciones a los problemas sociales o del mejoramiento de
la situacin del grupo humano al que van dirigidos. Un
proyecto pucde no ser eficaz, aunque alcance sus metas en
trminos de los servicios o actividades a realizar, aunque
haga un uso adecuado de los recursos, aunque tenga una
estructura que ElVorezca la realizacin de las tareas progr:1madas, si no logra producir los cambios dese,ldos en las
condiciones de vida de la pob]acin a la que se dirige.
En este punto es necesario reiterar la importancia que
tiene contar con buenos diagnsticos acerca de las caractersticas, y agregamos tambin de la magnitud, del problema especfico que se pretende resolver medi,mte la inter-
Lo.\tipos de evaluaci6n
73
________________
..J.
Olua
Violeta Ruiz
.Nircnbcrg
<-'. Jos'etteBrawerman,
8. Cflls!"l' signillca,
pamicnto, constclacit'm.
en ingls,
racimo,
ramillete,
11'11:, enjam1,rc,
'lgTU-
74
75
""IIiiiiiIiiIIiiI~
""'
coinciden
con las de
La multidimensionalidad de la evaluacin
Una conclusin que puede extraerse de las clasificaciones anteriores es que ponen el acento en aspectos similares desde perspectivas diferentes. As, resulta difcil diferenciar en la prctica la evaluacin ex post de la sumativa o
de la de impacto, o bien la evaluacin de procesos de la
formativa o del monitoreo. En realidad, abarcan duniverso de aplicacin de la evaluacin, organizndolo para responder alternativamente a diferentes preguntas: p,lra qu
se evala, quin evala, cundo evaluar y qu se evala.
Los desafos que el desarrollo de la pdctica fue planteando frente a Jas limitaciones de las modalidades ms
tradicionales de evaluacin contribuyeron a su enriquecirniento. Ahora se presta mayor atencin a las caracte-
77
76
..,L
Violeta Ruiz
CAPTULO 3
generalmente
hasta
cien ~los
provena
convertirse
en mltiples
niveles
usuarios
de los resultados
luador
ayuda
en distintas
tcnico
et;lpas,
cn los puntos
un grupo
a evolucion;lr
para convertirse
de un~l
en una herramienta
mayor
;1
meta
la meta
en
de involucrados
sus haJlazgos
en su mayor
utiliz~Ha
L1
y culpahilidad
En la actualidad,
interpretar
actividad
do de la auditora
~1
una gran
as como
mucho
y
evaluando,
de evaluacin,
de una evaltwcin.
!In
que
concentr~]da
en la que participa
de productos
nicamente
dcsde
que se est'lha
multidimensional
comien/,a
cucncia
del campo
ha evolucionado
de un proyecto,
de gener~Hlores
de hasarse
~1
en una actividad
variedad
lugar
la evaluacin
unidimensionalllevado
p'lrte
de la evaluacin
actual
to y el aprendizaje
en funcin de cxpericncias
lnteramericano
de Desarrollo,
sil).
1 ... 1
ex post
ha pasa-
del entendimienadquiridas
(Banco
78
Que "sflber"
Jl('
lila
signifique
SiWflcirJlI
mi.\'Jllo C11varios
EII
la flctualidl1l1
CO'ltl1l1zitflrifl
1110t11entos,puedan
im'timttnci/
lTqlcre
lfl CO'lHllilidfld
o yo
lo n\'77lO,
de 77/i conciencia
otro punto
supo-
sujetos,
comprobflr
cierto",
en que varios
propia-
saber fllgo,
nece-
de vi.\,tfl, El sflber
(19%)
1. Briones
(19')1)
denomina
"modelo
de e.;valuacin"
a "un esquema
79
()Z~ll
Violeta Ruiz
so
81
Oiga NircllbelX,
EVALUACIN
Paradigma
CUANTITATIVA
EVALUACIN
positivista/emprico
Predominio
CUALITATIVA
Paradigma
fcn ol11cnolgieo/ e(mstruetivi sta
de deduccin
Predominio de induccin,
comprensin, interpretacin
Dis6os experimentales
o cuasi experimentales
Investigacin naturalista
Lenguaje
Lenguaje verbal
numrico
An,lisis estadstico
An;lisis de contenido,
estudio de casos
Resultados gener;lliz;lbles
Resultados limitados en
su generalizaci{n
Los desacuerdos entre los defensores de ]a "evaluacin cuantitativa" y los de ]a "eva]uacin cualitativa" se
han centrado en cuestionarse mutuamente el uso de determinados mtodos y tcnicas y la capacidad de los datos relevados por una u otra para explorar, explicar, comprender y predecir ]os fenmenos sociales.
De todos modos, merece destacarse que estos des;lcuerdos son en parte producto de la evolucin de la metodologa de investigacin socia] en e] ltimo medio siglo, dentro del marco de los paradigmas cientficos prevalecientes en cada momento.
Los paradigma.I' constituyen perspectivas gcnerales o
teoras explicativ;ls dc la realidad que determinan cmo
(~
\'7
Violeta Rlliz
84
85
Evaluacin cuantitativa
sa no es la cuestin
o cualitativa?
Una de las crticas ms severas a la utilizacin exclusiva de enfoques cuantitativos es que slo miran aquellas
variables que se pueden medir y as pierden de vista el
OZr;aNirenberg,
}oxette Brawernuln,
Violeta Ruiz
procesos como los resultados, brindando indicadores sintticos y numricos sobre resultados, as como explicaciones que reflejen los procesos.
La cuestin sobre qu es mejor y cundo usar mtodos
cualitativos y eundo cuantitativos, entendiendo por tales
el conjunto de procedimientos y tcnicas para la recoleccin de la informacin y el procesamiento y anlisis de los
datos, no pasa en realidad por la defensa de uno en desmedro del otro: cada uno tiene sus potencialidades y sus limitaciones y stas se abordarn brevemente en el captulo sobre tcnicas. Se tr,lta ms bien de reflexionar acerca de su
utilidad y de los bendicios y costos de combinarlos e integrados en el diseo evaluativo que se plantee. Sin pretensin de agotar los argumentos, podemos sealar al menos
que esta combinacin permite la consecucin de objetivos
mltiples atendiendo tanto a los procesos como a los resultados del programa, enriquece los hallazgos evaluativos
profundi',ando en los motivos de las asociaciones que pueden encontrarse entre variables cuantitativas y sugiriendo
hiptesis para explicar la variabilidad entre individuos o
grupos, permite abordar la cuestin de las creencias, motivaciones o actitudes de la poblacin, difciles de ser reflejadas cuantitativamente, dando vida a los datos. Tuubin
f~lcilita la triangulacin (vase ]a pg. 95) y acrecienta la comunicabilidad de los resultados. Por otro lado, no puede
desconocerse que esta combinacin tiene requerimientos
en tnninos de tiempos y costos y, sobre todo, de habilidades para el anlisis que no siempre son Hciles de alcanzar.
Sin embargo, como veremos en los ltimos captulos de
este libro, mediante un proceso de construccin participativa del modelo de evaluacin, es posible instalar las capacidades necesarias a tal efecto en la organizacin ejecutora
86
87
2. Rcsulta IJluy ilustrativa :11 respecto una nota sin finn:1 aparecida en
el diario Clrn-fn, del 30 dc mayo de 1999, cn rclacin con la cV:llu,lcin de
la calidad educativa y los consecuentes
mJ7kill.~\' de las escuelas.
Dice un
Violeta Ruiz
(1987):
El arte de la evaluacjn implica crear un diseo y relevar la informacin que es 'lpropiada en una determinada situacin y en el
marco de una poltica determinada.
que en s misma determine qu abordaje o qu mtodo US~1r.Ante cada evaluacin se debern tener en cuenta las demandas de quienes
contratan la evaluacin, las necesidades de los decisores, las
de quienes flnancian el programa o proyecto, las de los tcnicos que lo llevan adelante y las de los beneficiarios, as
como la propia visin del evaluador acerca del problema y
SLlexperiencia -preferencia- en el uso de determinadas tcnicas. As ser posible construir un diseo evaluativo que
d respuesta apropiada a ese determinado contexto. Dicho
diseIo, por otra parte, seguramente ser diferente en la
prxima evaluacin que asuma ese mismo evaluador.
Por lo tanto, el abordaje metodolgico no se limita a
una cuestin de mtodos.
Las metodologa s de evaluacin constituyen marcos de referencia coordinados de supucstos filoslicos (acerca del mundo, b
naturaleza humana, el conocimiento, la tica), integrados a perspeetivas ideolgicas sobre el rol y propsito de b investigacin
social en los procesos decisorios de programas y polticas sociales, acomp,lihHlos por posturas valo1'<ltivas acerca de los fines deseados de los programas y de la investig;lcin y fin,llmentc -y es
lo menos- por preferencias acerca de mtodos complementarios
(Greene, 1994:(31).
3. Si consideramos, como Caltung, que un dato es la t<Jrlna de registrar un,l respuest'l, el d:lto sed cuantitativo o cualitativo seg'n cmo se la
registre. As, una opinin (respuesta) se convierte en un dato eu:mtltatlvo
si se la registra sobre la base de categoras preestableeldas para luego est:1hlecer frecuencias, ves un d:lto cualit:ltivo si se la registra en Sll expreslOll
textual. As, un llli S'u o instrumento (por ejemplo, un cuestionario con preguntas ahiertas y cerradas) puede recoger (btos cuantit:ltivos y cualitatIvos.
4. Vase el captulo 4 de este lihro,
88
89
-....--
yendo al aprendizaje institucional y a una retroalimentacin permanente entre evaluacin y programacin, Incluye el uso de una multiplicidad de tcnicas, tanto cualitativas como cuantitativas, predominando aquellas que
permiten incorporar la perspectiva de los actores involucrados en los procesos de programacin y de ejecucin,
incluyendo a los beneficiarios, usuarios o destinatarios de
las acciones,
Veremos en el captulo 5 que un paso crucial en la construccin del modelo evaluativo, en el sentido de diseilo
que le damos en este libro, es la eleccin de las dimensiones evaluativas, mientras que las variables, los indicadores
y las tcnicas y los instrumentos a utilizar son elementos
subordinados, dependientes de cu~lIes sean esas dimensiones, La detcrminacin de las dimensiones del modelo es
una parte muy cre~Jtiva del proceso evaluativo, pues es lo
que divide conceptualmente el todo que se pretende evaluar, en una forma diferente, para encontrar un nuevo sentido que posibilite otra comprensin y permita la transformacin de ]a realidad considerada; eso no puede lograrse
eligiendo variables e indicadores sino con otro nivel de
abstraccin, m~s global, que abarque el todo mediante las
dimensiones que lo integran, )';1 no se trata slo de acercamos a los fenmenos con variables medibles o apreciables mediante indicadores; se trata de eu~l es la concepcin del todo en sus partes, para entonces interesarnos por
cules variables ]0 representan y explican. Diciendo lo
mismo en otras palabras: para afiont~lr una evaluacin no
~astar c:m "elegir los indicadores apropiados", aunque
ese constItuya un paso necesario; se requerir tener una
/'"
,
'
C oncepCIon t eonca
acerca (Ie 1" o 1)Jeto
d e 1a eva I uaCIn"
y sobre la realidad donde ste se ubica.
>'
"
S. "La ciencia
y an<lisis cuantitativos.
se exprese
mitados
desde el punto
y :lProxim:ltivos"
de vista de modelos
(Martnez
Miguelez,
97
';lO
coherentes,
1993: 17S),
aunque
sean li-
'~--,-.,.",.,.
OIga Nirenlmx,
Josette Brawerman,
Violeta Ruiz
""
_--
Violeta Ruiz
LO,I'
7. Habermas
(I'.iN2) menciona proeedimielltos
de "creaei{)1] de C:lmpos epistemolgieos
de intersubjetividad",
contraponiendo
este tipo de
generacin de conocimiento
al que se reali"a de forma aislada o individual)l. que corre el riesgo de la subjetividad
individu,lI, no sometida a crtica, El, como otros muchos ,utores, sostiene que la ciencia, aun en el
enfoque
procuLlr
positivista,
el rigor.
carece
de objetividad
absolut'l,
lo cU'll no impide
abordajes /netodolgicoj-
confrontacin y ref1exin conjuntas, para permitir acuerdos o consensos sobre distintos aspectos y, en particular,
sobre los juicios valorativos fundamentados.
Por otra parte, si consideramos la evaluacin como la
aplicacin de ciencia y conocimiento para valorar la calidad de determinado programa o proyecto, los aportes de
diferentes disciplinas en e] proceso eva]uativo incrementan su poder explicativo y resolutivo, por lo cual es relevante la conformacin de equipos evaluativos rmrltidi.lciplurrio,l'.
Una estr;1tegia actualmente muy difundida para asegurar el rigor y corregir la subjetividad es la trirmgulacin,H Ello supone la utilizacin de diferentes tcnicas y
fuentes para evaluar los mismos fenmenos o aspectos de
la realidad a travs de operaciones convergentes, en el
sentido de sntesis y complementacin
metodolgica.
'Eunbin se habla de triangulacin cuando la evaluacin
es realizada por un grupo en el que "se cruzan" los criterios y puntos de vista de cada uno de los evaluadores.
Con ello se procura mayor clm/labilidad de la informacin
obtenida, mayor entendniento de los fenmenos bajo estudio, reduccin de se.lgo,l"propios de Cflda tcnica, fZlente y profesiol1trl, y la v{rlidacil}11de las apreciaciones evaluativas.
En sntesis, entendemos que el rigor no se limita a la
eleccin de las tcnicas o a determinar los pesos relativos
N. La metfora
de la tri,mgulaci{)1]
flnes milita-
algo similar:
conliabilidad
mcjorar la exactitud o precisin de los juicios y aude los resultados a travs de la rccoleccin de da-
fenmeno,
desde diferentes
9)
perspectivas
o tcnics.
de los mtodos cualitativos y cuantitativos, sino que depende ms de la calidad de las decisiones y conductas que
los investigadores/evaluadores adoptan a lo largo de los
diferentes momentos por los que se atraviesa en el proceso de investigar o de evaluar. Es as que las decisiones
y el rigor que se aplique en los momentos de:
sus logros y de la efectividad alcanzada, reflejan un proceso de toma de decisiones y establecimiento de prioridades. uunbin los resultados evaluativos forman parte
de definiciones tcnico-polticas y no son simples deducciones o conclusiones abstractas, descontextualizadas de la realidad en la que el programa o proyecto se
desarrolla.
El equipo evaluador describe, infiere y transmite un
conocimiento pdctico adaptado a cada situacin. Pero,
antc todo, su tarea es valorar y, hasta la seleccin de estndares o parmetros que se usarn para contrastar, estar determinada por un contexto. De ese contexto participa una variedad de actores con diferentes intereses y
perspectivas acerca del programa.
influirn en la validez de los juicios apreciativos para corroborar, precisar o rechazar las hiptesis explicativas/evaluativas, en la comprensin del objeto de estudio y, en
definitiva, en las posibilidades de intervenciones adeClladas que permitan transfonnar la situacin evaluada.
Actores y audiencias
Si aceptamos que los programas y proyectos sociales
son el resultado de un conjunto de decisiones, podemos
tambin aceptar que la evaluacin de programas est,l
atravesada por decisiones polticas en trminos de definicin de prioridades sociales, distribucin de recursos
y, en ltima instancia, de poder. Es en esta lnea de pensamiento que las preguntas evaluativas sobre la importancia de un programa o proyecto, su significado, el de
1,0 que diferencia un aborcbje evaluatvo de otro no son ]os mtodos sino ms bien las preguntas, quines plantean esas preguntas y qu valores se promueven (Crcene, ]994:533).
j,
OZg"a Nirenbcrg,
.lo.\"ctte
BnlWC17lJfn7,
Violcta Ruiz
Lo.\"abordajc.\" nzetodolgico.\
ste puede ser un individuo o bien (rat'1rse de un equipo, en cuyo caso il1tercsar,n los 1'1Ctores mcncion'1dos
p'1ra CHL1 uno dc sus micmbros,
as
como L1s c1raetersticas
multiproFcsionaks
y n1ldti'1ctor'1ks
dcl grupo y
SllS modalidadcs
de funcionamicnto.
98
99
9. Cuando
se menei0!1'1 ,11"evalu'Hlor"
debcr,
tenerse
en cuenta
que
0Zr;a N-enberg,
luativo de todos los actores intervinientes y significativos. Todos ellos deben tener posibilidades reales de intervenir en las decisiones relativas a qu dimensiones y
variables tener en cuenta, cules indicadores son los ms
relevantes, qu tcnicas e instrumentos de recoleccin
utilizar, as como en la implementacin de la evaluacin,
en sus correcciones y cambios, en e] an,llisis y seguimiento de sus resultados, en las conclusiones extradas de dIos
y en formular (o corregir) las recomendaciones.
Es importante, entonces, realizar un exhaustivo re]evamiento de quines son los actores clave en la toma de
decisiones y en ]a ejecucin del programa/proyecto,
para
incluidos desde el inicio en el proceso de la evaluacin.
En las tem<lticas sociales, los usuarios, destinatarios o
beneficiarios, as como ]a comunidad en general, son actores de ineludib]e consideracin en el proceso evaluativo.
En trminos generales podemos distinguir al menos
cuatro tipos de actores, que en principio deberan ser tenidos en cuenta, aunque en cada caso se deber procedcr
a identificar y caracterizar a los que sean relevantes para
cada proyecto o programa.
100
101
Olua
Nire71beru'. Jo.\ette Brawerrmm,
Violeta Ruiz
cin del modelo evaluativo. Para que ref1eje lo ms acabadamente posible las necesidades y los requerimientos
de los actores y del programa o proyecto, el evaluador
desarrollad
las grandes lneas, conceptua]izar las dimensiones de ]a evaluacin y sus principales aspectos,
pero dad intervencin a los actores en el disefo especfico de dichas dimensiones. Pondd sus habilidades metodolgicas a] servicio de] conocimiento que los actores
tienen de] ]ug,lr y ]a realidad donde se desempefian. En
un proceso as encarado, los distintos actores expresarn
los diferentes objetivos y metas que cada uno persigue
con ]a evaluacin, quedando explicitados sus propios
puntos de vista.
Por ejemplo, en un proyecto que evala la caLidad de
la atencin en ]os servicios de salud, los profesion,l]es
asistencia]es suelen poner el nbsis en los aspectos cientfico-tcnicos de ]a atencin, y consideran el acto mdico en rehlcin con cada paciente; paralelamente suelen
dejar de lado los aspectos de eficiencia (o de costos de la
atencin). Asimismo, sern heterogneos dichos nt~lsis
segn las disciplinas y especializaciones profesionales.
En cambio, los gerentes o funcionarios de los niveles
de conduccin de los sistemas de salud enfatizan los aspectos de resultados a niveles pob]aciona]es y ]a eficiencia, o sea, ]a relacin de esos resultados con los costos (lamentab]emente, a veces slo consideran importantes los
costos, o tan slo los gastos).
Por su parte, los usuarios de los servicios hacen hincapi en ]os aspectos de trato interperson,ll, de accesibilidad y de resu]t,Hlos concretos en la mejora del estado
de salud y bienestar a corto plazo (lo cual no es estrictamente ]0 mismo que enf~ltizar en aspectos cientfico-tc102
1 o. I<~n el captulo
efectuar
confrontaciones
se con tcnicas
otras.
especficas
de dinmicas
103
grupaJcs
y de negociaci6n,
entre
las inquietudes y preocupaciones de cada tipo de audiencia son distintas. Es relevante reconocer esa diversidad
de intereses por parte de las audiencias, pues ello incidir tambin en su aceptacin de los resultados evaluativos
y las recomendaciones.
Sin duda, los actores que se involucraron en los procesos evaluativos sern audiencias ineludibles, a las que
habr que efectuar "devolucin" de los resultados para
que puedan tener "derecho a rplica", es decir, a modificar las conclusiones y recomendaciones as como las fundamentaciones. Pero las audiencias son ms amplias, por
ejemplo:
los pobladores o actores de la comuni(lad no directamente afectados por la implementacin del proyecto
o programa;
las autoridades polticas inmediatas y mediatas;
los responsables de programas similares en el mismo
o en otros contextos;
los funcionarios de la agencia que financia e] programa (en los casos de que se trate de un programa subsidiado u apoyado por una agencia);
la comunidad acadmica.
No deber:in descuidarse los procesos de socializacin
de los hallazgos de ]a evaluacin, particularizando segn
las diferentes expectativas e intereses de las audiencias.
104