Professional Documents
Culture Documents
ELABORACIN DE PRUEBAS
Y ANLISIS DE DATOS
Grupo M.E.S.E.
Grupo de investigacin: Medida y Evaluacin de Sistemas Educativos
Measurement and Evaluation of Educational System. Research Group
Objetivo de la sesin
Contenidos
I. El diseo de las pruebas en los procesos de
evaluacin: el caso de las pruebas de opcin
mltiple
II. Introduccin al anlisis preliminar de los
datos obtenidos en la aplicacin de pruebas
evaluativas desde la Teora Clsica de la
Medida
Metodologa
1.
2.
2.
Diseo de pruebas
Introduccin
Elaboracin
de matrices de
especificacin
Construccin de tems
Introduccin
Un test o prueba es
una situacin problemtica, preparada y examinada
anteriormente,
a la que el sujeto tiene que responder siguiendo unas
instrucciones o reglas.
luego se estiman sus respuestas comparndolas con
las respuestas del grupo normativo,
as se estima la calidad, modo o grado de alguna
caracterstica de su personalidad.
Introduccin
Introduccin
Introduccin
MTODOS
Anlisis racional del
rasgo y de sus
manifestaciones
Enunciacin de un
conjunto amplio de tems
RESULTADOS
Definicin de
Rasgo y de sus
manifestaciones
Conjunto amplio
de tems
Subconjunto
seleccionado de
tems
Introduccin
ETAPAS
MTODOS
Estudio piloto: aplicacin
a una muestra
representativa de la
poblacin objetivo y uso
de procedimientos
estadsticos de anlisis
RESULTADOS
Parmetros que
definen al tem
Conjunto de tems
que forman el test
en su versin
definitiva.
Estudio de las
caractersticas del test
Tcnicas estadsticas:
Clculos de fiabilidad y
Validez
Estandarizacin y/o
establecimiento de
normas para la
interpretacin
Tcnicas estadsticas
muestrales e
inferenciales
Caractersticas
tcnicas del test
en su versin
definitiva
El test como
producto final del
proceso
Adaptado de SANTIESTEBAN REQUENA, C. (1990):Psicometra. Madrid, Ediciones Norma
Consideraciones preliminares:
Poblacin
en primer lugar
Contenido de la prueba
Preguntas o tcnicas a incluir
Lmite de tiempo y nmero de tems
y en segundo lugar
permiten definir
Objetivos
Contenidos
Competencias
especficos
Especificacin de la P.O.
Cuanto ms precisa sea la especificacin,
ms precisa ser la medida:
simple
completo
Tabla de especificaciones
Tabla de especificaciones I
Tambin denominada Matriz curricular de
referencia
A cada prueba le corresponde una
diferente
Herramienta que gua la construccin y la
interpretacin de la prueba
Instrumento de partida y llegada
(*)
Tabla de especificaciones
Proceso I
Proceso II
Proceso III
CONCEPTOS IMPLICADOS
1.Contenidos curriculares
Declaraciones o descripciones declarativas o
procedimentales que forman el corpus doctrinal de
una disciplina
2.Procesos
Niveles de complejidad en la resolucin de la tarea
3. Descriptores
Formulaciones sintticas de las competencias que
habrn de ser medidas por los tems que se
elaboren. Cada uno de ellos puede generar varios
tems
Tabla de especificaciones IV
TAREAS PARA SU REALIZACIN:
1.
2.
3.
4.
5.
(*)
CONEXIN E
INTEGRACIN
APLICACIN
Y REFLEXIN
GRAMTICA
VOCABULARIO Y
LXICO
ORTOGRAFA
5
Descriptores
CONEXIN REFLEXIN
NMEROS Y LGEBRA
10
24
10
GEOMETRA
FUNCIONES Y GRFICAS
ESTADSTICA Y PROBABILIDAD
Descriptores
RECUPERACIN
INFORMACIN
REORGANIZACIN
REALIZACIN
INFERENCIAS
REFLEXIN SOBRE
CONTENIDO Y FORMA
NARRATIVOS
DESCRIPTIVOS
EXPOSITIVOS
ARGUMENTATIVOS
INSTRUCTIVOS
tems
Construccin de tems
QU ES UN TEM?
Construccin de tems
TIPOS DE ITEMS
Existen diferentes tipos de tems.
Aqu nos vamos a centrar en:
tems
de respuesta sugerida
(opcin mltiple)
tems de respuesta construida (una
nica respuesta correcta)
Construccin de tems
ITEMS DE RESPUESTA
SUGERIDA
Aqullos en que las opciones de respuesta
estn presentes en su formulacin y, de
entre ellas, el estudiante ha de identificar y
seleccionar la respuesta correcta.
Pueden ser Verdadero o Falso o de
respuesta mltiple.
Construccin de tems
COMPONENTES DE UN TEM DE
RESPUESTA MLTIPLE
TRONCO O VSTAGO
Parte inicial del tem en la que se especifica la tarea
Puede ser una pregunta, instrucciones, una frase
incompleta, una situacin de la vida real, etc.
OPCIONES
Son todas las alternativas de respuesta de un tem (4)
CLAVE
Es la respuesta correcta
DISTRACTORES
Son las opciones incorrectas
Nota: DE UNA MISMA SITUACIN o CONTEXTO PUEDEN
DERIVARSE DISTINTOS TEMS
Construccin de tems
Componentes de un tem de
opcin mltiple: un ejemplo
El autor de Paraso perdido es:
a) Donne
b) Keats
DISTRACTORES
c) Chaucer
d) Milton
CLAVE
TRONCO
Construccin de tems
Ejemplo 1
Qu frase es consistente con la grfica?
a)
La temperatura de descongelacin del hielo permanece constante
hasta que todo el hielo se ha derretido.
b)
La proporcin de descongelacin es equivalente a la de
ebullicin.
c)
Se requiere la misma cantidad de calor para derretir el hielo que
para hervir el agua.
d)
Se requiere ms calor para derretir el hielo que para hacer hervir
el agua.
Temperatura
T
e
m
p
er
at
ur
a
(
C
el
si
u
s)
250
200
Vapor
150
Agua Hirviendo
100
Agua Lquida
50
Descongelacin
Hielo
Tiempo (Minutos)
10
Construccin de tems
Ejemplo 2
El extrao caso del crculo rodante.
En la figura siguiente, el radio del crculo A es 1/3 del radio del crculo B.
Comenzando desde la posicin mostrada en la figura, el crculo A rueda a lo
largo del crculo B. Cuntas revoluciones tendr que efectuar el crculo A
para que su centro vuelva al punto de partida?
a)3
b)6
c) 9/2
d)9
B
A
EJEMPLO
Construccin de tems
Ejemplo 3
Si la paridad Libra esterlina / Euro es 1 =
1.20 Cuntos euros puede adquirir un
turista ingls al cambiar 200?
a) 600
b) 133,33
c) 300
d) 200
Construccin de tems
Ejemplo 4
La igualdad CORRECTA es:
a) 10 Kg = 1.000 g
b) 1 Kg = 1.000 g
c) 10 Kg = 100 g
d) 10 dg = 1.000 mg
Construccin de tems
Construccin de tems
Construccin de tems
Construccin de tems
Construccin de tems
Y ms
Evitar utilizar en la clave palabras que
lleven a los no informados a seleccionarla.
(La repeticin de palabras del tronco slo
en la clave es una pista que debe
evitarse)
Si el tronco es negativo, evitar opciones
negativas
Distribuir la posicin de la clave al azar.
Evitar usar siempre la misma posicin
Construccin de tems
Construccin de tems
COMPONENTES DE UN TEM DE
RESPUESTA CONSTRUIDA
TRONCO O VSTAGO
Parte inicial del tem en la que se especifica la tarea
Puede ser una pregunta, instrucciones, una frase
incompleta, una situacin de la vida real, etc.
SOLUCIN
Respuesta correcta
Construccin de tems
Construccin de tems
Construccin de tems
Y ms ejemplos de tems de
respuesta construida
REPISAS
Un carpintero necesita los siguientes materiales para hacer un juego de
repisas:
4 tablones largos de madera,
6 tablones cortos de madera,
12 grapas pequeas,
2 grapas grandes y
14 tornillos
El carpintero tiene en su almacn 26 tablones grandes de madera, 33
tablones cortos de madera, 200 grapas pequeas, 20 grapas
grandes y 510 tornillos.
Cuntos juegos de repisas puede hacer el carpintero?
Respuesta:.......................................
Construccin de tems
SUGERENCIAS GENRICAS
Construccin de tems
RESUMEN: principales
requisitos
Conocer el tema
Pregunta clara en el tronco
Una sola respuesta
Opciones uniformes y claramente ordenadas
Distractores plausibles
Evitar repetir encabezamiento en las
opciones
Evitar todos los anteriores como opcin
Ajustar la dificultad
Construccin de tems
Anlisis psicomtrico de
la prueba desde la TCT:
conceptos bsicos
1.
2.
Fiabilidad y Validez
Precisin = Fiabilidad
Exactitud = Validez
An
Anlisis de la prueba: Fiabilidad
An
Anlisis de la prueba: Validez
Anlisis de tems
Anlisis de tems
De los tems podemos conocer muchas
caractersticas, pero
Los parmetros son el mnimo conjunto de
caractersticas tcnicas necesarias para definir
el tem, en TCT:
Dificultad
Discriminacin
Validez.
u Homogeneidad y
Anlisis de tems
Caractersticas, no parmetros
X j
P=
N
q = 1 p
S = p.q
2
Varianza de un tem:
A
I .D. =
n
q= 0,50
S2=0,25
PROPORCIN
APROXIMADA
Muy fciles
0,1
De 0,75 a 0,95
Fciles
0,2
De 0,55 a 0,74
Normales
0,4
De 0,45 a 0,54
Difciles
0,2
De 0,25 a 0,44
Muy difciles
0,1
De 0,05 a 0,24
SELECCIN DE TEMS
Criterios:
1. Correlacin del tem con un criterio externo (si lo hay)
Validez predictiva
2. Discriminacin Correlacin del tem con la
puntuacin total del test (consistencia interna). Se
utiliza la correlacin biserial y biserial puntual.
3. Dificultad Tenemos que encontrar tems de
dificultad media.
Puesto que en ocasiones, 2 y 3 entran en conflicto,
necesitamos hacer uso de otro criterio
SELECCIN DE TEMS
Criterios:
Item 1
Item 2
0,3
0,45
Anlisis de tems y
de la prueba con
Corrector
1.
2.
3.
4.
Qu es Corrector
Instalacin
Ejecucin
Interpretacin de resultados
1. Qu es?
La herramienta Corrector es un complemento de macros
automticas de EXCEL que se utiliza para la correccin
y el anlisis de pruebas objetivas.
2. Instalacin
Antes de proceder a la
instalacin debe copiarse
el complemento .xla que
contiene el programa en
algn directorio del disco
duro, por ejemplo:
C:\Mis documentos.
Boton de Excell
1
Botn de Excel - Opciones de Excel - Complementos Ir
2
Pulsa el botn 'Examinar' que aparece a la derecha.
3
Se abrir una ventana donde hay que buscar el directorio en el que se copi el
programa y seleccionar ste.
Pulsar 'Abrir.
4
En el listado de complementos disponibles aparecer marcado el nuevo
complemento.
Pulsar 'Aceptar.
5
A partir de este momento si se accede a complementos aparecer un control nuevo
con la etiqueta 'Corrector'.
El programa ha sido instalado con xito!!
1
Herramientas - Complementos
2
Pulsa el botn 'Examinar' que aparece a la derecha.
3
Se abrir una ventana donde hay que buscar el directorio en el que se copi el
programa y seleccionar ste.
Pulsar Aceptar.
4
En el listado de complementos disponibles aparecer marcado el nuevo
complemento.
Pulsar 'Aceptar.
5
En la barra de mens aparece un control nuevo con la etiqueta 'Corrector'.
El problema se ha instalado con xito!!
3. Ejecucin
Para ver el funcionamiento del
programa, lo ms sencillo es ejecutar el
ejemplo. Para ello pulsa sobre el
control 'Corrector'.
Aparecern diferentes opciones:
'Leer datos ASCII...'
'Inicializar'
'Corregir'
'Integrar'
'Analizar'
Recodificar'
'Detectar copia'
'Acerca de'
3.1. Inicializar
El primer paso ejecutar el programa es la inicializacin del mismo, para ello se debe
pulsar en Corrector - Inicializar
Orden de
los tems
Alternativa
correcta
N de
alternativas
Introduccin del
tem en el anlisis:
Y- Si
N- No
1
Clave: Hoja que contiene la clave o alternativa correcta de cada uno de los
tems a analizar.
Etiqueta
para el
tem 9
2
Etiqueta de tems (Ejemplo): Aparece el nombre que se desea asignar a cada
uno de los tems.
Respuesta del
sujeto 4 al tem 28
Identificacin
del sujeto
3
Datos de entrada (Ejemplo): Hoja con las respuestas de los sujetos a los
diferentes reactivos.
Sobre la hoja que contiene los datos, pinchar en: Corrector Analizar
Dar respuesta a las preguntas que aparecen a continuacin:
1
Introducir el nombre de la hoja que contiene los datos.
Pinchar en aceptar
2
Indicar cul es el nmero de grupos a analizar.
En el caso del ejemplo como slo hay un grupo pinchar: No.
3
Asignar nombre a la hoja que va a contener el anlisis tcnico de los tems. Por
ejemplo: Anlisis de tems
Pinchar en Aceptar
4
Asignar nombre a la hoja que va a contener el anlisis de la prueba. Por
ejemplo: Anlisis de la Prueba
Pinchar en Aceptar
5
Introducir, si se desea, un ttulo para el resultado del anlisis.
Pinchar en Aceptar
6
Introducir, si se desea, un subttulo para el resultado del anlisis.
Pinchar en Aceptar
7
Indicar si se van a utilizar etiquetas para los tems a analizar.
En el ejemplo que nos ocupa, como las etiquetas estn elaboradas, pinchar en:
Si
8
Indicar como se llama la hoja que contiene las etiquetas.
Pinchar en Aceptar
4. Interpretacin de resultados
N de sujetos
Mnimo
Mximo
N medio de aciertos
Varianza
Desviacin tpica
Facilidad media
Media de los ndices de facilidad de los tems que componen la prueba. Aporta informacin de la
dificultad del instrumento.
Rbp media
Media de las correlaciones biserial puntual de los diferentes tems que componen la prueba. Aporta
informacin de la discriminacin de la prueba.
Fiabilidad (Alfa de
Cronbach)
Error tpico de medida de la prueba. Permite establecer intervalos de confianza en torno a las
puntuaciones observadas para, as estimar las puntuaciones verdaderas.
Facilidad
Conocido como ndice de dificultad o facilidad media del tem, informa de la proporcin de sujetos que ha
contestado bien el tem.
Toma valores comprendidos entre 0 y 1, siendo el valor ms prximo a la unidad a medida que aumenta la
facilidad.
Es el resultado de dividir el nmero de sujetos que han acertado el tem entre el nmero de sujetos que lo
han intentado.
Varianza
Permite identificar hasta que punto un tem contribuye a diferenciar a los sujetos en un test.
Toma el valor de 0 cuando no existe dispersin en la respuesta dada por los sujetos al tem (todos aciertan o
todos fallan) y su mximo valor es 0,25.
Desviacin tpica
Al igual que la varianza del tem, su desviacin tpica informa sobre la dispersin de las respuestas dadas por
los sujetos al tem analizado.
Biserial puntual
Biserial puntual
corregida
Clave
Media p
Media q
Alternativa correcta.
Media de las puntuaciones obtenidas en el total de la prueba por aquellos sujetos que han acertado el tem
analizado.
Media de las puntuaciones obtenidas en el total de la prueba por aquellos sujetos que no han acertado el
tem analizado.
Covarianza entre la respuesta dada por los sujetos al tem y los resultados que han obtenido en el
total de la prueba.
Informa de la contribucin del tem a la varianza total del test.
Covarianza entre la respuesta dada por los sujetos al tem y su puntuacin en el total de la prueba,
excluyendo el de esta calificacin el tem que se est analizando.
% Alternativa 1
% Alternativa 2
% Alternativa 3
% Alternativa 4
% otras
rbp Alternativa 1
rbp Alternativa 2
rbp Alternativa 3
Correlacin biserial puntual entre cada una de las alternativas y su calificacin en el total de la
prueba.
rbp Alternativa 4
rbp otras
rbp (Spur) Alter. 1
rbp (Spur) Alter. 2
rbp (Spur) Alter. 3
rbp (Spur) Alter. 4
rbp (Spur) otras
Correlacin biserial puntual entre cada una de las alternativas y su calificacin en el total de la
prueba, excluyendo de esta calificacin el tem que se est analizando.