15
TUTORES VIRTUALES INTELIGENTES: UN ESTRATEGIA DE MEJORA DEL RENDIMIENTO ACADÉMICO EN INGENIERIA. Laura Díaz, Carlos Bartó [email protected], [email protected] Laboratorio de Enseñanza Virtual, Facultad de Ciencias Exactas, Físicas y Naturales de la Universidad Nacional de Córdoba Tipo de trabajo: Informe parcial- de investigación Eje temático: ¿Cómo seleccionar, diseñar y desarrollar un ambiente educativo con tecnologías digitales?: Entornos virtuales de aprendizaje. Resumen: El objetivo de esta presentación es mostrar los avances en una de las dimensiones del proyecto de investigación: Sistemas Tutores Inteligentes aplicados a la Enseñanza de la Programación en Ingeniería, que desarrolla actualmente un equipo de Docentes Investigadores en la Facultad de Ciencias Exactas, Físicas y Naturales de la Universidad Nacional de Córdoba. Su finalidad consiste en mejorar el rendimiento académico de los estudiantes de Programación en Ingeniería. Se muestran los procesos y resultados de las acciones tendientes a incorporar estos Sistemas Virtuales como estrategia para la retroalimentación en la enseñanza y en las instancias de evaluación. Se desarrollan sugerencias para el rumbo de la investigación y se destacan los hallazgos más significativos. Abstract: The aim of this presentation is to show the progress of the research project in one of its dimensions: Intelligent Tutoring Systems Applied to the Teaching of Programming Engineering, currently being developed by a team of researchers at the Faculty of Exacts, Physical and Natural Sciences of the National University of Cordoba. Its purpose is to improve the academic performance of students of programming for engineering. It shows the processes and outcomes of actions to incorporate these virtual systems as a strategy for feedback on teaching and assessment bodies. Finally, we developed suggestions to guide the research and highlight the most significant findings. Palabras clave: Sistema inteligente Tutor Virtual - Rendimiento Académico Enseñanza de Programación - Ingeniería RUEDA - 6° Seminario Internacional Mendoza - Octubre 2013

TUTORES VIRTUALES INTELIGENTES: UN … · Laboratorio de Enseñanza Virtual, Facultad de Ciencias Exactas, Físicas y Naturales de la ... solo es necesario desarrollar los conocimientos

Embed Size (px)

Citation preview

Page 1: TUTORES VIRTUALES INTELIGENTES: UN … · Laboratorio de Enseñanza Virtual, Facultad de Ciencias Exactas, Físicas y Naturales de la ... solo es necesario desarrollar los conocimientos

TUTORES VIRTUALES INTELIGENTES: UN ESTRATEGIA DE MEJORA DEL RENDIMIENTO ACADÉMICO EN INGENIERIA.

Laura Díaz, Carlos Bartó

[email protected], [email protected]

Laboratorio de Enseñanza Virtual, Facultad de Ciencias Exactas, Físicas y Naturales de la

Universidad Nacional de Córdoba

Tipo de trabajo: Informe –parcial- de investigación

Eje temático: ¿Cómo seleccionar, diseñar y desarrollar un ambiente educativo con tecnologías

digitales?: Entornos virtuales de aprendizaje.

Resumen: El objetivo de esta presentación es mostrar los avances en una de las dimensiones

del proyecto de investigación: Sistemas Tutores Inteligentes aplicados a la Enseñanza de la

Programación en Ingeniería, que desarrolla actualmente un equipo de Docentes Investigadores

en la Facultad de Ciencias Exactas, Físicas y Naturales de la Universidad Nacional de

Córdoba. Su finalidad consiste en mejorar el rendimiento académico de los estudiantes de

Programación en Ingeniería. Se muestran los procesos y resultados de las acciones tendientes

a incorporar estos Sistemas Virtuales como estrategia para la retroalimentación en la

enseñanza y en las instancias de evaluación. Se desarrollan sugerencias para el rumbo de la

investigación y se destacan los hallazgos más significativos.

Abstract: The aim of this presentation is to show the progress of the research project in one of its

dimensions: Intelligent Tutoring Systems Applied to the Teaching of Programming Engineering,

currently being developed by a team of researchers at the Faculty of Exacts, Physical and

Natural Sciences of the National University of Cordoba. Its purpose is to improve the academic

performance of students of programming for engineering. It shows the processes and outcomes

of actions to incorporate these virtual systems as a strategy for feedback on teaching and

assessment bodies. Finally, we developed suggestions to guide the research and highlight the

most significant findings.

Palabras clave: Sistema inteligente – Tutor Virtual - Rendimiento Académico – Enseñanza de

Programación - Ingeniería RU

EDA

- 6°

Sem

inar

io In

tern

acio

nal

Men

doza

- O

ctub

re 2

013

Page 2: TUTORES VIRTUALES INTELIGENTES: UN … · Laboratorio de Enseñanza Virtual, Facultad de Ciencias Exactas, Físicas y Naturales de la ... solo es necesario desarrollar los conocimientos

INTRODUCCION

Esta presentación es parte de un proyecto que se desarrolla actualmente en la Facultad

de Ciencias Exactas, Físicas y Naturales de la Universidad Nacional de Córdoba. Ha sido

acreditado por la Secretaría de Investigación y en Ciencia y Tecnología de esta Universidad

para el periodo 2012-2013.

El eje central consiste en la utilización de sistemas tutores inteligentes y aplicaciones

con robots para la enseñanza de Programación en Ingeniería.

Atento a los procesos de acreditación de CONEAU, este proyecto es parte de un

compromiso tomado para el fortalecimiento en acciones de Investigación para la carrera de

Ingeniería en Computación. Por otra parte, es una línea de investigación que atiende tanto a la

formación de docentes, investigadores y alumnos como a las deficiencias en el rendimiento

académico de los estudiantes de las carreras de Ingeniería.

Las acciones que se vienen realizando, incluso con anterioridad a su vigencia, se

orientan a investigación, transferencia y evaluación en la aplicación de Tecnologías de

Información y Comunicación como herramientas soporte para la enseñanza presencial de

grado. Desde 2006, en el marco del Programa para el Mejoramiento de la Enseñanza en

Ingeniería, la adquisición de un importante volumen de recursos informáticos alentó este

escenario.

Descripción del Problema

La mejora en infraestructura informática e incorporación de TIC’S como soporte a las

clases presenciales, evidenció ser insuficiente para lograr una mejora en los indicadores de

rendimiento académico en cursos de Introducción a la Programación. En investigaciones

actuales (Yadin, 2011) se destacan acciones que mejoran estos indicadores. Éstas atendieron

aspectos asociados a la problemática de la incorporación de un lenguaje formal y a los

procesos de abstracción necesarios en los mismos. Otras investigaciones han tratado de hallar

soluciones alrededor de las ideas de Piaget y de la psicología cognitiva para el aprendizaje de

los principios fundamentales de la programación, sin embargo, se observaron dificultades para

alcanzar el cambio conceptual deseado en estos cursos (Carretero, 2005) .

RU

EDA

- 6°

Sem

inar

io In

tern

acio

nal

Men

doza

- O

ctub

re 2

013

Page 3: TUTORES VIRTUALES INTELIGENTES: UN … · Laboratorio de Enseñanza Virtual, Facultad de Ciencias Exactas, Físicas y Naturales de la ... solo es necesario desarrollar los conocimientos

Por otra parte, la detección temprana de las capacidades de los estudiantes para

obtener buenos rendimientos en el aprendizaje de la programación ha sido reflejado como

factor significativo en (Dehnadi y Bornat, 2006) y posteriormente en (Dehnadi y Bornat, y

Hamilton, 2008).

La tendencia universal, revela que la gran dificultad reside en la naturaleza formal de los

lenguajes de programación, que los distancia de los lenguajes naturales y su enseñanza.

A partir de la teoría de Los Modelos Mentales (Johnson-Laird, 1993) los autores

diseñan un experimento mediante pruebas que ponen de manifiesto todos los posibles modelos

que pueden generarse y los categorizan, demostrando que las dificultades para el cambio de

concepciones erróneas hacen casi inútil la idea de un aprendizaje basado en la comprensión

formal.

Los modelos mentales de los estudiantes no son equivalentes a los modelos

conceptuales, propios de la enseñanza de los conocimientos científicos, y aun cuando guardan

una gran relación con ellos, resulta muy difícil construir relaciones entre ambos tipos de

modelos.

En los cursos de Programación se observó que, si bien el conocimiento previo de lógica

formal puede utilizarse como predictor del éxito académico, el escaso desempeño sistemático

en las evaluaciones que manifiestan los estudiantes los desalientan luego a continuar con sus

estudios (Bartó, 2010)

Las evaluaciones permanentes sobre la comprensión de textos escritos en el lenguaje

Python o C++ y la posterior evaluación de traducciones de la solución de un problema dado

como especificaciones en un castellano técnico al lenguaje de programación, han producido

algunas mejoras en los cursos de programación (Cebollada y Verdaguer, Eschoyez y Bartó,

2010) .

Sin embargo, la falta de mejoras significativas en los resultados, se ponen de manifiesto

en los indicadores de rendimiento académico en estos cursos (Díaz, Algorry y Natali, 2011),

En este proyecto de investigación se propuso como objetivo general atender la

problemática descripta. RU

EDA

- 6°

Sem

inar

io In

tern

acio

nal

Men

doza

- O

ctub

re 2

013

Page 4: TUTORES VIRTUALES INTELIGENTES: UN … · Laboratorio de Enseñanza Virtual, Facultad de Ciencias Exactas, Físicas y Naturales de la ... solo es necesario desarrollar los conocimientos

Se investigaron herramientas orientadas al desarrollo de STI, de ellas se seleccionaron

aquellas que permiten elaborar tutores virtuales inteligentes sin la necesidad de una

programación de bajo nivel, ya que algunas están disponibles como servicios web y otras se

pueden instalar en la plataforma Moodle. En los sistemas seleccionados como SIETTE

(Guzmán, Conejo y Pérez de la Cruz, 2007), solo es necesario desarrollar los conocimientos del

tutor en lenguajes de alto nivel y relacionar las evaluaciones con una adecuada realimentación.

La Hipótesis planteada en el Proyecto de Investigación expresa que el bajo rendimiento

académico de los estudiantes de Ingeniería en el aprendizaje de la programación de

computadoras, se puede mejorar mediante el uso combinado de dos herramientas:

• Los Sistemas Tutores Inteligentes que detectan modelos mentales erróneos y que vía

retroalimentación guían al estudiante en la construcción de modelos conceptuales

correctos.

• La programación de robots por parte de los estudiantes para motivarlos en el proceso de

aprendizaje en la acción concreta.

El objetivo general del proyecto consiste en mejorar el rendimiento académico en cursos de

programación de computadores de alumnos de Ingeniería, utilizando herramientas de la

inteligencia computacional y de la robótica.

De los objetivos específicos, aquellos que se refieren a esta presentación son:

1. Detectar modelos mentales entre los estudiantes de los cursos de programación en

Ingeniería utilizando herramientas de inteligencia computacional.

2. Desarrollar modelos conceptuales para los Sistemas Tutores Inteligentes.

3. Implementar los Sistemas Tutores Inteligentes y evaluar su impacto en el rendimiento

académico de los estudiantes.

4. Formar Recursos Humanos para facilitar la incorporación de STI en otros cursos de

Programación.

Se propusieron las siguientes tareas y experimentos, orientadas al logro de los objetivos: RU

EDA

- 6°

Sem

inar

io In

tern

acio

nal

Men

doza

- O

ctub

re 2

013

Page 5: TUTORES VIRTUALES INTELIGENTES: UN … · Laboratorio de Enseñanza Virtual, Facultad de Ciencias Exactas, Físicas y Naturales de la ... solo es necesario desarrollar los conocimientos

1. Determinación de modelos mentales de aprendizaje, entre los estudiantes de cursos de

programación de Ingeniería, a partir de información disponible de las cursadas 2010-2011,

usando redes neuronales como herramienta para detectar patrones.

2. Elaboración de la ontología de base para la enseñanza de la programación y producción

de las reglas de restricciones para construir el mapa conceptual de la asignatura.

3. Puesta a punto y prueba del STI con estudiantes de 2013, validando los resultados

obtenidos mediante la comparación con STI basado en teorías de prueba.

5. Análisis de los resultados de los diferentes experimentos mediante herramientas

estadísticas que permitan analizar el impacto en el rendimiento de las diferentes estrategias

por separado y también de su acción conjunta, para lo cual se diseñan diferentes grupos de

aplicación y control.

La concreción de este proyecto permitiría:

Abordar la difícil problemática de la falta de rendimiento de los estudiantes universitarios de

primer año que cursan las carreras de ingeniería y en particular los que cursan la asignatura

Informática.

Evitar el abandono temprano de las carreras de ingeniería como consecuencia de las

dificultades cognitivas experimentadas con el aprendizaje de la programación de

computadoras.

Disponer experiencia con las tecnologías de Sistemas Tutores Inteligentes como base para

el desarrollo de nuevas herramientas mediante trabajos finales de la carrera de Ingeniería

en Computación.

Difundir el uso de los Sistemas Tutores Inteligentes en la comunidad educativa de las

ingenierías como un modo de abordar la masividad, la falta de conocimientos básicos de los

ingresantes y facilitar la inserción de la educación mediada por las TIC.

Lograr aproximaciones que tiendan a identificar patrones de comportamiento asociados al

rendimiento académico es una instancia importante para el desarrollo o aplicación de tutores

inteligentes en plataformas virtuales (TIV). Incluso es útil para detectar y validar los modelos

mentales erróneos a incorporar en los TIV para su entrenamiento. RU

EDA

- 6°

Sem

inar

io In

tern

acio

nal

Men

doza

- O

ctub

re 2

013

Page 6: TUTORES VIRTUALES INTELIGENTES: UN … · Laboratorio de Enseñanza Virtual, Facultad de Ciencias Exactas, Físicas y Naturales de la ... solo es necesario desarrollar los conocimientos

Los objetivos de esta comunicación se refieren específicamente a la incorporación del

Sistema Tutor Inteligente SIETTE. Estas acciones constituyen los primeros avances hacia la

estrategia de enseñanza centrada en la retroalimentación, aplicando Sistemas Inteligentes en

los procesos de Aprendizaje y Evaluación de Programación en Ingeniería.

Se excluyen los avances en relación con la predicción del rendimiento académico utilizando

redes neuronales como así también la detección de patrones de aprendizaje. Ambas son objeto

de tratamiento durante el segundo cuatrimestre del año en curso.

DESARROLLO

Como ya se dijo, este equipo de investigación considera que el problema central para

mejorar el rendimiento académico consiste en las dificultades para alcanzar el cambio

conceptual deseado en los estudiantes de estos cursos (Carretero, M: 2005), la detección

temprana de las capacidades de los estudiantes en el aprendizaje de la programación es un

factor significativo (Dehnadi, S. y Bornat, R: 2006) y es posible categorizar los Modelos

Mentales (MME) de los estudiantes -como en (Johnson-Laird, P: 1993)- mediante el uso de

técnicas experimentales. Además, en (Bartó, C: 2010) se observa que, si bien el conocimiento

previo de lógica formal puede utilizarse como predictor del éxito académico, el bajo desempeño

sistemático en las evaluaciones que manifiestan los estudiantes los desalienta a continuar.

Esta realidad es el puntapié inicial en el sentido de recorrer la distancia entre Modelos

Mentales de los estudiantes y Modelos Conceptuales de los cursos de Informática para facilitar

el uso de Sistemas Tutores Inteligentes (STI), con los cuales se espera lograr una adecuada

realimentación semántica y un medio para poner en evidencia el conflicto, usando como base

los modelos cognitivos (Koedinger, Kenneth: 2001).

El rendimiento académico se puede mejorar a través de STI que detectan modelos mentales

erróneos y que vía retroalimentación guían al estudiante en la construcción de modelos

conceptuales correctos.

Primera Etapa: Detección de los modelos mentales de los estudiantes de Programación

Durante el 2012 se llevaron a cabo las acciones necesarias para conocer los posibles errores

RU

EDA

- 6°

Sem

inar

io In

tern

acio

nal

Men

doza

- O

ctub

re 2

013

Page 7: TUTORES VIRTUALES INTELIGENTES: UN … · Laboratorio de Enseñanza Virtual, Facultad de Ciencias Exactas, Físicas y Naturales de la ... solo es necesario desarrollar los conocimientos

a cometer por los estudiantes, es decir sus MM erróneos, y así poder generar respuestas que lo

guíen hacia el conocimiento acertado, esto es hacia el modelo conceptual de la materia.

La estrategia para detectar los MM consistió en separar un grupo de estudiantes o muestra

testigo (ellos no tenían conocimiento de esa situación) a los cuales se les asignaron algunas

preguntas en particular con la finalidad de explorar en profundidad cada familia de respuestas y

así detectar los MM erróneos.

Esta información alimentaría la base de conocimiento del Sistema Tutor Inteligente SIETTE y

además se utilizaría para mejorar la retroalimentación el sistema de evaluación automático en la

plataforma MOODLE.

El Proceso de acreditación de la asignatura consta de tres partes: las Evaluaciones

Conceptuales, la Especificación de Algoritmo y los Trabajos Prácticos. Las dos últimas no son

objeto de incorporación a SIETTE.

Las Evaluaciones Conceptuales, adaptables a SIETTE, estaban organizadas en veinte

ítems distribuidos en siete test que se aplicaban a lo largo del desarrollo de la asignatura. Los

contenidos abarcaban todos los aspectos conceptuales desarrollados. Alcanzar un mínimo de

sesenta por ciento era la condición excluyente para la acreditación.

Se eligió un grupo de individuos para formar el Grupo B, de 136 alumnos que equivale al

25% de 546 alumnos distribuidos en ocho comisiones, ocho docentes, tres bandas horarias de

dictado, todas las carreras de Ingeniería que cursan la asignatura durante el primer cuatrimestre

con el lenguaje Python como herramienta de aprendizaje. El 75% de alumnos restantes

constituyó lo que en adelante se denomina Grupo A.

Al Grupo B se le aplicó un único instrumento evaluador para cada EC y cada ítem,

extraído del banco de preguntas mencionado. Al finalizar la cursada se contaba con los

resultados de todas las instancias de evaluación para ambos grupos.

Con esos resultados se llevaron a cabo dos líneas de acción necesarias: la detección de

los modelos mentales de los estudiantes y el análisis confirmatorio mediante test de hipótesis

entre las preguntas seleccionadas para el Grupo B y el Grupo A con el fin de validar los MME

detectados para los conceptos involucrados.

La primera tarea fue realizada por expertos, docentes e investigadores de nuestro

equipo de trabajo, e implicó un gran esfuerzo para comprender los procesos de argumentación

que conducían a dar esas respuestas. Se propuso detectar para cada una, no más de cuatro

MME. Se analizaron las respuestas abiertas que los alumnos del Grupo B daban a cada ítem. RU

EDA

- 6°

Sem

inar

io In

tern

acio

nal

Men

doza

- O

ctub

re 2

013

Page 8: TUTORES VIRTUALES INTELIGENTES: UN … · Laboratorio de Enseñanza Virtual, Facultad de Ciencias Exactas, Físicas y Naturales de la ... solo es necesario desarrollar los conocimientos

Gr B Gr Ct X cuadrada

EC Item p=X/n p=X/n

1 1 0,70 0,60 -0,002 0,202 5,74 ok

1 2 0,43 0,56 0,026 0,243 9,55 dpi

2 3 0,01 0,41 0,340 0,446 109,82 dpi/dbp

2 4 0,54 0,54 -0,102 0,103 0,01 ok

2 5 0,57 0,60 -0,075 0,128 0,35 ok

3 6 0,83 0,45 0,284 0,466 72,07 dpi

3 7 0,85 0,27 0,503 0,671 187,98 dpi/rediseño

3 8 0,47 0,56 -0,020 0,205 4,13 ok

4 9 0,16 0,34 0,090 0,264 19,48 dpi/dbp

4 10 0,27 0,24 -0,061 0,133 0,76 rediseño

4 11 0,11 0,12 -0,059 0,080 0,06 rediseño

5 12 0,27 0,44 0,071 0,270 16,36 dpi/dbp

5 13 0,69 0,46 0,132 0,336 30,11 dpi

5 14 0,29 0,40 0,007 0,208 6,54 dpi/dbp

6 15 0,65 0,41 0,139 0,355 30,89 dpi

6 16 0,39 0,30 -0,018 0,200 4,53 ok

6 17 0,43 0,38 -0,059 0,163 1,27 ok

7 18 0,59 0,57 -0,090 0,138 0,20 ok

7 19 0,43 0,41 -0,094 0,135 0,14 ok

7 20 0,77 0,59 0,083 0,286 17,24 dpi

RESULTADOS EVALUACIONES CONCEPTUALES 1-2012

DecisionesInterv conf 99%

Dif entre proporc

Se buscaron respuestas repetidas y además que el modelo mental fuese comprensible. En el

65% de los casos fue posible interpretar al menos cuatro MME. Surgió la necesidad de recrear

varios, apelando para ello a la experiencia que los docentes han adquirido en las observaciones

realizadas a los alumnos durante el desarrollo de las clases y en las evaluaciones parciales y

finales. Por último, se redactó para cada ítem y cada MME, una explicación conducente a

destacar el proceso de argumentación errónea detectado. Esto para alimentar la base de

conocimiento necesaria en la retroalimentación de las evaluaciones automáticas.

El procesamiento estadístico, atendiendo al tipo de variable utilizado en el calificador de

Moodle, se realizó mediante un test de hipótesis de diferencia entre proporciones y una prueba

Chi Cuadrada como respaldatoria del primero. Sólo el 40% del total de preguntas superó el

análisis de aptitud para posibilitar la continuidad de las acciones durante 2013.

En la tabla 1 se muestra un resumen del procesamiento estadístico; indicándose en

fondo verde, amarillo y gris en función de los resultados obtenidos.

Tabla 1: Las decisiones

tomadas corresponden a ok:

apto; dpi: descartar para

investigación, dpb: descartar

del banco de preguntas,

rediseño: rehacer.

Sin embargo, cuando se comenzaron a implementar las acciones definidas en este

análisis confirmatorio, los hallazgos observados obligaron a rectificar el rumbo una vez más.

Entre otros, y solo a modo de ejemplo, la pregunta correspondiente al ítem 3 del Grupo B se

relaciona con un concepto distinto de la del Grupo A. Ello en razón de que en Moodle no se

Test estadístico: rechazo

Estadísticmente bueno

Aceptable, puede rechazarse

RU

EDA

- 6°

Sem

inar

io In

tern

acio

nal

Men

doza

- O

ctub

re 2

013

Page 9: TUTORES VIRTUALES INTELIGENTES: UN … · Laboratorio de Enseñanza Virtual, Facultad de Ciencias Exactas, Físicas y Naturales de la ... solo es necesario desarrollar los conocimientos

sorteó la del B al barajar las preguntas para el segundo grupo. Situaciones como éstas y

similares, llevaron a la conclusión de la necesidad de rediseñar el banco de preguntas, acción

que se desarrolló para ser aplicado durante el primer cuatrimestre del presente año. Las

preguntas relativas a los 8 ítems que superaron el análisis confirmatorio se preservaron, en

tanto fue posible, para ser reusadas en la nueva organización.

Se conformaron siete test con nueve preguntas de opción múltiple cada uno

distruibuidos en conceptos locales a lo largo del desarrollo del programa de la asignatura.

La información proveniente del análisis de los MME se utilizó en el nuevo diseño tanto

para construir la base conocimiento de SIETTE como para la retroalimentación automática en

Moodle (Díaz, Marangunic, Bartó: 2013)

Segunda Etapa: Evaluaciones de opción múltiple primer cuatrimestre 2013 La siguiente etapa consistió en aplicar evaluaciones de opción múltiple cuyas

respuestas se adecuen a los MME detectados. De este modo se pretendía lograr dos objetivos

fundamentales consecuentes con la implementación exitosa de STI: la retroalimentación del

estudiante durante los procesos de evaluación y la provisión de datos para detectar

automáticamente, mediante Redes Neuronales Artificiales, patrones asociados a los MME y al

rendimiento académico.

En este último sentido, la implementación de una RNA con aprendizaje no supervisado

del tipo Kohonen, se estima que permitirá la detección de patrones de aprendizaje y además

relacionarlos con el rendimiento académico de los estudiantes. Se espera contar con avances

en esta dirección hacia fines de 2013.

El tutor inteligente SIETTE cuenta con un módulo para la evaluación con TAI. Con este tutor

los profesores pueden definir sus tests y los estudiantes pueden tomarlos on-line. Los test se

generan con las especificaciones definidas por el profesor y se adaptan, esto implica que las

preguntas son elegidas inteligentemente para ajustar el nivel de conocimiento del estudiante.

SIETTE, a través de las denominadas curvas características del ítem –CCI-, considera tres

parámetros: a -índice de discriminación-, b-grado de dificultad del ítem- y c -probabilidad de

acertar al azar-. Estos valores se calculan a partir de los datos obtenidos al aplicar los ítems a

una muestra amplia y representativa de estudiantes (Conejo, R., Guzmán, E., Millán E. y otros:

2004).

El índice de discriminación es un valor proporcional a la pendiente de la curva. Un valor alto RU

EDA

- 6°

Sem

inar

io In

tern

acio

nal

Men

doza

- O

ctub

re 2

013

Page 10: TUTORES VIRTUALES INTELIGENTES: UN … · Laboratorio de Enseñanza Virtual, Facultad de Ciencias Exactas, Físicas y Naturales de la ... solo es necesario desarrollar los conocimientos

indica que la probabilidad de que un alumno con un rasgo latente estimado mayor que la

dificultad del ítem acierte es mayor. Cuanto más discriminante es un ítem mejor contribuye a

una estimación más precisa del conocimiento del alumno.

El grado de dificultad corresponde al valor para el cual la probabilidad de responder

correctamente al ítem es la misma que de responder de forma incorrecta, descontando el factor

de adivinanza. Analíticamente representa el grado en el que la curva está desplazada a la

izquierda (tendencia a la facilidad) o a la derecha (tendencia a la dificultad) con respecto al eje

de abscisas.

El tercero representa la probabilidad de que un alumno sin conocimiento ninguno responda

correctamente a la pregunta. Mediante este parámetro el modelo contempla el caso en el que

un alumno responde de forma aleatoria al ítem y acierta.

Las Evaluaciones Conceptuales, adaptables a SIETTE, están organizadas actualmente en

sesenta y tres ítems de igual peso, materializados en preguntas de tipo opción múltiple,

distribuidos en siete test que se aplican a lo largo del desarrollo de la asignatura, con lo cual es

posible la retroalimentación para el aprendizaje. Los contenidos abarcan todos los aspectos

conceptuales desarrollados..

A partir de los modelos mentales erróneos de los estudiantes, detectados en el primer

cuatrimestre 2012, se diseñó el modelo de preguntas a utilizar tanto en SIETTE como en

MOODLE.

Los objetivos perseguidos en esta etapa fueron:

1° Poner a punto el funcionamiento de SIETTE para la asignatura, aplicando evaluaciones de

tipo opción múltiple sobre un grupo piloto de alumnos elegidos al azar entre los que cursan

Informática.

2° Alimentar la base de conocimiento del STI para la calibración de las Curvas

características de Respuesta al Ítem (CCI).

3° Explorar acerca de la factibilidad del diseño de un proceso de construcción de estas

curvas para ser incorporadas a la plataforma MOODLE dado su mejor accesibilidad ya que la

administración en este caso se realizaría desde un servidor local.

RU

EDA

- 6°

Sem

inar

io In

tern

acio

nal

Men

doza

- O

ctub

re 2

013

Page 11: TUTORES VIRTUALES INTELIGENTES: UN … · Laboratorio de Enseñanza Virtual, Facultad de Ciencias Exactas, Físicas y Naturales de la ... solo es necesario desarrollar los conocimientos

4° Analizar la viabilidad de interpretar a los modelos mentales a través de análisis bayesiano

utilizando CCI como las que se vienen utilizando para los modelos conceptuales de los ítems

evaluados en los siete test que componen el track de Evaluaciones Conceptuales de la

asignatura.

5° Detectar automáticamente, mediante Redes Neuronales Artificiales, patrones asociados a

los MME y al rendimiento académico de los estudiantes.

Metodología propuesta: Para llevar a cabo los objetivos fue necesario diseñar y aplicar los nuevos instrumentos para

las evaluaciones conceptuales tanto en SIETTE como en MOODLE. Se estructuraron las siete

evaluaciones con nueve ítems cada una, atendiendo a la discriminación del libro de texto,

como se indicó anteriormente. Las preguntas se diseñaron con cinco opciones de respuestas,

cuatro de ellas correspondían a los modelos mentales. Para ambas plataformas se diseñaron

las preguntas con retroalimentación conforme a los MME, con lo cual se pretendía dar al

estudiante una explicación de sus conceptos erróneos, facilitando así la disminución de la

brecha entre el modelo conceptual y su modelo mental.

Esta tarea se llevó a cabo con todos los integrantes de este equipo de trabajo, lo que implicó

la preparación de sesenta y tres semillas que alimentaron al generador wgen (Cebollada y

Verdaguer, 2013) que construye las instancias de preguntas diferentes a partir del producto

cartesiano resultante de las combinaciones de valores de variables definidas por el usuario en

cada semilla. Se generan alrededor de 30 preguntas promedio, conceptualmente iguales, con

diferentes valores de entrada y salida. La finalidad consiste en enfrentar a los estudiantes a

evaluaciones del mismo tipo y nivel de complejidad, para los mismos conceptos, con idénticos

modelos mentales erróneos pero con valores diferentes.

Se definió el tamaño de la muestra en alrededor del 10% del universo de alumnos del primer

cuatrimestre para formar el grupo testigo. Se eligieron al azar los alumnos entre seis de las

nueve comisiones de la asignatura.

Se aplicaron cada una de las evaluaciones conceptuales simultáneamente sobre el grupo

testigo (SIETTE) y sobre el grupo control (MOODLE) conformado por los demás estudiantes,

alrededor de cincuenta estudiantes para el primero y quinientos para el segundo. RU

EDA

- 6°

Sem

inar

io In

tern

acio

nal

Men

doza

- O

ctub

re 2

013

Page 12: TUTORES VIRTUALES INTELIGENTES: UN … · Laboratorio de Enseñanza Virtual, Facultad de Ciencias Exactas, Físicas y Naturales de la ... solo es necesario desarrollar los conocimientos

Se realizó el análisis estadístico siguiendo los mismos lineamientos considerados en el

periodo 2012 con la finalidad de validar la representatividad de los ítems aplicados en SIETTE

en relación con los homólogos en MOODLE.

Se determinaron los tres parámetros de las curvas características para cada uno de los

ítems, tanto para SIETTE como para MOODLE considerando en esta primera aproximación al

nivel de habilidad o rasgo latente como la calificación obtenida en el test. Actualmente se está

trabajando en la puesta a punto del algoritmo de calibración de las curvas características. Estos

resultados se utilizarán para aplicar TAI en SIETTE. Se habrá alcanzado uno de los grandes

objetivos del proyecto de investigación: incorporar evaluaciones inteligentes en esta asignatura.

Se muestran los resultados de CCI de SIETTE , para la Evaluación Conceptual 7

RESULTADOS Y HALLAZGOS:

El primer hallazgo significativo se refiere al objetivo central del proyecto de investigación,

del cual esta comunicación es parte: mejorar el rendimiento académico de los estudiantes de

programación en esta Unidad Académica y con ello disminuir la deserción y el desgranamiento

de los alumnos de primer año que se ven desalentados para continuar. RU

EDA

- 6°

Sem

inar

io In

tern

acio

nal

Men

doza

- O

ctub

re 2

013

Page 13: TUTORES VIRTUALES INTELIGENTES: UN … · Laboratorio de Enseñanza Virtual, Facultad de Ciencias Exactas, Físicas y Naturales de la ... solo es necesario desarrollar los conocimientos

Implementar evaluaciones de opcción múltiple con retroalimentación significó una mejora en

más de un 20% del porcentaje de alumnos regulares con respecto al año anterior.

Con respecto al primer objetivo de esta comunicación, detectar modelos mentales entre

los estudiantes de los cursos de programación en Ingeniería utilizando herramientas de

inteligencia computacional, si bien no fue posible llevarlo a cabo con las herramientas

mencionadas, el trabajo de los expertos posibilitó el logro del objetivo. Además, la información

ahora disponible se utilizará para aplicar Redes Neuronales Artificiales.

El grado de avance del segundo objetivo, desarrollar modelos conceptuales para los

Sistemas Tutores Inteligentes, se estima actualmente en un 70%, con lo cual se espera que

hacia fines de 2013 esté concluido.

El tercero, Implementar los Sistemas Tutores Inteligentes y evaluar su impacto en el

rendimiento académico de los estudiantes, si bien incipiente, ya tiene sus primeros logros

significativos.

Por último, en relación con la Formación de Recursos Humanos para facilitar la

incorporación de STI en otros cursos de Programación, se han realizado talleres en las

Jornadas PROED en marzo de 2013, habiendo además otras acciones previstas de

capacitación.

BIBLIOGRAFIA

Bartó, Carlos A. (2010): Competencias Básicas necesarias para el desempeño en la materia de

Informática. IV JORNADAS DE INTERCAMBIO SOBRE ENSEÑANZA DE LA INGENIERÍA.

Educación por competencias en los primeros años de las Carreras de Ingeniería-Facultad de

Ciencias Exactas Físicas y Naturales – UNC -14 de diciembre de 2010.

Carretero, Mario y otros (2005): Introducción a la psicología cognitiva. Aiqué Grupo Editor. 2005.

Cebollada y Verdaguer, Marcelo; Eschoyez, Maximiliano y Bartó, Carlos (2010): Educación

Continua para Cursos Masivos: Un Software Basado en Web para Crear Preguntas para

Moodle. IV JORNADAS DE INTERCAMBIO SOBRE ENSEÑANZA DE LA INGENIERÍA.2010.

Cebollada y Verdaguer, M., “Generador de ejercicios sobre web para la enseñanza de la programación, basados en evaluación objetiva y respuesta corta para el LMS MOODLE”. I Jornadas Nacionales, III Jornadas de la UNC, Experiencias e Investigación en Educación a Distancia y Tecnología Educativa, PROED, 2013.

RU

EDA

- 6°

Sem

inar

io In

tern

acio

nal

Men

doza

- O

ctub

re 2

013

Page 14: TUTORES VIRTUALES INTELIGENTES: UN … · Laboratorio de Enseñanza Virtual, Facultad de Ciencias Exactas, Físicas y Naturales de la ... solo es necesario desarrollar los conocimientos

Dehnadi, Saeed y Bornat, Richard. (2006): The camel has two humps (working title). School of

Computing. Middleessex University, UK.

Díaz, L., Marangunic, R., Bartó, C., “Hacia La Detección De Los Modelos Mentales De Los Estudiantes De Programación”. I Jornadas Nacionales, III Jornadas de la UNC, Experiencias e Investigación en Educación a Distancia y Tecnología Educativa, PROED, 2013.

Díaz, Laura, Algorry, Aldo y Natali Osvaldo (2011): Las TIC’S en Educación Superior: Su

Impacto en la Mejora de la Enseñanza para las Carreras de Ingeniería. JORNADAS IRAM

UNIVERSIDADES. Universidad Nacional de La Plata. Noviembre de 2011.

Guzmán, Eduardo; Conejo, Ricardo; y Pérez de la Cruz, José Luis (2007): Improving Student

Performance Using Self-Assessment Tests. IEEE Intelligent Systems, Vol. 22, No 4, Ago 2007.

Johnson-Laird, Phillip N. (1993): Mental Models, Deductive Reasoning, and the Brain.

Department of Psychoogy, University of Princeton. N. J. U.S.A.

Koedinger, Kenneth R. (2001): Cognitive Tutors as Modeling Tools and Instructional Models.

Capítulo 5 en Smart Machines in Education, Kenneth D. Forbus y Paul J. Feltovich (eds.). AAAI

Press / MIT Press. 2001.

Yadin, Aharon (2011): Reducing the Dropout Rate in Introductory Programming Course. ACM

Inroads. Vol 2, No. 4, 2011.

RU

EDA

- 6°

Sem

inar

io In

tern

acio

nal

Men

doza

- O

ctub

re 2

013

Page 15: TUTORES VIRTUALES INTELIGENTES: UN … · Laboratorio de Enseñanza Virtual, Facultad de Ciencias Exactas, Físicas y Naturales de la ... solo es necesario desarrollar los conocimientos

RU

EDA

- 6°

Sem

inar

io In

tern

acio

nal

Men

doza

- O

ctub

re 2

013