53
Ključne aktivnosti i rezultati projekta „Razvoj završnih ispita na kraju obrazovnih ciklusa” Natalija Gjeri Robić, stručna savjetnica Istraživačko-razvojni odjel Nacionalni centar za vanjsko vrednovanje obrazovanja Zagreb, 8. prosinca 2015. Završna konferencija projekta „Razvoj završnih ispita na kraju obrazovnih ciklusa”

Ključne aktivnosti i rezultati projekta „Razvoj završnih ...dokumenti.ncvvo.hr/Razvoj_ispita/2015-12-17/Kljucne_aktivnosti.pdf · za Engleski jezik 2 za Povijest 3 za Fiziku 2

  • Upload
    others

  • View
    4

  • Download
    0

Embed Size (px)

Citation preview

Page 1: Ključne aktivnosti i rezultati projekta „Razvoj završnih ...dokumenti.ncvvo.hr/Razvoj_ispita/2015-12-17/Kljucne_aktivnosti.pdf · za Engleski jezik 2 za Povijest 3 za Fiziku 2

Ključne aktivnosti i rezultati projekta „Razvoj završnih ispita na kraju obrazovnih ciklusa”

Natalija Gjeri Robić, stručna savjetnica Istraživačko-razvojni odjel

Nacionalni centar za vanjsko vrednovanje obrazovanja

Zagreb, 8. prosinca 2015. Završna konferencija projekta

„Razvoj završnih ispita na kraju obrazovnih ciklusa”

Page 2: Ključne aktivnosti i rezultati projekta „Razvoj završnih ...dokumenti.ncvvo.hr/Razvoj_ispita/2015-12-17/Kljucne_aktivnosti.pdf · za Engleski jezik 2 za Povijest 3 za Fiziku 2

Projekt Razvoj završnih ispita

• Svrha projekta

• Ciljevi i aktivnosti projekta

• Rezultati projekta

• Daljnja primjena rezultata projekta

Page 3: Ključne aktivnosti i rezultati projekta „Razvoj završnih ...dokumenti.ncvvo.hr/Razvoj_ispita/2015-12-17/Kljucne_aktivnosti.pdf · za Engleski jezik 2 za Povijest 3 za Fiziku 2

Svrha projekta

1. Kvaliteta ispitnih materijala? Valjanost i pouzdanost ispitnih rezultata?

2. Jesu li ispiti / ispitne inačice međusobno usporedive? Kako osigurati potpuno standardizirane ispite i usporedivost rezultata na različitim rokovima?

3. Procedura / metodologija izrade ispitnih materijala? Treba li se unaprijediti?

Do 2011. godine: • Centar je provodio vanjska vrednovanja učeničkih postignuća u osnovnim i

srednjim školama. • U odgojno – obrazovni sustav je uvedena državna matura.

> Potrebno je unaprijediti metodologiju razvoja ispita

Page 4: Ključne aktivnosti i rezultati projekta „Razvoj završnih ...dokumenti.ncvvo.hr/Razvoj_ispita/2015-12-17/Kljucne_aktivnosti.pdf · za Engleski jezik 2 za Povijest 3 za Fiziku 2

Svrha projekta

• Rezultati vanjskoga vrednovanja obrazovnih postignuća učenika, odnosno rezultati mjerenja učeničkoga znanja jedan su od važnih objektivnih indikatora kvalitete škole i obrazovanja u cjelini.

• Zbog važnosti koje vanjsko vrednovanje ima za učenike, škole i za obrazovni sustav, nužno je kontinuirano unaprjeđivati način ispitivanja učeničkoga znanja.

• Stoga je Centar odlučio razviti model ispitivanja prema suvremenim pristupima ispitivanju znanja, radi unaprjeđenja procesa vanjskoga vrednovanja.

U rujnu 2011. godine pokrenut je projekt Razvoj završnih ispita na kraju obrazovnih ciklusa koji je trajao do svibnja 2015. godine

Page 5: Ključne aktivnosti i rezultati projekta „Razvoj završnih ...dokumenti.ncvvo.hr/Razvoj_ispita/2015-12-17/Kljucne_aktivnosti.pdf · za Engleski jezik 2 za Povijest 3 za Fiziku 2

Ciljevi projekta

Opći cilj Projekta bio je:

• razviti model ispitivanja znanja na kraju obrazovnih ciklusa.

Specifični ciljevi bili su:

• razviti model i postupke ispitivanja prema suvremenim pristupima ispitivanju znanja: uporaba Teorije odgovora na zadatak (eng. Item Response Theory) u izradi i analizi ispita

• ispitati i procijeniti razine znanja učenika osmih razreda osnovnih škola iz predmeta: Hrvatski jezik, Engleski jezik, Povijest i Fizika.

Page 6: Ključne aktivnosti i rezultati projekta „Razvoj završnih ...dokumenti.ncvvo.hr/Razvoj_ispita/2015-12-17/Kljucne_aktivnosti.pdf · za Engleski jezik 2 za Povijest 3 za Fiziku 2

Glavne aktivnosti projekta

Sve aktivnosti Projekta bile su usklađene s postupcima razvoja i provedbe ispita, s obzirom na postavljene ciljeve Projekta.

To se odnosilo:

• na uporabu Teorije odgovora na zadatak u razvoju, analizi i interpretaciji ispita

• na razvoj i provedbu standardiziranih ispita iz četiri predmeta

• na izradu procedura razvoja ispita

Page 7: Ključne aktivnosti i rezultati projekta „Razvoj završnih ...dokumenti.ncvvo.hr/Razvoj_ispita/2015-12-17/Kljucne_aktivnosti.pdf · za Engleski jezik 2 za Povijest 3 za Fiziku 2

Glavne aktivnosti projekta

2011.

• Priprema okvira ispitivanja

• Izrada ispitnih specifikacija (sadržajne strukture i nacrti ispita)

2012.

• Narudžba, izrada i recenzije ispitnih zadataka

• Određivanje pragova pojedinih razina postignuća

• Izrada ispitnih inačica za probno ispitivanje

2013.

• Priprema i provedba probnoga ispitivanja zadataka (uzorak učenika i škola)

• Psihometrijske analize ispita/zadataka

• Izrada standardiziranih ispitnih inačica

2014.

• Priprema i provedba glavnoga ispitivanja (uzorak učenika i škola)

• Psihometrijske analize, obrada i prikaz rezultata

2015.

• Priprema i tisak završnog izvješća projekta s rezultatima ispitivanja

• Priprema dokumenta s procedurama i metodologijom izrade standardiziranih ispita

Page 8: Ključne aktivnosti i rezultati projekta „Razvoj završnih ...dokumenti.ncvvo.hr/Razvoj_ispita/2015-12-17/Kljucne_aktivnosti.pdf · za Engleski jezik 2 za Povijest 3 za Fiziku 2

Glavne aktivnosti projekta

• S obzirom na uvođenje novoga modela ispitivanja, važan su dio projekta bile i radionice i konzultacije

• Konzultant na projektu 2011. – 2013. > konzultantska kuća Assessment Group International (Brisel, Belgija)

niz predavanja i radionica za djelatnike Centra i vanjske suradnike u vezi razvoja ispita prema Teoriji odgovora na zadatak, te u vezi psihometrijskih analiza ispita u računalnome programu Parscale

18 cjelodnevnih tematskih radionica/sastanaka 95 radnih dana

Page 9: Ključne aktivnosti i rezultati projekta „Razvoj završnih ...dokumenti.ncvvo.hr/Razvoj_ispita/2015-12-17/Kljucne_aktivnosti.pdf · za Engleski jezik 2 za Povijest 3 za Fiziku 2

2011. godina

• Planiranje projekta i priprema okvira ispitivanja

• Okupljanje projektnog tima

• Okupljanje i edukacije skupina za razvoj ispita iz Hrvatskoga jezika, Engleskoga jezika, Povijesti i Fizike

Izrada ispitnih specifikacija (sadržajne strukture i nacrti ispita)

Page 10: Ključne aktivnosti i rezultati projekta „Razvoj završnih ...dokumenti.ncvvo.hr/Razvoj_ispita/2015-12-17/Kljucne_aktivnosti.pdf · za Engleski jezik 2 za Povijest 3 za Fiziku 2

Projektni tim

VODITELJSKI TIM PROJEKTA

voditeljica Projekta 1

koordinator Projekta 1

nadzor provedbe Projekta 2 (4)

ukupno 4 (6)

PREDMETNI KOORDINATORI

za Hrvatski jezik 1 (2)

za Engleski jezik 2

za Povijest 3

za Fiziku 2

ukupno 8 (9)

PSIHOMETRIJSKI KOORDINATORI

za Hrvatski jezik 1

za Engleski jezik 1 (2)

za Povijest 1

za Fiziku 1

ukupno 4 (5)

Page 11: Ključne aktivnosti i rezultati projekta „Razvoj završnih ...dokumenti.ncvvo.hr/Razvoj_ispita/2015-12-17/Kljucne_aktivnosti.pdf · za Engleski jezik 2 za Povijest 3 za Fiziku 2

Skupine za razvoj ispita

SKUPINE ZA RAZVOJ ISPITA

iz Hrvatskoga jezika 4 (3)

iz Engleskoga jezika 5

iz Povijesti 5

iz Fizike 5

Ukupno 19 (18)

Početak rada u studenom 2011. godine Edukacije skupina Izrada ispitnih specifikacija (sadržajne strukture i nacrti ispita)

Page 12: Ključne aktivnosti i rezultati projekta „Razvoj završnih ...dokumenti.ncvvo.hr/Razvoj_ispita/2015-12-17/Kljucne_aktivnosti.pdf · za Engleski jezik 2 za Povijest 3 za Fiziku 2

Izrada ispitnih specifikacija

Ispitna specifikacija sastoji se:

• od sadržajne strukture ispita koja predstavlja detaljan opis sadržaja ispitivanja i ishoda učenja

• od nacrta ispita koji specificira način ispitivanja sadržaja odnosno ishoda učenja definiranih sadržajnom strukturom ispita

• od proširenoga nacrta ispita kojim se specificira raspodjela ishoda učenja prema težini i razinama misaonoga procesa radi narudžbe ispitnih zadataka.

Ispitne specifikacije – prvi korak u razvoju ispitnih materijala i temelj za standardizaciju ispita / ispitnih inačica

Page 13: Ključne aktivnosti i rezultati projekta „Razvoj završnih ...dokumenti.ncvvo.hr/Razvoj_ispita/2015-12-17/Kljucne_aktivnosti.pdf · za Engleski jezik 2 za Povijest 3 za Fiziku 2

Sadržajna struktura ispita

Izrada sadržajnih struktura ispita Sadržajne strukture ispita izrađuju se na temelju predmetnog programa, tako da se

sadržaj programa/predmeta razrađuje prema razinama specifičnosti, od većeg sadržajnog područja do ishoda učenja kao najmanje razine specifičnosti sadržaja.

Ispitni zadatci izrađuju se na temelju ishoda učenja

Područje Podpodručje Sadržaj podpodručja

Ishod učenja

1 1.1. 1.1.1. 1.1.1.1.

1.1.2. 1.1.2.1.

Page 14: Ključne aktivnosti i rezultati projekta „Razvoj završnih ...dokumenti.ncvvo.hr/Razvoj_ispita/2015-12-17/Kljucne_aktivnosti.pdf · za Engleski jezik 2 za Povijest 3 za Fiziku 2

Nacrt ispita

Izrada nacrta ispita

• Vrste zadataka

• Broj zadataka / zastupljenost područja/podpodručja

• Vrijeme trajanja ispita s obzirom na broj i složenost zadataka

Područje Podpodručje Broj

zadataka - područje

Broj zadataka - podpodručje

Zastupljenost – područje (%)

Zastupljenost –podpodručje (%)

1 1.1.

1.2.

2 2.1.

2.2.

2.3.

Ukupno

> Važnost nacrta ispita – jednačenje ispitnih inačica prema sadržaju

Page 15: Ključne aktivnosti i rezultati projekta „Razvoj završnih ...dokumenti.ncvvo.hr/Razvoj_ispita/2015-12-17/Kljucne_aktivnosti.pdf · za Engleski jezik 2 za Povijest 3 za Fiziku 2

Prošireni nacrt ispita

• Specifikacija raspodjele ishoda učenja prema težini i razinama misaonoga procesa radi narudžbe ispitnih zadataka

• Potrebno izraditi najmanje 600 zadataka prema ishodima učenja pojedinih podpodručja za pojedini predmet

o Za probno ispitivanje potrebno osigurati oko 300 kvalitetnih zadataka, a ti se zadatci trebaju rasporediti u veći broj ispitnih inačica

• Početak pripreme ispitnih materijala za probno ispitivanje

Page 16: Ključne aktivnosti i rezultati projekta „Razvoj završnih ...dokumenti.ncvvo.hr/Razvoj_ispita/2015-12-17/Kljucne_aktivnosti.pdf · za Engleski jezik 2 za Povijest 3 za Fiziku 2

2012. godina

Priprema ispitnih materijala za probno ispitivanje

• Narudžba, izrada i recenzije ispitnih zadataka

• Postavljanje pragova za razine postignuća učenika

• Izrada ispitnih inačica za probno ispitivanje

• Izrada uzorka škola i učenika te organizacija i priprema za probno ispitivanje

Probno ispitivanje: ožujak 2013. godine

Page 17: Ključne aktivnosti i rezultati projekta „Razvoj završnih ...dokumenti.ncvvo.hr/Razvoj_ispita/2015-12-17/Kljucne_aktivnosti.pdf · za Engleski jezik 2 za Povijest 3 za Fiziku 2

2012. godina

Priprema ispitnih materijala za probno ispitivanje

• Jedna od ključnih aktivnosti u razvoju standardiziranih ispita – probno ispitivanje zadataka

• Cilj: dobiti mjerne karakteristike zadataka temeljem kojih se izrađuju standardizirane ispitne inačice najviše moguće kvalitete te poznatih mjernih karakteristika – potrebno izraditi veliki broj zadataka, a s obzirom na visoku

mogućnost odbacivanja zadataka nakon probnoga ispitivanja zbog nezadovoljavajućih mjernih karakteristika

Page 18: Ključne aktivnosti i rezultati projekta „Razvoj završnih ...dokumenti.ncvvo.hr/Razvoj_ispita/2015-12-17/Kljucne_aktivnosti.pdf · za Engleski jezik 2 za Povijest 3 za Fiziku 2

Narudžba, izrada i recenzije ispitnih zadataka

Promjene u proceduri/pristupu u razvoju ispita:

• Prikupljanje i probno ispitivanje velikog broja zadataka

• Potreba za većim brojem autora ispitnih zadataka

• Razdvajanje uloga: skupina za razvoj ispita/autori ispitnih zadataka

AUTORI ISPITNIH ZADATAKA

iz Hrvatskoga jezika 50

iz Engleskoga jezika 37

iz Povijesti 33

iz Fizike 32

ukupno 152

Page 19: Ključne aktivnosti i rezultati projekta „Razvoj završnih ...dokumenti.ncvvo.hr/Razvoj_ispita/2015-12-17/Kljucne_aktivnosti.pdf · za Engleski jezik 2 za Povijest 3 za Fiziku 2

Narudžba, izrada i recenzije ispitnih zadataka

• Kako prikupiti 2000 – 2500 zadataka u dva mjeseca?

• Kako pratiti veći broj autora ispitnih zadataka (narudžba, efikasnost, plaćanje)?

• Kako organizirati višestruke recenzije ispitnih zadataka?

Page 20: Ključne aktivnosti i rezultati projekta „Razvoj završnih ...dokumenti.ncvvo.hr/Razvoj_ispita/2015-12-17/Kljucne_aktivnosti.pdf · za Engleski jezik 2 za Povijest 3 za Fiziku 2

Narudžba, izrada i recenzije ispitnih zadataka

• sustav naručivanja, izrade i prikupljanja zadataka putem mrežne aplikacije prema ispitnim specifikacijama (ishodima učenja)

• sustav trostruke recenzije zadataka putem mrežne aplikacije, njihove dorade

• sustav praćenja zadataka i rada svih korisnika aplikacije

• finalizacija zadataka i ispitnih inačica za probno ispitivanje (lektura, dorada slika, izrada ispitnih inačica)

Sinergija s projektom razvoj Banke zadataka: Razvoj računalnih mrežnih aplikacija

Page 21: Ključne aktivnosti i rezultati projekta „Razvoj završnih ...dokumenti.ncvvo.hr/Razvoj_ispita/2015-12-17/Kljucne_aktivnosti.pdf · za Engleski jezik 2 za Povijest 3 za Fiziku 2

Narudžba zadataka

• Oko 600-800 zadataka po ispitu, prema sadržajnim strukturama/nacrtima ispita

• Narudžba putem aplikacijskog sustava (random dodjela)

• Ponovne narudžbe nakon recenzija ispitnih zadataka

Narudžba i izrada ispitnih zadataka

Page 22: Ključne aktivnosti i rezultati projekta „Razvoj završnih ...dokumenti.ncvvo.hr/Razvoj_ispita/2015-12-17/Kljucne_aktivnosti.pdf · za Engleski jezik 2 za Povijest 3 za Fiziku 2

Izrada i prikupljanje zadataka • 152 autora ispitnih zadataka • Mogućnost sudjelovanja nastavnika iz čitave Hrvatske • Samostalna izrada i slanje zadataka putem mrežne aplikacije • Automatiziran sustav plaćanja ispitnih zadataka s obzirom na broj

izabranih (prihvaćenih) zadataka nakon recenzije > transparentnost otkupa zadataka

Uspješnost u brzome prikupljanju velike količine zadataka i pratećih

podataka (težina, složenost zadataka, vrijeme potrebno za rješavanje zadataka) od velikoga broja autora preko internet pristupa

U tri tjedna prikupljeno oko 2100 zadataka za četiri predmeta

Narudžba i izrada ispitnih zadataka

Page 23: Ključne aktivnosti i rezultati projekta „Razvoj završnih ...dokumenti.ncvvo.hr/Razvoj_ispita/2015-12-17/Kljucne_aktivnosti.pdf · za Engleski jezik 2 za Povijest 3 za Fiziku 2

Izrada zadataka:

• Prema zadanim kriterijima za izradu i recenzije zadataka • Prema sadržajnome području i ishodu učenja • Prema težini zadatka i razini složenosti zadatka

• Dodatni naputak u slučaju da se zadatak izrađuje na temelju polaznoga

sadržaja • Dodatni naputak u slučaju da se zadatak izrađuje na temelju tematske

cjeline • Dodatni naputak u slučaju da zadatak sadrži tri čestice • Dokaz valjanosti točnog odgovora

Izrada ispitnih zadataka

Pripremljeni priručnici i upute za autore

Page 24: Ključne aktivnosti i rezultati projekta „Razvoj završnih ...dokumenti.ncvvo.hr/Razvoj_ispita/2015-12-17/Kljucne_aktivnosti.pdf · za Engleski jezik 2 za Povijest 3 za Fiziku 2

1. Sadržajna recenzija: skupina za razvoj ispita i predmetni koordinatori • Kriteriji za izradu zadataka • Razina težine zadatka • Razina složenosti zadatka • Dorade • Broj minuta potrebnih za rješavanje zadatka

2. Metodološka recenzija: psihometrijski koordinatori

• Kriteriji; prihvaćanje, odbacivanje, slanje na doradu

3. Završna sadržajna recenzija: dva nezavisna stručnjaka za svaki zadatak • Kriteriji; prihvaćanje, slanje na doradu • Prihvaćanje ili odbacivanje > lektura

Izrada aplikacijskog dijela za online recenzije zadataka (3 recenzije), modifikacije i dorade zadataka.

Recenzije ispitnih zadataka

Page 25: Ključne aktivnosti i rezultati projekta „Razvoj završnih ...dokumenti.ncvvo.hr/Razvoj_ispita/2015-12-17/Kljucne_aktivnosti.pdf · za Engleski jezik 2 za Povijest 3 za Fiziku 2

Narudžba, izrada i recenzije ispitnih zadataka

Page 26: Ključne aktivnosti i rezultati projekta „Razvoj završnih ...dokumenti.ncvvo.hr/Razvoj_ispita/2015-12-17/Kljucne_aktivnosti.pdf · za Engleski jezik 2 za Povijest 3 za Fiziku 2

Narudžba, izrada i recenzije ispitnih zadataka

• Naručeno – 2897 zadataka (između 676 i 823 po predmetu)

• Izrađeno – 2894 zadataka (između 676 i 822 po predmetu)

• Recenzirano u prvoj recenziji – 2894 zadataka (između 676 i 822 po predmetu)

• Recenzirano u drugoj recenziji – 1756 zadataka (između 379 i 559 po predmetu)

• Recenzirano u trećoj recenziji – 1692 zadatka (između 362 i 539 po predmetu)

• Prihvaćeno – 1532 zadatka (između 358 i 426 po predmetu)

Otpad zadataka od početne narudžbe do finalnoga prihvaćanja:

• od 47 % do 62 % za pojedine predmete

potvrđena početna procjena o potrebnome opsegu inicijalne narudžbe zadataka.

Page 27: Ključne aktivnosti i rezultati projekta „Razvoj završnih ...dokumenti.ncvvo.hr/Razvoj_ispita/2015-12-17/Kljucne_aktivnosti.pdf · za Engleski jezik 2 za Povijest 3 za Fiziku 2

Postavljanje pragova za razine postignuća učenika

• Rezultati se prikazuju na bodovnoj skali postignuća

• Ako se učenike želi klasificirati u određene kategorije prema uspjehu odnosno postignuću, potrebno je – definirati razine postignuća

– odrediti pragove za razine postignuća učenika (eng. standard setting).

U Projektu su korištene tri razine postignuća učenika za koje je trebalo odrediti pragove prolaznosti:

• osnovna

• srednja

• napredna.

Page 28: Ključne aktivnosti i rezultati projekta „Razvoj završnih ...dokumenti.ncvvo.hr/Razvoj_ispita/2015-12-17/Kljucne_aktivnosti.pdf · za Engleski jezik 2 za Povijest 3 za Fiziku 2

Postavljanje pragova za razine

postignuća učenika Radionice određivanja pragova

Datumi Predmet Broj nastavnika

29. 10. – 2. 11. 2012. (1. 11. neradno)

Fizika 6

30. 10. – 3. 11. 2012. (1. 11. neradno)

Engleski jezik 9

5. – 8. 11. 2012. Povijest 10

6. – 9. 11. 2012. Hrvatski jezik 6

4 dana po predmetu 4 predmeta 31

Page 29: Ključne aktivnosti i rezultati projekta „Razvoj završnih ...dokumenti.ncvvo.hr/Razvoj_ispita/2015-12-17/Kljucne_aktivnosti.pdf · za Engleski jezik 2 za Povijest 3 za Fiziku 2

Postavljanje pragova za razine postignuća učenika

Radionice određivanja pragova

• Prije probnog ispitivanja

• Procijenjene su težine svakoga zadatka za tri razine postignuća

• Određeni su preliminarni pragovi prolaznosti za svaku razinu.

Procijenjene težine zadataka koristile su se

• u izradi paralelnih ispitnih inačica za probno ispitivanje.

Dobiveni pragovi za razine postignuća revidirani su temeljem psihometrijske analize nakon probnoga ispitivanja zadataka 2013. godine.

Page 30: Ključne aktivnosti i rezultati projekta „Razvoj završnih ...dokumenti.ncvvo.hr/Razvoj_ispita/2015-12-17/Kljucne_aktivnosti.pdf · za Engleski jezik 2 za Povijest 3 za Fiziku 2

Izrada ispitnih inačica za probno ispitivanje

• 15 – 16 ispitnih inačica po predmetu

• Inačice su bile paralelne s obzirom na

– sadržaj i nacrt ispita

– na procijenjene težine zadataka

– na procijenjeno vrijeme koje je potrebno za njihovo rješavanje.

• Inačice su izrađene prema blok-nacrtu

– dio zadataka preklapao se u ispitnim inačicama

– također sadržavale tzv. sidrišne zadatke koji su bili podjednaki u svim ispitnim inačicama.

Nova procedura u razvoju ispita u Centru

Page 31: Ključne aktivnosti i rezultati projekta „Razvoj završnih ...dokumenti.ncvvo.hr/Razvoj_ispita/2015-12-17/Kljucne_aktivnosti.pdf · za Engleski jezik 2 za Povijest 3 za Fiziku 2

Izrada ispitnih inačica za probno

ispitivanje

1. Izrada ispitnih inačica prema specifikacijama ispita i definiranim parametrima – psihometrijski koordinatori

2. Prva sadržajna provjera ispitnih inačica (provjera preklapanja sadržaja zadataka unutar svake inačice) – predmetni koordinatori

3. Korekcija ispitnih inačica – psihometrijski koordinatori

4. Završna sadržajna provjera ispitnih inačica – skupine za razvoj ispita zajedno s predmetnim koordinatorima

Priprema ispita/ispitnih inačica za tisak • Prijelom • Dvije korekture • Unos korektura u bazu i prijelom • Tisak – veljača 2013.

Page 32: Ključne aktivnosti i rezultati projekta „Razvoj završnih ...dokumenti.ncvvo.hr/Razvoj_ispita/2015-12-17/Kljucne_aktivnosti.pdf · za Engleski jezik 2 za Povijest 3 za Fiziku 2

Organizacija i priprema probnoga ispitivanja

Organizacija i priprema probnoga ispitivanja od studenoga 2012. godine do ožujka 2013. godine uključivala je:

• izradu uzorka škola i učenika

• organizaciju i pripremu provedbe probnoga ispitivanja u školama.

Page 33: Ključne aktivnosti i rezultati projekta „Razvoj završnih ...dokumenti.ncvvo.hr/Razvoj_ispita/2015-12-17/Kljucne_aktivnosti.pdf · za Engleski jezik 2 za Povijest 3 za Fiziku 2

Organizacija i priprema probnoga ispitivanja

Uzorak je rađen s obzirom

• na nacrt ispitnih inačica

• na potrebe psihometrijskih analiza unutar modela Teorije odgovora na zadatak.

• U pojedinoj školi nisu provedeni ispiti iz sva četiri predmeta nego je provedeno ispitivanje iz jedne od dvije kombinacije predmeta.

– prva kombinacija > ispitivanje iz Povijesti i/ili Fizike

– druga kombinacija > ispitivanje iz Hrvatskoga i/ili Engleskoga jezika.

Svaki učenik u uzorku pisao je ispit iz samo jednoga predmeta.

Page 34: Ključne aktivnosti i rezultati projekta „Razvoj završnih ...dokumenti.ncvvo.hr/Razvoj_ispita/2015-12-17/Kljucne_aktivnosti.pdf · za Engleski jezik 2 za Povijest 3 za Fiziku 2

Organizacija i priprema probnoga ispitivanja

Stratifikacija uzorka napravljena je na dvije razine

(dvoetapni stratificirani uzorak).

1. Škole su bile stratificirane prema:

– županijama.

2. Učenici su bili stratificirani prema:

– spolu

– općem uspjehu

– uspjehu iz ispitivanoga predmeta.

Ovakvom stratifikacijom uzorka škola i učenika nastojala se postići i održati reprezentativnost za područje Republike Hrvatske.

Page 35: Ključne aktivnosti i rezultati projekta „Razvoj završnih ...dokumenti.ncvvo.hr/Razvoj_ispita/2015-12-17/Kljucne_aktivnosti.pdf · za Engleski jezik 2 za Povijest 3 za Fiziku 2

Organizacija i priprema probnoga ispitivanja

• Izrada mrežne aplikacije za komunikaciju sa školama (sinergija s projektom Razvoj banke zadataka)

• U funkciji za projekte Razvoj završnih ispita (RZI) i Nacionalni ispiti iz matematike (NI-OŠ-MAT)

• Efikasna komunikacija s velikim brojem škola

• Cjelokupna komunikacija sa školama u pripremama za ispitivanje – provjere podataka o školi i učenicima, čišćenje uzorka učenika, organizacija ispitivanja, organizacija prostorija i učenika prema ispitima koji se pišu, praćenje svih faza u pripremi ispitivanja, postavljanje i zaprimanje svih potrebnih dokumenata

Kako organizirati ispitivanje za oko 600 škola bez sustava koji bi to podržavao?

Page 36: Ključne aktivnosti i rezultati projekta „Razvoj završnih ...dokumenti.ncvvo.hr/Razvoj_ispita/2015-12-17/Kljucne_aktivnosti.pdf · za Engleski jezik 2 za Povijest 3 za Fiziku 2

Organizacija i priprema probnoga ispitivanja

Faze pripreme provedbe probnoga ispitivanja:

• obavještavanje ravnatelja o sudjelovanju škole u ispitivanju te odabir voditelja ispitivanja u školi

• provjera točnosti podataka o školi od strane ravnatelja i voditelja ispitivanja u školi

• provjera točnosti podataka učenika u preliminarnome uzorku od strane ravnatelja i voditelja ispitivanja u školi

• postavljanje popisa učenika za traženje suglasnosti roditelja/skrbnika u Centru

• prikupljanje i bilježenje suglasnosti roditelja/skrbnika od strane voditelja ispitivanja u školi

• finalizacija uzorka škola i uzorka učenika u Centru

• postavljanje obrasca početne organizacije ispitivanja u aplikaciju te ispunjavanje obrasca od strane ravnatelja i voditelja ispitivanja u školi

• postavljanje konačnoga popisa učenika u aplikaciju u Centru.

Page 37: Ključne aktivnosti i rezultati projekta „Razvoj završnih ...dokumenti.ncvvo.hr/Razvoj_ispita/2015-12-17/Kljucne_aktivnosti.pdf · za Engleski jezik 2 za Povijest 3 za Fiziku 2

2013. godina

• Organizacija i priprema za probno ispitivanje

Do ožujka 2013. godine materijali su tiskani, spakirani u kutije i otpremljeni u škole

organizirano je i pripremljeno ispitivanje u suradnji sa školama

• Provedba probnoga ispitivanja

• Povrat materijala i priprema za analize ispita

• Psihometrijske analize ispita

• Povratne informacije učenicima

• Izrada standardiziranih ispitnih formi/inačica

• Izrada uzorka škola i učenika te organizacija i priprema za glavno ispitivanje

Page 38: Ključne aktivnosti i rezultati projekta „Razvoj završnih ...dokumenti.ncvvo.hr/Razvoj_ispita/2015-12-17/Kljucne_aktivnosti.pdf · za Engleski jezik 2 za Povijest 3 za Fiziku 2

Provedba probnoga ispitivanja

• Između 4. i 8. ožujka 2013. godine

Predmet Broj učenika koji su pisali ispite

Broj škola koje su sudjelovale u probnom ispitivanju

Hrvatski jezik 5367 301

Engleski jezik 5549

Povijest 5130 296

Fizika 5130

Ukupno 21176 597

Page 39: Ključne aktivnosti i rezultati projekta „Razvoj završnih ...dokumenti.ncvvo.hr/Razvoj_ispita/2015-12-17/Kljucne_aktivnosti.pdf · za Engleski jezik 2 za Povijest 3 za Fiziku 2

Povrat materijala i priprema za analize ispita

Ispitne kutije su nakon ispitivanja:

• Zaprimljene u Centru

• Provjerena je njihova potpunost te sadržaj zapisnika ispitivanja.

Priprema za analize ispita:

• Razvrstavanje ispita i priprema za skeniranje

• Skeniranje ispita, OCR obrade podataka, zaprimanje obrađenih podataka

• Kontrola zaprimljenih podataka i očitanja

– Provjera spornih očitanja radila se u aplikaciji nastaloj u sklopu modula Ocjenjivanje, kodiranje i unos (OKU modul projekta Razvoj banke zadataka).

Podatci su zatim bili spremni za daljnje obrade u računalnim programima Parscale i TiaPlus.

Page 40: Ključne aktivnosti i rezultati projekta „Razvoj završnih ...dokumenti.ncvvo.hr/Razvoj_ispita/2015-12-17/Kljucne_aktivnosti.pdf · za Engleski jezik 2 za Povijest 3 za Fiziku 2

Psihometrijske analize i rezultati probnoga ispitivanja

Psihometrijske analize ispita/zadataka

• Prema Klasičnoj teoriji testova te Teoriji odgovora na zadatak (težina, diskriminativnost, analiza distraktora, informativnost zadataka/ispita)

• Isključivanje zadataka sa slabim metrijskim karakteristikama iz daljnjih analiza

• Finalizacije psihometrijskih analiza

• Finalizacija pragova za razine postignuća

Unaprijed poznati/definirani pragovi za razine postignuća

Nakon navedenih postupaka pristupilo

se izradi ispitnih formi / inačica za glavno

ispitivanje

Page 41: Ključne aktivnosti i rezultati projekta „Razvoj završnih ...dokumenti.ncvvo.hr/Razvoj_ispita/2015-12-17/Kljucne_aktivnosti.pdf · za Engleski jezik 2 za Povijest 3 za Fiziku 2

Izrada standardiziranih ispitnih formi/inačica

• Izrada dvije paralelne forme ispita za svaki predmet

o prema unaprijed definiranoj detaljnoj sadržajnoj strukturi i nacrtu ispita

o prema metrijskim karakteristikama zadataka.

• unaprijed poznate sadržajne i metrijske karakteristike zadataka/ispita • jednake karakteristike ispitnih inačica • jednake težine zadataka u svakom području/podpodručju svih ispitnih inačica

oDokaz standardiziranosti ispitnih formi prije samog ispitivanja

Page 42: Ključne aktivnosti i rezultati projekta „Razvoj završnih ...dokumenti.ncvvo.hr/Razvoj_ispita/2015-12-17/Kljucne_aktivnosti.pdf · za Engleski jezik 2 za Povijest 3 za Fiziku 2

Izrada standardiziranih ispitnih formi/inačica

Svaka forma sadržavala je

• određen broj sidrišnih zadataka koji su bili zajednički u obje forme

• zadatke koji su bili jedinstveni u svakoj ispitnoj formi.

• Svaka je forma dodatno podijeljena u tri inačice kako bi se u sklopu ispitivanja mogli probno ispitati novi zadatci (nisu uzimani u obzir kod izračuna rezultata učenika nakon ispitivanja).

o Mogućnost predtestiranja unutar „glavnog” testiranja radi punjenja baze sa zadatcima provjerenih karakteristika.

Šest inačica ispita

Page 43: Ključne aktivnosti i rezultati projekta „Razvoj završnih ...dokumenti.ncvvo.hr/Razvoj_ispita/2015-12-17/Kljucne_aktivnosti.pdf · za Engleski jezik 2 za Povijest 3 za Fiziku 2

Organizacija i priprema glavnoga ispitivanja

Organizacija i priprema glavnoga ispitivanja od studenoga 2013. godine do ožujka 2014. godine uključivala je:

1. izradu uzorka škola i učenika

– U pojedinoj školi provedeno je ispitivanje iz jedne od dvije kombinacije predmeta.

• prva kombinacija > ispitivanje iz Povijesti i/ili Fizike

• druga kombinacija > ispitivanje iz Hrvatskoga i/ili Engleskoga jezika.

2. organizaciju i pripremu provedbe glavnoga ispitivanja u školama.

Iste procedure kao u pripremi probnoga ispitivanja

Svaki učenik u uzorku pisao je ispit iz samo jednoga predmeta.

Page 44: Ključne aktivnosti i rezultati projekta „Razvoj završnih ...dokumenti.ncvvo.hr/Razvoj_ispita/2015-12-17/Kljucne_aktivnosti.pdf · za Engleski jezik 2 za Povijest 3 za Fiziku 2

2014. godina

• Organizacija i priprema za probno ispitivanje

Do ožujka 2014. godine materijali su tiskani, spakirani u kutije i otpremljeni u škole

organizirano je i pripremljeno ispitivanje u suradnji sa školama

• Provedba glavnoga ispitivanja

• Povrat materijala i priprema za analize ispita

• Psihometrijske analize ispita

• Povratne informacije učenicima

• Ocjenjivanje kratkih sastavaka

Page 45: Ključne aktivnosti i rezultati projekta „Razvoj završnih ...dokumenti.ncvvo.hr/Razvoj_ispita/2015-12-17/Kljucne_aktivnosti.pdf · za Engleski jezik 2 za Povijest 3 za Fiziku 2

Provedba glavnoga ispitivanja

• između 17. i 21. ožujka 2014. godine

Predmet Broj učenika koji su pisali ispite

Broj škola koje su sudjelovale u glavnome ispitivanju

Engleski jezik 3823 206

Hrvatski jezik 3815

Povijest 3795 220

Fizika 3776

Ukupno 15209 426

Page 46: Ključne aktivnosti i rezultati projekta „Razvoj završnih ...dokumenti.ncvvo.hr/Razvoj_ispita/2015-12-17/Kljucne_aktivnosti.pdf · za Engleski jezik 2 za Povijest 3 za Fiziku 2

Psihometrijske analize i rezultati glavnoga ispitivanja

• Psihometrijske analize ispita/zadataka

• Prikaz rezultata

– Na bodovnoj skali postignuća

– Skala postignuća podijeljena je u četiri razine postignuća prema unaprijed određenim pragovima

– Na istoj bodovnoj skali mogu se prikazati i rezultati pojedinog učenika i zadatci

Page 47: Ključne aktivnosti i rezultati projekta „Razvoj završnih ...dokumenti.ncvvo.hr/Razvoj_ispita/2015-12-17/Kljucne_aktivnosti.pdf · za Engleski jezik 2 za Povijest 3 za Fiziku 2

2015. godina

Do svibnja / lipnja 2015.: • Priprema završnoga Projektnog

izvješća (pisanje izvješća, priprema za

tisak i tisak izvješća)

• Napisane procedure novog modela

razvoja ispita / vanjskoga vrednovanja

učeničkih postignuća prema procedurama/

metodologiji projekta

• Završna konferencija projekta:

8. prosinca 2015.

Page 48: Ključne aktivnosti i rezultati projekta „Razvoj završnih ...dokumenti.ncvvo.hr/Razvoj_ispita/2015-12-17/Kljucne_aktivnosti.pdf · za Engleski jezik 2 za Povijest 3 za Fiziku 2

… Izrada standardiziranih ispita iz četiri predmeta:

• Oko 250 osoba sudjelovalo u projektu (NCVVO, 19 članova skupina za razvoj ispita, 152 autora, 8 recenzenata, 31 nastavnik u skupinama za postavljanje pragova, ostali vanjski suradnici)

• Oko 200 sastanaka djelatnika Centra s vanjskim suradnicima na projektu

• 18 cjelodnevnih tematskih sastanaka/ radionica kroz 95 radnih dana

• Oko 2900 izrađenih i recenziranih ispitnih zadataka

• 15-16 ispitnih inačica u probnome ispitivanju za svaki predmet

• 6 ispitnih inačica u glavnome ispitivanju za svaki predmet

• 597 škola u probnome ispitivanju te 426 škola u glavnom ispitivanju

• 21176 učenika pisalo probne ispite, a njih 15209 pisalo ispite u glavnome ispitivanju

• 18 mjeseci razvoja ispitnih materijala prije probnog ispitivanja, 12 mjeseci između probnog i glavnog ispitivanja

Razvoj standardiziranih ispita > složen i zahtjevan proces

Page 49: Ključne aktivnosti i rezultati projekta „Razvoj završnih ...dokumenti.ncvvo.hr/Razvoj_ispita/2015-12-17/Kljucne_aktivnosti.pdf · za Engleski jezik 2 za Povijest 3 za Fiziku 2

Rezultati projekta

• Razvijen je novi model ispitivanja znanja odnosno model standardizacije ispita

• Unaprijeđen je sustav vanjskoga vrednovanja obrazovnih postignuća

• Unaprijeđen je sustav osiguranja kvalitete u izradi ispitnoga materijala te sustav osiguranja valjanih, pouzdanih i objektivnih ispitnih rezultata za svakoga pojedinog učenika.

• U razvoju standardiziranih ispita korištene su online aplikacije za narudžbu, izradu i recenzije ispitnih zadataka te za formiranje ispitnih inačica, čime je unaprijeđena procedura u razvoju ispita (sinergija s projektom Razvoj banke zadataka).

Page 50: Ključne aktivnosti i rezultati projekta „Razvoj završnih ...dokumenti.ncvvo.hr/Razvoj_ispita/2015-12-17/Kljucne_aktivnosti.pdf · za Engleski jezik 2 za Povijest 3 za Fiziku 2

Rezultati projekta

Zašto je to važno? Što time dobivamo?

– međusobno usporedivi učenički rezultati prikazani na jedinstvenoj skali, a dobiveni iz više paralelnih inačica ispita koje su kalibrirane kako s obzirom na strukturu i nacrt tako i s obzirom na metrijske karakteristike ispita.

– osiguranje jednakoga standarda ispitivanja za sve učenike i međusobne usporedivosti rezultata, neovisno o „roku“ odnosno mjestu i vremenskoj udaljenosti polaganja ispita.

– osiguranje temelja za sustavno praćenje učeničkih postignuća i obrazovnoga sustava, s ciljem osiguranja kvalitete obrazovanja

– mogućnost transparentnoga, razumljivoga te normiranoga izvještavanja učenika o njihovim rezultatima kao i svih ostalih dionika obrazovnoga procesa.

Ključna značajka u novoj proceduri razvoja ispita je standardizacija ispita kojom se unaprijedio način ispitivanja i procjenjivanja znanja učenika.

Ne samo standardizacija postupaka provedbe ispitivanja nego standardizacija ispita temeljem detaljno razrađenih ispitnih specifikacija, dizajna testa i mjernih karakteristika zadataka dobivenih probnim ispitivanjem.

Page 51: Ključne aktivnosti i rezultati projekta „Razvoj završnih ...dokumenti.ncvvo.hr/Razvoj_ispita/2015-12-17/Kljucne_aktivnosti.pdf · za Engleski jezik 2 za Povijest 3 za Fiziku 2

Održivost znanja stečenih na projektu

Razvijena metodologija/procedure i znanja stečena na Projektu koristit će u daljnjim projektima Centra:

• u razvoju banke zadataka

• u rekonceptualizaciji modela državne mature u skladu s novim kurikularnim ciljevima (Mjera 8.6.4. Strategije)

• u razvoju hibridnih modela vrednovanja i ocjenjivanja te u eksperimentalnom uvođenju hibridnog modela vrednovanja i ocjenjivanja (Mjere 2.5.6. i 2.5.7. Strategije)

• u izradi ispitnih materijala na osnovi kurikulumom definiranih odgojno-obrazovnih ishoda (Mjera 2.5.5. Strategije)

• u razradi modela korištenja rezultata periodičnih vanjskih ispita za praćenje ostvarivanja obrazovnih ishoda na nacionalnoj razini (Mjera 8.6.3. Strategije)

Page 52: Ključne aktivnosti i rezultati projekta „Razvoj završnih ...dokumenti.ncvvo.hr/Razvoj_ispita/2015-12-17/Kljucne_aktivnosti.pdf · za Engleski jezik 2 za Povijest 3 za Fiziku 2

ZAHVALA

• Kolegicama i kolegama iz Centra/izvan Centra koji su sudjelovali u radu i koordinaciji pojedinih aktivnosti projekta

• Članicama i članovima skupina za razvoj ispita

• Autorima i recenzentima ispitnih zadataka

• Skupinama koje su sudjelovale u određivanju pragova za razine postignuća

• Ravnateljima, voditeljima ispitivanja i osoblju škola koje su sudjelovale u probnom i glavnom ispitivanju

• Učenicima i njihovim roditeljima/skrbnicima

Svim ostalim kolegama/kolegicama i vanjskim suradnicima na

podršci