Modelování obtížnosti položek znalostních testů

Modelování obtížnosti položek znalostních testů

autor Jan Netík -
Počet odpovědí: 1

V oblasti predikce obtížnosti na základě textového zadání se podle naší rešerše zatím neustavila žádná formální teorie. Přístupy jsou naopak spíše ateoretické – výzkumníci z textu extrahují řadu různých charakteristik, které obtížnost mohou ovlivňovat, ale jejich výběr a váhu plně ponechávají na daném statistickém modelu, algoritmu strojového učení nebo neuronové síti (AlKhuzaey et al., 2023). K využití jakéhokoliv modelu je však vždy zapotřebí znát „skutečnou” obtížnost položek a za tímto účelem se nejčastěji sahá k psychometrickým teoriím, mezi něž patří klasická testová teorie nebo modernější teorie odpovědi na položku. V naší práci vyjdeme z druhého paradigmatu, který modeluje vztah mezi přímo nepozorovatelnými znalostmi nebo dovednostmi a odpověďmi na jednotlivé položky; konkrétně se zaměříme na tzv. nominální modely, jež umožňují plné využití informací z odpovědí na multiple-choice položky (Levine & Drasgow, 1983).

AlKhuzaey, S., Grasso, F., Payne, T. R., & Tamma, V. (2023). Text-based question difficulty prediction: A systematic review of automatic approaches. International Journal of Artificial Intelligence in Education, 34, 862–914. https://doi.org/10.1007/s40593-023-00362-1

Levine, M. V., & Drasgow, F. (1983). The relation between incorrect option choice and estimated ability. Educational and Psychological Measurement, 43, 675–685. https://doi.org/10.1177/001316448304300301

V odpovědi na Jan Netík

Re: Modelování obtížnosti položek znalostních testů

autor Dominik Dvořák -
Děkuji za vložený příspěvek. Upozornit na ateoretičnost dosavadních přístupů je jedna z možností, jak se s touto částí odborného textu vypořádat. Další možnost je zkusit problém přeformátovat do nějakého obecnějšího rámce, kde už teorie existují. Ale specifikum vaší práce je její silný metodologický aspekt. Jsou klasická testová teorie i IRT teorie o sociálním světě, nebo spíš o matematických objektech?