Адаптивное тестирование

Адаптивное тестирование (adaptive testing) – технология тестирования слушателей, где каждый следующий вопрос подбирается автоматически, исходя из ответов, данных на предыдущие вопросы, и определенного заранее уровня сложности.

Главным отличием адаптивного тестирования от классического является динамическое (в реальном времени), а не статическое определение списка вопросов, которые будут заданы тестируемому.

Траектория, по которой обучаемый проходит тесты, индивидуальна. Выбор следующего вопроса определяется индивидуальными особенностями каждого слушателя, а не общими правилами.

Адаптивное тестирование можно сравнить с устным экзаменом, на котором преподаватель последовательно задает индивидуальные вопросы, выясняя уровень знаний слушателя.

Преимущества адаптивного тестирования

1. Точность. Возможность оценить уровень подготовленности каждого испытуемого с минимальной погрешностью.

2. Качество. Измеряется уровень знаний каждого испытуемого по определенным темам.

3. Достоверность. Влияние дополнительных факторов (потеря интереса, отвлечение, утомление, беспокойство) на результаты теста уменьшается, поскольку тестируемые не тратят время и силы на задания, не соответствующие их уровню подготовки (слишком легкие или слишком трудные).

4. Вовлеченность. Участники тестирования более мотивированы и спокойны. Им предлагаются задания, с которыми они в состоянии справиться, а значит, они более нацелены на успешное прохождение теста и уверены в своих силах.

Адаптивное тестирование наиболее эффективно использовать при решении следующих задач

1. Самопроверка слушателей.

2. Быстрое и точное измерение результатов корпоративного обучения.

3. Прогнозирование результатов обучения через предварительное тестирование.

4. Предварительное тестирование с целью выявления «белых пятен» и корректировки программы курса.

5. Предварительное тестирование с целью разделения учащихся на группы по уровням подготовки.

Пример адаптивного тестирования

Oxford Placement Test – это стандартизированный адаптивный тест для проверки уровня английского языка, который меняет набор вопросов по ходу выполнения теста (степень сложности и число заданий зависят от уровня студента). Тест продолжительностью 40–70 минут проходит в онлайн-формате и включает в себя такие задания, как поиск ошибок в предложениях или заполнение пропусков, выбор правильного варианта из нескольких или определение верности утверждения.

Методология разработки и проведения адаптивного тестирования^[7]

Разработка вопросов теста

Банк вопросов

Все вопросы, из которых будет составлен индивидуальный список вопросов для каждого участника тестирования. Минимальный размер банка вопросов рекомендуется определять по следующей формуле: банк вопросов = 15 × количество тем (тематических блоков теста). Например, если вопросы теста разделены на 3–5 тем, то рекомендуемый размер банка вопросов – 45–75 вопросов.

Число вопросов в индивидуальном тесте

Число вопросов в индивидуальном тесте определяется общим числом вопросов, задаваемых участнику тестирования. Оптимальное число вопросов теста рекомендуется рассчитывать по формуле: общее число вопросов = 5 × количество тем (тематических блоков теста).

Таким образом, в итоговом тесте участнику по каждой теме задается не менее 5 вопросов. Например, если вопросы теста разделены на 4 темы, то рекомендуемая длительность теста – 20 вопросов. Но не стоит увеличивать объем теста более чем до 20 вопросов, так как в этом случае снижается мотивация обучаемого. Лучше предложить ему несколько раз пройти тест. Это повышает точность оценки слушателя и проще для него самого. Если давать менее 5 вопросов, адаптивному алгоритму может не хватить информации для достаточно достоверного определения уровня знаний по теме.

Типы вопросов:

• с выбором одного правильного варианта ответа;

• с выбором нескольких правильных вариантов ответа;

• на соответствие/упорядочивание;

• с вводом текстового ответа (где ответ – это число, слово, недвусмысленная фраза (словосочетание), возможные для автоматической проверки).

Вариабельность ответов тестов:

• для автоматической проверки ответов на тесты каждый вопрос должен иметь по крайней мере один вариант правильного ответа;

• правильных ответов в вопросе может быть более одного;

• все варианты ответа также могут быть правильными.

Уровни сложности

Вопросы в банке вопросов ранжируются по единым для всех тем уровням сложности. Количество уровней – не менее 3, оптимально – от 5 до 10. Наличие большого числа уровней сложности (например, 10) более требовательно к калибровке сложности на выборочной группе слушателей, но и обеспечивает более высокую точность итоговой оценки уровня знаний.

Внутри каждой темы (тематического блока) рекомендуется иметь вопросы разного уровня сложности, так как это прямо влияет на вариативность теста и адаптивные возможности технологии.

Внутри каждой темы лучше распределить вопросы группами – не менее трех вопросов на каждом уровне. Чем больше вопросов на одном уровне сложности, тем больше вариативность теста, что важно для повторного прохождения или тестирования людей, которые могут помогать друг другу.

Варианты распределения вопросов

• Равномерное распределение – не менее 10 вопросов каждого уровня сложности.

• «Пирамида» – коррекция количества вопросов в форме «пирамиды», когда более сложных вопросов несколько меньше, чем простых (так как до сложных доходят гораздо реже). В этом случае рекомендуется следующее соотношение: не менее 6 вопросов высших уровней сложности, не менее 8 вопросов средних уровней сложности и не менее 10 вопросов низших уровней сложности.

• Автоматическое распределение по уровням сложности. Для этого проводится первичное тестирование (на выборке участников). Степень сложности вопросов определяется в соответствии с ответами участников. Вопросы, набравшие большинство правильных ответов, считаются самыми простыми, а вопросы с наименьшим числом правильных ответов – самыми сложными.

Траектории тестирования

Траектории тестирования позволяют определить наиболее вероятные пути прохождения тестирования в разных контекстах. Например, в контексте перехода между уровнями сложности они помогают определить вопросы, в наибольшей степени влияющие на процесс тестирования (тестируемые «скорее справятся» на шаге N с вопросом уровня сложности X или, наоборот, испытают трудности с вопросом этого уровня сложности).

Результаты адаптивного тестирования и их трактовка

Данные результаты полезны для улучшения качества материалов и при построении индивидуальной траектории обучения. Учебную программу можно персонализировать для каждой группы слушателей на основе тех пробелов в знаниях, которые были обнаружены в ходе тестирования. Слушатели могут непосредственно в процессе тестирования провести самопроверку и восполнить выявленные пробелы (постепенно – от простого к сложному).

Коррекция адаптивного теста на основании аналитики

Частотный анализ результатов позволяет внести корректировку в распределение вопросов по уровням сложности в сбалансированной модели на основе анализа распределения ответов участников (определить аномально сложные или простые вопросы на разных уровнях сложности и получить рекомендацию, в какой уровень сложности стоит перенести данные вопросы). Прогноз результатов обучения проводится исходя из количества попыток пройти тест и среднего результата, достигнутого за время всех попыток.

Примеры инструментов для разработки адаптивного тестирования

• Qualtrics

• Typeform

Аналитика обучения

Аналитика обучения, или учебная аналитика (learning analytics) – измерение, сбор, анализ и представление данных об обучающихся и образовательной среде с целью понимания особенностей обучения и максимальной его оптимизации^[8].

Задачи учебной аналитики^[9]

Связь учебной аналитики и анализа образовательных данных^[10]

Связь учебной аналитики и бизнес-аналитики по уровню принятия решений

(HR analytics / people analytics / talent analytics / training and development (T&D) analytics – в зависимости от детализации)

• Для бизнес-аналитики – запрос со стороны бизнеса (ключевое – бизнес-ценность).

• Для учебной аналитики – запрос со стороны учебного процесса (ключевое – понимание и оптимизация обучения и окружения).

Деление не всегда может быть жестким, речь идет скорее о разных аспектах и целях анализа.

Построение модели обучающегося на основе больших данных (model based on Big Data)

Источники доказательств

Административные данные

Показатели периферийного контекста: преподаватель, школа, район, местная община или государство.

Взаимодействие с образовательными ресурсами

Показатели взаимодействия во время обучения, включая: манеру навигации, ответы на упражнения и тесты, типы совершаемых ошибок, временны́е характеристики, связанные с деятельностью студента во время обучающих мероприятий.

Временна́я история

Показатели ближайшего контекста, представляющие временну́ю историю действий обучающегося, данные о которой доступны в конкретный день.

Демографическая информация

Показатели периферийного контекста: демографическая информация об обучающемся.

Настойчивость или упорство

Ретроспективные показатели настойчивости или упорства обучающегося при столкновении в процессе обучения с трудностями, которые индексируются как ошибки.

Нарушения в классе

Показатели ближайшего и периферийного контекста о нарушениях в классе обучаемого согласно записям о поведении в конкретный день или в течение времени.

Предпочитаемые обучающие медиа или жанры

Ретроспективные показатели предпочтительных для обучающегося медиа или жанров в тех случаях, когда выбор был возможен.

Прошлая деятельность

Ретроспективные показатели прошлой деятельности обучающегося, раскрывающие усвоение идей, навыков или компетенций на текущий момент.

Социальные показатели

Показатель взаимодействия учащегося с другими обучающимися и преподавателем в процессе обучения или с записанной речью (со всеми ее разнообразными свойствами, например семантическим содержанием, просодией и т. д.).

Социальные связи

Показатели ближайшего окружения, такие как социальные отношения и данные о социальных связях.

Тип мышления

Данные из анкеты или самоотчета о том, как учащийся устанавливает связь между своими стратегическими усилиями во время обучения и развитием компетенций, а также о том, как происходит индивидуальный процесс обучения.

Эмоциональное состояние

Ближайшие показатели, относящиеся к обучению, например эмоциональное состояние, качество сна, показатели питания.

Анализ образовательных данных (educational Data mining, EDM) и «добыча данных», интеллектуальный анализ (Data mining)

Из всех методологических категорий универсальными для всех типов Data mining считаются предсказательный анализ, кластерный анализ и поиск взаимосвязей. Однако более известными подходами к EDM считаются «Открытия с помощью моделей» и «Очистка данных (Data cleaning) для оценки человеком».

Андрагогика

Андрагогика (andragogy) – это наука, охватывающая теоретические и практические аспекты обучения и развития взрослых.

Александр Капп первым ввел термин «андрагогика» в 1833 году, определяя ее как педагогику для взрослых. В буквальном переводе с греческого слово обозначает «ведение взрослого человека» (андрос – мужчина, человек; агогейн – вести)^[11].

Отличия андрагогики от педагогики

Теоретические основы и принципы андрагогики были разработаны в XX веке Малколмом Ноулзом – американским ученым, который занимался исследованиями особенностей обучения взрослых.

В результате своих исследований Ноулз выделил 6 аспектов, которые отличают андрагогику (обучение взрослых) от педагогики (обучение детей)^[12][13].

1. Потребность в знаниях. Взрослым необходимо осознавать цель обучения.

2. Мотивация. Взрослыми движут внутренние мотивы. Они учатся, только когда хотят учиться. Взрослому нужно дать мощную внутреннюю мотивацию и ответить на его вопрос: «Зачем мне это нужно?»

3. Желание.