Учебная аналитика

Версия 10:26, 23 апреля 2014

Почему возникает учебная аналитика?

Социокультурные изменения

В материалах UNESCO

• Buckingham Shum S. UNESCO IITE | E-library | Learning Analytics [Электронный ресурс]. URL: http://iite.unesco.org/publications/3214711 (дата обращения: 05.04.2014).

Тотальное отслеживание (tracking) действий пользователей. На основании отслеживания могут сделаны рекомендации по изменению системы и рекомендации к пользователям по изменению их поведения. Вопрос в том, как использовать эти данные и методы в целях организации лучшего обучения.

• Minović M., Milovanović M. Real-time Learning Analytics in Educational Games // Proceedings of the First International Conference on Technological Ecosystem for Enhancing Multiculturality TEEM ’13. New York, NY, USA: ACM, 2013. С. 245–251.

Социокультурные изменения в образовательной среде

Все действия субъектов образования в сетевой среде доступны для наблюдения и анализа со стороны другими субъектов. ССД это деятельность в цифровом поле, где все действия субъектов и все изменения объектов сохраняются и могут быть подвергнуты анализу и обсуждению. Как следствие, необходимым условием эффективной совместной деятельности является умение наблюдать и анализировать деятельность субъектов образования. Сетевые средства амплифицируют рефлексию совместной деятельности, поскольку у субъектов совместной деятельности есть возможность использовать для анализа совместной деятельности данные о действиях всех участников и данные об изменении всех объектов, которые совершаются в ходе совместной деятельности. В ходе сетевой деятельности между участниками формируются отношения, опосредованные общими ценностями и объектами (статьями, фотография, диаграммами, программами), над которыми они совершают свои действия.

Повсеместность определяет возможности мобильного образования, связанные со сбором

Термин аналитика широко используется в бизнесе и науке по отношения к компьютерному сбору данных, которые могут использоваться при принятии решений.

П.Бликштейн выделяет и конструктивные основания появления учебной веб-аналитики - необходимость обучать навыкам 21 века к которым относятся способности к творчеству, инновациям, критическому мышлению, решению проблем, общению и взаимодействию. Эти умения достаточно сложно измерять, используя принятые методы оценивания: тесты, открытые вопросы или портфолио. Это создает сложности с обучением новым умения, поскольку отсутствуют способы оценивания этих умений. Сложность связана с тем, что современные способы оценивания основываются на конечном продукте (оценка на экзамене, проект, портфолио), а не на процессе, поскольку данные о процессе для множества учеников трудно собрать.

• Blikstein P. Using Learning Analytics to Assess Students’ Behavior in Open-ended Programming Tasks // Proceedings of the 1st International Conference on Learning Analytics and Knowledge LAK ’11. New York, NY, USA: ACM, 2011. С. 110–116.

Данные для анализа

Источники данных для анализа:

Журналы или лог-файлы серверов

— файл с записями о событиях в хронологическом порядке. Специальные файлы, в которых протоколируются определённые действия пользователя или программы на сервере. Например, в лог-файлы веб-сервера записывается информация, откуда пришёл тот либо иной посетитель, когда и сколько времени он провел на сайте, что там смотрел и скачивал, какой у него браузер и какой IP-адрес у его компьютера

Журнал вики Служебная:RecentChanges в хронологическом порядке перечислены последние изменения на страницах

Журналы программ

Некоторые программные среды могут записывать все действия пользователя: изменения переменных, нажатие кнопок, изменения, которые вносятся в код программы.

Access_log содержит следующую информацию:

• IP-адрес посетителя;
• дата и время запроса;
• текст запроса (в том числе, URL запрашиваемого файла);
• название браузера посетителя;
• код ответа сервера;
• размер файла, запрашиваемого посетителем.
• страница, по ссылке с которой пришел посетитель;
• имя пользователя (при использовании HTTP-аутентификации);
• ip-адрес web-сервера;

Методы анализа

Набор методов, позволяющих субъектам образования принимать решения на основании данных, собираемых компьютерами. Учебная аналитика использует интеллектуальный анализ данных (Data Mining) - совокупность методов обнаружения в данных ранее неизвестных, нетривиальных, практически полезных и доступных интерпретации знаний, необходимых для принятия решений в различных сферах человеческой деятельности. Одно из важнейших назначений методов интеллектуального анализа данных состоит в наглядном представлении результатов вычислений (визуализация), что позволяет использовать этот инструментарий людьми, не имеющими специальной математической подготовки.

Определения

Учебная аналитика

Learning analytics - измерение, сбор, анализ и представление данных об учениках и их действиях с целью понимания и оптимизации учебного процесса и той среды, где это этот процесс происходит.

Использование данных и моделей для прогнозирования успеваемости и достижений, а также способность действовать на основе этой информации - http://nextgenlearning.com/The-Challenges/Learning-Analytics

Набор методов, позволяющих учителям и ученикам лучше понимать происходящее в учебном процессе.

Шнейдер - аналитика учебного процесса - http://edutechwiki.unige.ch/en/Learning_process_analytics

Шнейдер и соавторы определяют аналитику учебного процесса как набор методов, которые позволяют обучающим и обучаемым лучше понимать события, происходящие в рамках учебного сценария - над чем работают участники, как они взаимодействуют, что они создают, какие средства они используют, в какой среде они протекает учебная деятельность. В центре внимания проектно-ориентированный и студентоцентрированный дизайн - проектное, исследовательское, проблемное обучение.

Возникновение учебной аналитики связано ростом числа данных о деятельности учеников, которые могут быть собраны компьютерами, для дальнейшего использования в учебном процессе. В тех случаях, когда участие субъекта образования в учебном процессе опосредовано цифровыми устройствами, данные о поведении участника автоматически могут быть получены, сохранены и использованы для анализа.

Где осуществляется учебная аналитика?

Системы управления обучением

Аналитика процесса обучения

Комплексные интерактивные системы, такие как системы управления обучением, собирают огромное количество данных, описывающих поведение пользователей. Эти данные могут быть использованы в качестве основы для огромного количества исследований. Кроме того, существует острая необходимость в таких исследованиях для улучшения структур этих систем и выявления их недостатков. Особенно интересной областью для исследований является поиск частотных навигационных моделей в пользовательских данных, записанных в лог-файлах или базах данных.

Аналитика в LMS

Сбор данных по действиям учеников внутри системы и дальнейшая визуализация этих данных для преподавателя, чтобы он мог проследить за действиями обучаемых.

Среды общего назначения

Это различные CMS общего назначения, блоги, вики, документы Google и другие среды совместной деятельности, которые разрабатывались для сетевой деятельности, но не были специально созданы для нужд образования. Преподаватели успешно работают в этих средах, но каких-то специальных средств для анализа учебной деятельности здесь нет. В связи с этим и для учителей и для учеников трудно отслеживать совместную деятельность.

Пример - http://hapara.com/ - мониторинг и визуализация того, что происходит в среде Google Apps

Возможности и трудности учебной аналитики

Несмотря на огромные потенциальные возможности, которые содержит учебная аналитика, ее методы практически не используются для анализа учебного процесса, в связи с отсутствием опыта использования данных как индикаторов учебной деятельности.

Даже в тех случаях, когда исследователи заинтересованы в получении данных о сетевой структуре организации и сетевых взаимодействиях субъектов образования, основным методом исследования остается анкетирование. В качестве примера можно привести исследование К.М. Ушакова, в котором он выстраивает модель сетевой структуры взаимодействия учителей внутри образовательной организации на основании ответов на вопросы анкеты. Сама попытка диагностировать сетевую структуру образовательной организации представляется крайне интересной, но недостатки способа получения информации очевидны:

1. Результаты основываются на ответах анкетируемых - анализируются представления, а не действия.
2. Сбор и обработка данных занимает значительный период времени, в течение которого индикаторы могут утратить актуальность. Для управления развивающейся системой свежесть данных имеет значение.
3. Данные и методы их преобразования доступны только исследователю, который эти данные собирает.

• Ушаков К.М. Диагностика реальной структуры образовательной организации // Вопросы образования. 2013. Т. 4. С. 241 – 254.

Отличия учебной аналитики от традиционной педагогической диагностики представлены в следующей таблице:

Методы учебной аналитики

Построение моделей, позволяющих предсказать поведение

На основе сбора больших данных делаются предсказания о поведении учеников. Например, такие предсказания позволяют определить студентов, которые могут оставить учебн

классификаторы

регрессоры

latent knowledge estimation

Выявление структур

Кластерный анализ

Массив данных обрабатываются с целью разбиения на кластеры.

Факторный анализ

Близкий к кластерному способ работы с данными.

Анализ социальных сетей

Анализ социальных сетей

Для понимания разницы между эффективной и неэффективной группой, для изучения того, как меняется поведение студентов

Педагогические смыслы учебной аналитики

Источники данных для учебной аналитики

Вики метрики

Различные стратегии, методы и средства, которые позволяют измерять и анализировать деятельность участников (обучающихся) в вики.

Измерение вклада

Измерение взаимодействия (коллаборация)

Разнообразие (diversity)

Количество участников, которые работают над одной статьей или общим проектом

Уровень взаимодействия

Количество соавторов / к возможному числу участников

Например, если из 10 участников 6 работают над этой статьей, то уровень коллаборации = 0.6

Интерактивность

Число редактирований

Интенсивность

Интерактивность / Разнообразие - т.е. число редактирований / число участников

• http://edutechwiki.unige.ch/en/Wiki_metrics,_rubrics_and_collaboration_tools

Жизнеспособность (устойчивость) вики

• Roth C., Taraborelli D., Gilbert N. Measuring Wiki Viability: An Empirical Assessment of the Social Dynamics of a Large Sample of Wikis // Proceedings of the 4th International Symposium on Wikis WikiSym ’08. New York, NY, USA: ACM, 2008. С. 27:1–27:5.

Для оценки устойчивости и жизнеспособности вики использовались следующие показатели и их индикаторы

• Размер популяции U - количество зарегистрированных участников - число зарегистрированных участников = NUMBEROFUSERS 84 036
• Активность редактирования E - Общее число редактирований - NUMBEROFEDITS 1 566 352
• Количество контента - P - число полноценных страниц (статьи) - число полноценных статей в Летописи = NUMBEROFARTICLES 54 367
• Число администраторов A - NUMBEROFADMINS - 25

• Общее число страниц - NUMBEROFPAGES 280 251
• Число загруженных файлов F - NUMBEROFFILES - 108 741

Из этих имеющихся данных следуют индикаторы

Активность редактирования = E / U

Плотность редактирований = E / P

Плотность пользователей = U / P

Продуктивность пользователей (показатель обратный плотности пользователей) P / U

Это достаточно нейтральный параметр. Как показывают данные из нескольких сообществ количество зарегистрированных участников и количество статей - достаточно близкие цифры. По ряду серверов участников даже больше. Т.е. есть участники, которые зарегистрировались и не написали ни одной статьи. Такое положение дел достаточно часто встречается в сетевых сообществах, поскольку обычное распределение соответствует цифрам 1:10:90 – 1% участников организует деятельность, 9 – 10 % активно участвуют и 90% наблюдают за деятельностью, не принимая участия. А вот снижение пользователей может служить тревожным показателем.

На 7 апреля показатель продуктивности составляет 0.69

Плотность администраторов = A / P

Учебная аналитика на страницах Летописи

1. Патаракин Е.Д, Катков Ю.В. «Использование викиграмм для поддержки совместной сетевой деятельности» –«Образовательные технологии и общество» (Educational Technology & Society) 2012, апрель 2012, с. 536 - 552 http://ifets.ieee.org/russian/depository/v15_i2/html/13.htm
2. Патаракин Е.Д., Включение участников открытых сетей в исследовательскую деятельность. ГАУДЕНАМУС: Психолого-педагогический журнал 2/2010 Тамбов, с. 62 - 67.
3. Патаракин Е.Д., Культура 2.0 - совместное творчество и совместное исследование. Образовательные технологии и общество (Educational Technology & Society) Издательство Казанский государственный технологический университет, 2010, № 2, с. 302 - 315

   http://ifets.ieee.org/russian/depository/v13_i2/html/9.htm

4. Патаракин Е.Д. От использования контента к совместному творчеству. Анализ сетевого проекта Летописи.ру // Вопросы образования. 2009. № 3. С. 114–129.

Литература

• Парагогика: синергия самостоятельной и организованной учебной деятельности - Перевод И.Травкина
• Y. Engestrom: From communities of practice to mycorrhizae, in H. Hughes, N. Jewson, L. Unwin (Eds.), Communities of practice: Critical perspectives. London: Routledge (2007). http://www.open.ac.uk/cetl-workspace/cetlcontent/documents/476902341f33c.pdf
• Dimopoulos I., Petropoulou O., Retalis S. Assessing Students’ Performance Using the Learning Analytics Enriched Rubrics // Proceedings of the Third International Conference on Learning Analytics and Knowledge LAK ’13. New York, NY, USA: ACM, 2013. С. 195–199.
• Dyckhoff A.L. и др. Supporting Action Research with Learning Analytics // Proceedings of the Third International Conference on Learning Analytics and Knowledge LAK ’13. New York, NY, USA: ACM, 2013. С. 220–229.
• Ferguson R., Shum S.B. Social Learning Analytics: Five Approaches // Proceedings of the 2Nd International Conference on Learning Analytics and Knowledge LAK ’12. New York, NY, USA: ACM, 2012. С. 23–33.
• Ice P. и др. Introduction to Analytics for E-Learning. , 2011. С. 684–686.
• Knight S., Buckingham Shum S., Littleton K. Epistemology, Pedagogy, Assessment and Learning Analytics // Proceedings of the Third International Conference on Learning Analytics and Knowledge LAK ’13. New York, NY, USA: ACM, 2013. С. 75–84.
• Lonn S., Aguilar S., Teasley S.D. Issues, Challenges, and Lessons Learned when Scaling Up a Learning Analytics Intervention // Proceedings of the Third International Conference on Learning Analytics and Knowledge LAK ’13. New York, NY, USA: ACM, 2013. С. 235–239.
• Schneider D. и др. Requirements for learning scenario and learning process analytics. , 2012. С. 1632–1641.
• Siemens G. Learning Analytics: Envisioning a Research Discipline and a Domain of Practice // Proceedings of the 2Nd International Conference on Learning Analytics and Knowledge LAK ’12. New York, NY, USA: ACM, 2012. С. 4–8.
• Siemens G., Baker R.S.J. d. Learning Analytics and Educational Data Mining: Towards Communication and Collaboration // Proceedings of the 2Nd International Conference on Learning Analytics and Knowledge LAK ’12. New York, NY, USA: ACM, 2012. С. 252–254.
• Tempelaar D.T. и др. Formative Assessment and Learning Analytics // Proceedings of the Third International Conference on Learning Analytics and Knowledge LAK ’13. New York, NY, USA: ACM, 2013. С. 205–209.
• UNESCO IITE | E-library | Learning Analytics [Электронный ресурс]. URL: http://iite.unesco.org/publications/3214711 (дата обращения: 05.04.2014).
• Long, P. and Siemens, G., Penetrating the fog: analytics in learning and education. Educause Review Online, 46, 5, (2011), 31-40. http://www.educause.edu/ero/article/penetrating-fog-analyticslearning-and-education

• Упоминание учебной аналитики в блоге Галактики - https://edugalaxy.intel.ru/?automodule=blog&blogid=11&showentry=1031