Учебные заведения постоянно борются со злоупотреблениями искусственным интеллектом со стороны студентов. Последние часто используют ИИ, выдавая его ответы за собственноручно написанные работы. Конечно, это нарушает основы академической добропорядочности. Но существует и "другая сторона медали" – ошибочное обвинение студентов в использовании искусственного интеллекта. Эта проблема в последнее время набрала действительно угрожающие масштабы.
Когда детекторы ошибаются: масштабы проблемы
По данным исследования Центра демократии и технологий, около двух третей преподавателей регулярно используют программы для проверки студенческих работ на наличие ИИ-генерированного текста. Однако даже самые лучшие детекторы не являются безошибочными. Тестирование ведущих сервисов GPTZero и Copyleaks показало, что они ошибочно маркируют как ИИ-сгенерированные до 2% работ, написанных людьми.
Кто под прицелом: уязвимые категории студентов
Согласно статистике, наибольший риск получить ложное обвинение имеют:
- Студенты с нейрорасстройствами;
- Лица, для которых английский является вторым языком;
- Те, кто использует более простую лексику и механический стиль письма.
Исследование Стэнфордского университета 2023 года показало, что детекторы ИИ ошибочно обозначают более половины эссе, написанных не носителями английского языка, как сгенерированные искусственным интеллектом.
Последствия для студентов
Студенты, столкнувшись с ложными обвинениями, вынуждены:
- Записывать видео процесса написания работ;
- Сохранять все черновики и правки;
- Отказываться от легальных инструментов проверки грамматики;
- Затрачивать больше времени на доказательство своей честности, чем на обучение.
"Это как удар под дых – когда твой честный труд могут перечеркнуть из-за ошибки машины", – делится опытом одна из студенток.
Пути решения проблемы
Некоторые учебные заведения уже отказываются от использования детекторов ИИ. Университет Питтсбурга, например, запретил их использование из-за "риска потери доверия студентов и потенциальных юридических последствий".
Эксперты рекомендуют разработать более точные алгоритмы детекции, учитывать при оценке индивидуальные особенности студентов, сосредоточиться на потенциальных преимуществах ИИ в образовании и строить доверительные отношения между преподавателями и студентами.
