Этика использования ИИ в научных работах

В современном мире искусственный интеллект (ИИ) становится привычным помощником во многих сферах, в том числе и в научной. ИИ способен генерировать идеи, помогать формулировать гипотезы и выстраивать логическую структуру работы, что делает научный процесс доступнее и эффективнее.

Однако вместе с удобством неизбежно встают и серьезные этические вопросы: где проходит грань между честным использованием алгоритмов и плагиатом? Можно ли считать результат исследования по-настоящему своим, если часть материала была сгенерирована ИИ?

За комментарием мы обратились к Светлане Демченко, старшему преподавателю и заместителю заведующего кафедрой информатики СПбГЭУ.

– Как вы относитесь к использованию ИИ в научных работах?

– По моему мнению, ИИ – это в первую очередь технология, причем технология- помощник. Если с помощью генеративной модели или ИИ-сервиса визуализации получится обработать больший массив данных или выполнить детальный анализ, то такой способ применения ИИ в научных работах я считаю допустимым.

– Какие правила, на ваш взгляд, должны регулировать применение ИИ в академической среде?

– Это должны быть как этические кодексы на уровне государственного регулирования, так и локальные акты учебных заведений, в частности вузов. Подобный опыт уже есть в РФ: Положение о принципах использования ИИ в образовательной деятельности Сколковского института науки и технологий, Декларация этических принципов создания и использования систем искусственного интеллекта в НИУ ВШЭ.

– Как вузы могут адаптировать систему проверки работ (например, антиплагиат) под новые реалии, когда студенты используют ИИ?

– Это действительно сложный дискуссионный вопрос, так как на текущий момент при проверке в системе антиплагиат мы наблюдаем две крайности: отсутствие детекции явно сгенерированного текста и, наоборот, отметка самостоятельно написанного текста как сгенерированного. Скорее всего, как бы странно это ни звучало, в системах проверки на антиплагиат в скором времени будет как раз применяться ИИ. Думаю, преподавателям следует делать упор на такие типы заданий, в которых студент должен защищать свои работы, отвечать на вопросы, демонстрируя уровень владения материалом. Что касается ВКР, то и здесь следует искать новые форматы, которые как раз и появляются: ВКР-проект, ВКР-стартап, где основной упор в работе сделан на получение продукта.

– Может ли ИИ полностью заменить человеческий интеллект в науке?

 – Мне кажется некорректным восприятие искусственного интеллекта как интеллекта, а не как технологии. Технология полностью заменить человеческий интеллект не в состоянии, а в науке требуется целая совокупность качеств помимо интеллекта: и смелость к новым нетривиальным решениям, и воодушевление, и творческая составляющая. А вот для поиска материалов, проверки гипотез, создания инструментов анализа ИИ как раз хорошо подходит.

– Какие профессии в науке и образовании, по вашему мнению, изменятся из-за внедрения ИИ?

– Думаю, что так или иначе применение ИИ-технологии отразится на всех профессиях нашей сферы, будет меняться (и уже меняется) многое в текущей работе преподавателя, исследователя, ученого. Говорить о том, что какие-то профессии исчезнут, преждевременно. Даже если с помощью нейросети можно освоить тот или иной навык, это не заменит общения с опытным наставником или экспертом.

Присутствие искусственного интеллекта во множестве сфер жизни нельзя отрицать: он обрабатывает колоссальные объемы данных, находит в них сложные закономерности, автоматизирует рутинные операции и помогает генерировать новые идеи. Благодаря этому ИИ способен ускорять прогресс в науке, бизнесе, творчестве и повседневной жизни. Однако его истинная сила раскрывается лишь в тандеме с осознанным и ответственным подходом человека.

Прежде всего важно помнить, что ИИ – это интеллектуальный ассистент, а не замена человеческому мышлению. Он дополняет и расширяет наши когнитивные возможности, но не способен взять на себя критическую оценку, творческий поиск, этические суждения и глубокое понимание контекста – те аспекты, которые присущи только человеку. Несмотря на впечатляющие достижения, современные системы ИИ оперируют статистикой, а не смыслом: они не обладают подлинным пониманием, не способны креативить, испытывать эмпатию или брать на себя моральную ответственность. Кроме того, ИИ нередко «галлюцинирует», генерируя убедительно звучащую, но недостоверную информацию.

Слепое доверие ИИ несет риски. Во-первых, пассивное принятие его результатов может привести к деградации собственных аналитических навыков. Во-вторых, переназначение морально значимых решений (в медицине, юриспруденции, кадровой политике) на алгоритмы без надлежащего человеческого надзора чревато несправедливостью и серьезными ошибками. Чрезмерная автоматизация рискует лишить процессы живого, человеческого измерения, гибкости и творчества. Наконец, некритичное использование ИИ для генерации контента способствует распространению дезинформации.

Чтобы использовать ИИ эффективно, всегда сохраняйте позицию «пилота»: управляйте инструментом, формулируйте четкие задачи, критически оценивайте ответы, перепроверяйте факты, исходные данные и логику. Рассматривайте ИИ как «умный трамплин» для сбора информации, преодоления творческих блоков или черновой обработки текста и кода, оставляя за собой финальное осмысление, доработку и ответственность за результат. Развивайте ИИ-грамотность: понимание принципов работы алгоритмов, их сильных и слабых сторон, потенциальных источников ошибок. Это поможет вам использовать технологии наиболее благоразумно.

Текст подготовили: Анастасия Горбова, Александра Безгодова, Дарья Недилька