Мероприятия прошли в рамках проектов Знание.Государство и Знание.Лекторий. Перед участниками с темой «Дипфейки и ИИ как главная киберугроза современности» выступил победитель Знание.Лектор, заместитель директора Исторического парка «Россия – моя история» в Волгоградской области Антон Лукаш. 

Он подробно объяснил, что такое искусственный интеллект, и рассказал о его ключевых целях и задачах – от распознавания изображений и речи до обработки текстов, анализа данных, генерации контента – текстов, музыки и многого другого.

Лектор разобрал «подводные камни» работы с ИИ. По его словам, один из ключевых моментов – это то, что искусственный интеллект не бывает объективным по умолчанию.

«Простыми словами, это как с человеком – если с детства читать только одни книги и общаться с определенными людьми, у него сформируется конкретная картина мира. Так же и с ИИ. Его «мозг» обучают на огромных массивах информации – это называют дата инжинирингом. И если в исходные данные заложить одностороннюю информацию, что практикуется западными «учителями», особенно в политических и культурных областях обучения, то и последующие выводы ИИ могут отражать только эту точку зрения», – отметил лектор.

Антон Лукаш подчеркнул, что ИИ активно используется для мошенничества – злоумышленники клонируют голоса, генерируют персонализированные тексты и сценарии общения, проводят звонки с поддельным голосом, чтобы выманить деньги, и реализуют другие схемы обмана.

В практической части встречи, опираясь на свой опыт взаимодействия с различными моделями ИИ, спикер рассказал, какие инструменты и приемы помогают распознавать манипуляции и эффективно работать с технологией.

«Большой отклик, пожалуй, вызвала тема эмпатических ловушек, когда модели ИИ специально обучают на «дружелюбие», чтобы удерживать пользователя. И возникает парадокс – ИИ начинает вам «поддакивать», искажая реальность, что называется эмпатической пристройкой. Для русской культуры, где правда, даже горькая, важнее сладкой лжи, это особенно значимая история. Мы разобрали и феномен так называемого «ИИ-психоза» или манипулятивного дрейфа, когда в длинном диалоге модель теряет «якорь» и начинает внушать пользователю ложные мысли», – подчеркнул спикер. 

Участники встреч с интересом слушали лектора, активно задавали вопросы. Больше всего их интересовало, как составлять грамотные промпты, распознавать попытки манипуляции со стороны ИИ и применять технологию на практике.

Антон Лукаш также поделился ценными рекомендациями – для эффективной работы с ИИ необходима цифровая грамотность, критическое мышление, навыки анализа, стремление к самообучению и этичное использование информации.