Инструменты генеративного искусственного интеллекта несут риски для свободных и справедливых выборов в демократическом обществе. Об этом заявила комиссар Еврокомиссии Вера Юрова.

По ее словам, созданная дипфейками дезинформация является потенциальной угрозой для предстоящего голосования нового Европарламента.

Юрова оценила меры безопасности для информирования пользователей о «синтетическом происхождении контента», но также призвала к их дальнейшему расширению.

«Эти усилия необходимо продолжать и активизировать, учитывая высокий потенциал реалистичных ИИ-продуктов для создания и распространения дезинформации. Риски особенно высоки в контексте выборов. Поэтому я призываю платформы проявлять бдительность и обеспечивать эффективные гарантии безопасности», — предупредила она.

Комиссар ЕС отметила, что встречалась с руководителями компании OpenAI и обсуждала с ними эти вопросы. 

В апреле группа европейских законодателей сообщила о планах разработать проект правил для контроля за развитием ИИ-систем. Позднее Европарламент внес в документ поправки, которые запрещают широкий спектр вариантов использования технологии.

К ним относятся ограничения на программы распознавания лиц в общественных местах и алгоритмы предиктивной полицейской деятельности. Также законопроект устанавливает требования по прозрачности к создателям генеративных моделей. Их обяжут маркировать контент как созданный ИИ, а также раскрывать информацию об используемых для обучения материалах.

Напомним, в июне представители ООН заявили, что созданные ИИ дипфейки вредят целостности информации и приводят к разжиганию ненависти в обществе.

Исследователи из OpenAI предупредили о растущей угрозе использования языковых моделей для распространения дезинформации.

В свою очередь американские ученые призвали к противодействию дипфейкам, созданным «вражескими государствами».