С 2 августа компании в Чехии должны помечать изображения и видео, созданные нейросетью

В Евросоюзе начинают применяться правила прозрачности для искусственного интеллекта. Компании обязаны сообщать, когда пользователь общается с чат-ботом, а созданные или изменённые нейросетью изображения, аудио и видео — ясно обозначать как искусственные.

СОДЕРЖАНИЕ

• Какие правила начинают действовать
• Что такое поддельное видео с лицом человека
• Кого прежде всего касаются требования
• Почему одной маркировки недостаточно
• Как проверять подозрительный материал

Какие правила начинают действовать

С воскресенья, 2 августа, компании должны информировать человека, если он взаимодействует не с живым сотрудником, а с чат-ботом или другой системой искусственного интеллекта. Уведомление должно быть понятным и появляться тогда, когда пользователь ещё может учитывать эту информацию.

Отдельное требование касается изображений, звука и видео, созданных или существенно изменённых при помощи нейросети. Такой материал необходимо помечать, чтобы зритель не принимал искусственную запись за подлинное событие.

Что такое поддельное видео с лицом человека

Часто используется английское слово deepfake. Это искусственно созданная или изменённая запись, в которой человеку приписывают слова, движения или действия, которых в реальности не было. Современные инструменты способны имитировать голос родственника, начальника, политика или сотрудника банка.

Маркировка должна помочь распознавать рекламу, политический материал, развлекательные ролики и мошеннические публикации. Однако подпись сама по себе не гарантирует, что содержание законно или достоверно.

Кого прежде всего касаются требования

Правила адресованы компаниям и организациям, использующим системы искусственного интеллекта в ЕС. Это могут быть интернет-магазины, банки, службы поддержки, рекламные платформы, работодатели и создатели медиаматериалов.

Для частного пользователя практическое изменение заключается в том, что он должен чаще видеть сообщение о работе чат-бота или об искусственном происхождении контента. Ответственность и конкретные обязанности зависят от роли участника и вида системы.

Почему одной маркировки недостаточно

Мошенник может намеренно не поставить обозначение, а старый или зарубежный материал может распространяться повторно без первоначальной подписи. Поэтому любой срочный призыв перевести деньги, предоставить код или открыть документ нужно проверять независимо.

Также возможны ошибки в обратную сторону: настоящее видео могут без доказательств назвать искусственным. Решение о подлинности нельзя строить только на комментариях под публикацией.

Как проверять подозрительный материал

• Найти первоисточник и дату публикации.
• Проверить, сообщали ли о событии официальные органы и несколько независимых СМИ.
• Не переводить деньги по просьбе из голосового или видеосообщения без второго подтверждения.
• Самостоятельно перезвонить человеку по известному номеру.
• Сохранить файл и переписку, если речь идёт о мошенничестве или угрозах.

Русскоязычным пользователям важно помнить, что подпись на чешском или английском может быть малозаметной. Слова AI, umělá inteligence, syntetický obsah или upraveno pomocí AI указывают на искусственное создание либо обработку.

Источник: ct24.ceskatelevize.cz.