Кризис доверия у генеративного ИИ имеет три уровня. Первый — информационный: люди больше не могут по внешнему виду отличить подлинное от синтетического. Второй — операционный: даже полезные системы регулярно ошибаются в деталях и источниках. Третий — институциональный: компании, платформы и регуляторы пока не создали универсальные механизмы происхождения, маркировки и ответственности. На этом фоне неудивительно, что World Economic Forum уже относит мисинформацию и дезинформацию к числу ведущих рисков краткого горизонта, а AI Index подчеркивает: политические дипфейки легко генерировать и трудно обнаруживать.
«Every one of us deserves to know that the voice on the line is exactly who they claim to be».
Эта фраза Federal Communications Commission фактически формулирует новую базовую норму цифрового общества: доверие к каналу связи больше нельзя считать данностью. После AI-робозвонков в Нью-Гэмпшир, где использовался клонированный голос президента для вмешательства в праймериз, FCC не только разьяснила, что voice cloning подпадает под существующие запреты робозвонков, но и добилась отдельного урегулирования против оператора, передававшего такие вызовы. Lingo Telecom согласилась заплатить $1 млн, а инициатор кампании столкнулся с отдельным преследованием и предложенным штрафом $6 млн.
Еще более показателен кейс, назовем его, — Гонконг. Официальный ответ властей описывает схему, в которой сотрудника компании через фишинговое письмо и поддельную видеоконференцию убедили перевести около HK$200 млн; в другом эпизоде дипфейк-встреча почти на 30 минут закончилась переводом еще почти HK$4 млн. Здесь важно не то, что картинка была идеальна. Важно то, что мошенники научились упаковывать подделку в правдоподобный рабочий контекст: письмо, видеозвонок, знакомая управленческая роль, срочность, следующее сообщение в мессенджере.
Кризис доверия касается не только политики и финансового мошенничества, но и массовой культуры. AI Index еще в 2024 году выделял волну sexually explicit deepfake-изображений Тейлор Свифт как показательный пример того, насколько быстро цифровая реплика превращается из мемной технологии в инструмент публичного вреда. К 2026 году речь уже идет не о единичных скандалах, а о системном росте документированных ИИ-инцидентов.
Вторая сторона кризиса — не ложная идентичность, а ложная фактичность. Когда модели «галлюцинируют», они подрывают доверие даже там, где злого умысла нет. Исследование Large Legal Fictions показало, что при проверяемых вопросах о судебных делах юридические галлюцинации встречались в диапазоне от 58% у ChatGPT 4 до 88% у Llama 2. В деле Mata v. Avianca суд отдельно указал на подачу несуществующих судебных решений и фальшивых цитат, созданных ИИ. А свежая практика 2026 года показывает, что суды продолжают наказывать юристов, которые фактически делегируют профессиональное суждение модели без проверки.
Показательно и дело против Air Canada. Канадский трибунал признал авиакомпанию ответственной за недостоверную информацию, которую выдал ее чат-бот о траурном тарифе. Логика решения принципиальна: чат-бот не является «самостоятельным лицом», это часть сайта компании, а значит и часть ее обязанностей перед клиентом. Этот прецедент разрушает очень удобную для бизнеса линию защиты: «это сказал бот, а не мы». В практическом смысле право отвечает иначе: если бот встроен в ваш сервис, то это ваш интерфейс, ваша ошибка и ваш риск.
Наконец, есть и внутренняя, корпоративная версия кризиса доверия. McKinsey фиксирует, что лишь 27% респондентов заявили о проверке всего контента, созданного genAI, перед использованием, тогда как сопоставимая доля компаний проверяет не более 20% таких материалов. То есть организации уже выпускают синтетический контент в рабочий оборот быстрее, чем строят контуры контроля его качества. Именно поэтому проблема доверия не исчезает при повышении качества моделей: она упирается в процессы, а не только в веса модели.
