Руфат Гусейнов: «Самое опасное в ошибках нейросетей то, насколько убедительно они звучат»

Искусственный интеллект постепенно меняет способы поиска информации о людях и компаниях. Вместо изучения десятков сайтов пользователи всё чаще обращаются к нейросетям, которые за несколько секунд составляют биографии, оценивают деятельность организаций и обобщают сведения из открытых источников. Однако вместе с удобством возникает новая проблема: искусственный интеллект способен ошибаться, путать людей, искажать факты и представлять неподтверждённую информацию как достоверную. Как такие ошибки могут повлиять на репутацию бизнеса, можно ли добиться их исправления и почему привычных методов защиты репутации уже недостаточно? Об этом мы поговорили с экспертом по цифровой репутации Руфатом Гусейновым.

Руфат, представим ситуацию: предприниматель спрашивает у нейросети информацию о себе и обнаруживает факты, которых никогда не было. Насколько это вообще распространённая проблема?

Такие ошибки вполне возможны, и проблема гораздо серьёзнее, чем может показаться. Искусственный интеллект не всегда отличает достоверную информацию от ошибочной и способен самостоятельно формировать неверные выводы. Например, человек занимал руководящую должность в компании, которая впоследствии столкнулась с финансовыми проблемами. Нейросеть может некорректно связать эти события и приписать руководителю ответственность за обстоятельства, к которым он не имел отношения. Или объединить биографии двух людей с одинаковыми именами. Самое неприятное, что подобные утверждения нередко звучат очень уверенно. Пользователь получает грамотно написанный текст и может даже не задуматься о необходимости проверки. Именно поэтому ошибки искусственного интеллекта становятся отдельной категорией репутационных рисков.

То есть нейросеть может испортить репутацию человека, даже если никто специально не распространял о нём негативную информацию?

Совершенно верно. Раньше репутационные проблемы чаще возникали из-за конкретного источника: статьи, публикации в социальных сетях, отзыва или публичного конфликта. Теперь появляется дополнительный фактор. Нейросеть способна неправильно интерпретировать даже нейтральные сведения. Допустим, предприниматель участвовал в судебном процессе в качестве свидетеля или представлял интересы компании. При некорректном обобщении информации его могут представить непосредственным участником конфликта в совершенно другом качестве. Это гипотетический пример, но он хорошо объясняет сам механизм риска. Важно понимать, что нейросеть не обязательно копирует чьё-то утверждение. Иногда ошибочная информация возникает непосредственно в процессе формирования ответа.

А почему люди вообще склонны доверять нейросетям? Ведь все знают, что искусственный интеллект может ошибаться.

Здесь работает довольно интересный психологический механизм. Когда человек читает анонимный комментарий на форуме, он обычно понимает, что перед ним чьё-то мнение. Когда он получает структурированный ответ нейросети, с датами, подробностями и иногда даже ссылками на источники, возникает ощущение, что информация уже проверена. Мы привыкли воспринимать технологические системы как инструменты объективного анализа. Но грамотная формулировка ещё не означает достоверность. Более того, искусственный интеллект может одинаково убедительно рассказать как о реальном событии, так и о том, чего никогда не происходило. В этом и заключается главная проблема: у неподготовленного пользователя нет простого визуального признака, позволяющего отличить достоверный ответ от ошибочного.

А если нейросеть приводит ссылки на источники, разве это не гарантирует достоверность информации?

Нет. Наличие ссылки ещё не означает, что источник подтверждает конкретное утверждение. Иногда нейросеть правильно находит публикацию, но неправильно понимает её содержание. Например, в статье говорится о нескольких компаниях и упоминаются разные руководители, а система ошибочно объединяет сведения в одну историю. Бывает и другая ситуация: источник действительно существует, но информация в нём устарела. Представьте, что человек покинул должность несколько лет назад, а нейросеть продолжает представлять его действующим руководителем организации. Поэтому я рекомендую всегда открывать первоисточники, проверять даты и смотреть, действительно ли там написано то, что утверждает искусственный интеллект. Ссылка должна быть подтверждением факта, а не просто создавать видимость достоверности.

Получается, для репутации человека теперь важно не только то, что написано о нём в интернете, но и то, какие выводы из этого делает искусственный интеллект?

Именно так. И это существенное изменение. Раньше специалист по репутации в первую очередь анализировал информационные материалы и их расположение в поисковой выдаче. Сегодня необходимо учитывать ещё один уровень: интерпретацию информации алгоритмами. Причём разные нейросети могут давать совершенно разные ответы на один и тот же вопрос. Одна система корректно опишет профессиональную биографию, другая пропустит важные достижения, третья может смешать сведения о нескольких людях. Поэтому мы рассматриваем ответы искусственного интеллекта как самостоятельный объект анализа. Уже недостаточно просто убедиться, что в поисковой выдаче нет очевидных проблем. Нужно понимать, какой образ человека или компании формируется при обращении к интеллектуальным поисковым инструментам.

Допустим, нейросеть ошибочно назвала предпринимателя мошенником. Что ему делать? Ведь непонятно даже, кому предъявлять претензию.

Прежде всего нельзя поддаваться эмоциям и пытаться решить вопрос одним сообщением в поддержку. Необходимо зафиксировать конкретный ответ, сохранить дату, формулировку запроса, название сервиса и ссылки на источники, если они присутствуют. Затем выяснить происхождение ошибочной информации. Если нейросеть опирается на недостоверную публикацию, нужно отдельно работать с первоисточником. Если же система сама сформировала ошибочное утверждение, следует изучить предусмотренные сервисом механизмы подачи жалоб и запросов на исправление сведений. Например, у некоторых платформ существуют специальные процедуры для обращений по поводу персональных данных. При наличии юридических оснований могут потребоваться правовые инструменты. Но универсальной кнопки, которая исправляет информацию сразу во всех нейросетях, не существует.

А можно ли добиться того, чтобы ChatGPT или другая нейросеть вообще перестали упоминать определённую информацию о человеке?

В отдельных ситуациях можно добиваться ограничения использования или отображения определённых персональных сведений, но здесь важно не создавать ложных ожиданий. Возможности зависят от конкретной платформы, характера информации, применимого законодательства и обстоятельств дела. Например, одна ситуация, когда система распространяет неправильный номер телефона или недостоверные сведения о частной жизни. И совершенно другая, когда речь идёт об общественно значимой информации, связанной с профессиональной деятельностью публичного человека. В первом случае основания для обращения могут быть значительно сильнее. Во втором необходимо учитывать право общества на получение информации. Я бы не рекомендовал доверять специалистам, которые обещают за определённую сумму полностью стереть любые сведения о человеке из всех систем искусственного интеллекта. Это слишком серьёзное обещание, чтобы давать его без оговорок.

А если негативная информация уже удалена с сайта, почему нейросеть иногда продолжает о ней рассказывать?

Потому что удаление публикации и изменение ответа искусственного интеллекта не всегда происходят одновременно. Некоторые системы используют актуальный поиск, другие в большей степени опираются на ранее усвоенные данные. Возможны и промежуточные ситуации, когда информация сохранилась в другом источнике, цитате или архивной публикации. Поэтому отсутствие материала по первоначальному адресу ещё не гарантирует, что упоминания исчезнут из всех ответов. Важно проверить, нет ли других доступных источников, которые воспроизводят те же сведения. Но здесь нужно понимать и пределы возможностей: никто не может гарантировать мгновенное изменение поведения всех нейросетей. Репутационная работа в такой ситуации требует последовательности, контроля результатов и понимания особенностей конкретных сервисов.

Значит ли это, что компании теперь придётся следить сразу за десятками нейросетей? Как вообще организовать такой мониторинг?

Я не думаю, что большинству компаний необходимо ежедневно проверять все существующие модели. Гораздо разумнее определить наиболее значимые системы и сформировать набор контрольных запросов. Например, что известно о компании, кто её руководитель, можно ли доверять организации, какие у неё были публичные конфликты. Для руководителей имеет смысл отдельно проверять вопросы, связанные с биографией, деловыми связями и профессиональной деятельностью. При этом важно фиксировать не только текст ответа, но и условия его получения: дату, формулировку запроса, использовался ли интернет-поиск. Один и тот же вопрос в разных условиях может давать разные результаты. Поэтому разовый скриншот не является объективной оценкой репутации. Нужно анализировать повторяющиеся ошибки и понимать, насколько они устойчивы.

А можно ли действовать в обратную сторону? Например, заплатить специалистам, чтобы нейросети начали рекомендовать определённого предпринимателя как лучшего эксперта в своей области?

Вокруг этой темы уже возникает немало маркетинговых обещаний. Но следует разделять создание качественного информационного присутствия и попытки искусственно манипулировать ответами нейросетей. Никто не может гарантировать, что независимая система будет рекомендовать конкретного человека по определённому запросу. Можно работать над доступностью достоверной информации, публиковать экспертные материалы, формировать понятную профессиональную биографию и устранять фактические противоречия в открытых источниках. Всё это помогает создать более качественную информационную основу. Но превращать такую работу в массовое производство вымышленных достижений или заказных рекомендаций опасно. Рано или поздно подобные манипуляции сами могут стать репутационной проблемой. Профессиональный подход заключается не в том, чтобы заставить алгоритм хвалить человека, а в том, чтобы его выводы опирались на достоверные сведения.

Вы упомянули противоречия в открытых источниках. Почему они представляют особенную опасность для нейросетей?

Представьте предпринимателя, который за двадцать лет сменил несколько должностей, участвовал в десятках проектов и работал в разных отраслях. На одном сайте указано его старое место работы, на другом размещена неполная биография, а в третьей публикации неверно написано название компании. Человеку, который знаком с этой историей, относительно легко разобраться в происходящем. Но алгоритм может объединить сведения без правильной хронологии или не заметить, что речь идёт о разных организациях. Поэтому важно следить за точностью публичной информации, особенно когда человек имеет распространённые имя и фамилию. При этом просто разместить одну новую биографию недостаточно. Необходимо понимать, какие источники доступны системе и где именно возникают противоречия.

Насколько опасно для бизнеса полагаться на нейросеть при проверке потенциального партнёра?

На мой взгляд, здесь возникает даже более серьёзный риск, чем проблема отдельных репутационных ошибок. Представим, что компания поручает сотруднику собрать информацию о потенциальном контрагенте. Сотрудник задаёт несколько вопросов нейросети, получает убедительное резюме и передаёт его руководству. Если в этом резюме есть недостоверные сведения, они могут повлиять на реальное управленческое решение. Возможно, компания откажется от перспективного сотрудничества. Или, наоборот, не заметит существенные риски. Поэтому искусственный интеллект стоит использовать как вспомогательный аналитический инструмент, но не как окончательный источник проверки. Если речь идёт о серьёзных инвестициях, заключении крупных контрактов или оценке деловой репутации, необходима работа с документами, официальными реестрами и первоисточниками.

Как вы считаете, кто должен нести ответственность за ошибку нейросети, которая причинила человеку репутационный ущерб?

Это один из наиболее сложных вопросов новой цифровой экономики. Нужно разбираться, откуда появилась информация, кто её первоначально опубликовал, как она была обработана и какие последствия вызвало её распространение. В некоторых случаях проблема связана с недостоверным первоисточником, в других возникает непосредственно при формировании ответа. При этом наличие ошибки ещё не означает, что автоматически установлены юридическая ответственность и размер ущерба. Всё зависит от законодательства и обстоятельств конкретного случая. Мне кажется, развитие искусственного интеллекта неизбежно потребует более понятных механизмов исправления фактических ошибок. У человека должна быть реальная возможность оспорить недостоверные сведения, особенно если они затрагивают его деловую репутацию, но эта процедура должна учитывать и общественный интерес.

И последний вопрос. Что бы вы посоветовали человеку, который никогда не проверял, что о нём рассказывает искусственный интеллект?

Я бы предложил провести небольшой эксперимент. Откройте несколько популярных нейросетей и задайте вопросы о себе так, как это мог бы сделать незнакомый человек. Не ограничивайтесь запросом с именем и фамилией. Спросите о профессиональной биографии, деловой деятельности, основных достижениях, а затем проверьте каждый существенный факт. Посмотрите, не перепутала ли система должности, компании, даты или людей. Если обнаружите ошибки, не спешите считать каждый ответ окончательным или одинаково доступным всем пользователям. Зафиксируйте результат и разберитесь в его происхождении. Мы вступаем в период, когда информация о человеке существует не только в виде отдельных публикаций, но и в виде автоматически формируемых описаний. И я считаю, что умение проверять достоверность этих описаний постепенно станет такой же необходимостью, как умение защищать свои персональные данные.

Справка о герое

Руфат Сабирович Гусейнов, российский политолог, эксперт по управлению цифровой репутацией и репутационными рисками, старший партнёр агентства «Невидимка». Имеет юридическое образование и степень магистра экономической политологии РАНХиГС. Более 20 лет занимается корпоративным управлением, развитием бизнеса, антикризисным менеджментом и инвестиционными проектами. Работал в РЭУ имени Г. В. Плеханова, где руководил направлением государственно-частного партнёрства, участвовал в разработке образовательных программ в области блокчейна и цифровой экономики. Автор и ведущий радиопроекта «Стартап-кафе» на «Москва FM».