Известия: нейросети стали чаще давать фейковые ответы

Эксперты предупреждают, что ведущие чат-боты стали значительно чаще распространять ложную информацию. Исследование показало, что доля неправильных ответов увеличилась с 18 до 35%. Среди наиболее проблемных сервисов оказались ChatGPT, Perplexity и Pi.

Всего было протестировано 10 популярных ИИ-моделей, каждой задали по 10 десять заведомо ложных утверждений, связанных с бизнесом, брендами и политическими событиями. При этом все вопросы делились на три категории: предполагающие истинность утверждения, нейтральные и провокационные. Эксперты поставили себе цель определить, как нейросети справляются с фактчекингом и насколько они устойчивы к дезинформации.

Рост ложных ответов в результатах оказался таким:

• Чат-бот Pi (стартап Inflection) — до 57%;
• Perplexity (компания Perplexity AI) — рост с 0 до 47%;
• ChatGPT (компания Open AI) — рост с 33 до 40%;
• Grok (компания xAI) — рост с 13 до 33%;
• Gemini (компания Google) — 17%.
• Claude (компания Anthropic) — 10%.

Основные причины роста количества фальшивых ответов нейросетей включают:

• Отказ от фильтров отказа. Современные нейросети стремятся отвечать на каждый запрос, даже если у них недостаточно проверенных данных. Ранее они могли отказываться от ответа примерно в 31% случаев, теперь этот показатель снизился.
• Недостаточная проверка источников. Интеграция веб-поиска привела к увеличению объема доступной информации, однако качество источников остается низким. Модели часто используют псевдонадежные сайты, что увеличивает вероятность распространения фейков.
• Дрессировка нейросетей. Некоторые ресурсы специально создают контент, направленный на обучение нейросетей ложной информации. Это явление называется LLM grooming и способствует росту числа некорректных ответов.
• Архитектурные ограничения. Большие языковые модели работают путем вероятностного подбора следующего слова, а не глубокого понимания смысла текста. Из-за этого они иногда выдают несуществующие или искаженные факты.
• Повышение сложности запросов. Чем сложнее и специфичнее запрос, тем труднее нейросети находить проверенную информацию, что ведет к повышению риска предоставления фальшивых ответов.

Эти факторы способствуют увеличению доли неправдивых ответов, что вызывает серьезные опасения относительно надежности и точности нейросетевых моделей.

Отдельная уязвимость проявляется в многоязычных режимах: в аудите NewsGuard наибольший уровень ошибок и отказов зафиксирован в русскоязычных и китайских запросах — свыше 50% в совокупности.

Проблема может сохраниться надолго, поскольку имеет комплексный характер. Чем более узкой и новой является тема, которую запрашивает пользователь, тем меньше данных для ответа есть у нейросетей, что повышает риск «придумывания» ею ответов. Проблема усугубляется, если пользователь не формулирует полный и грамотный промпт, употребляет сленг и прочий «словесный шум», мешая нейросети понять запрос и сформировать релевантный ответ.

Для защиты бизнеса от недостоверных ответов нейросетей рекомендуется применять следующие меры:

• Критическое отношение к результатам. Пользователи должны осознавать ограниченность возможностей нейросетей и самостоятельно проверять полученные данные перед принятием важных решений.
• Использование надежных источников. Следует выбирать проверенные и надежные сервисы нейросетей, а также устанавливать дополнительные слои верификации информации.
• Контроль конфиденциальности. Никогда не передавать нейросетям личную или корпоративную конфиденциальную информацию, так как обработка этих данных может привести к утечкам или фальсификациям.
• Оценка уровня доверия. Если система показывает низкую уверенность в своем ответе, лучше игнорировать этот вывод или искать альтернативные источники подтверждения.
• Развитие специализированных инструментов. Компании могут инвестировать в создание собственных инструментов оценки достоверности, которые позволят выявлять возможные манипуляции и подделки.
• Разработка этических стандартов. Регулирование и установление четких рамок ответственности за распространение недостоверной информации помогут снизить риски злоупотреблений.

Следуя этим рекомендациям, бизнес сможет минимизировать негативные последствия использования нейросетей и повысить эффективность взаимодействия с этими технологиями.

Несмотря на использование технологий интеграции онлайн-поисковиков, многие модели продолжают воспроизводить недостоверные факты. Проблема особенно остро проявляется в случаях обработки сложных вопросов и редких тематик.

Чтобы снизить риск распространения фейковых новостей через нейросети, важно принять ряд мер как на уровне разработки моделей, так и на стороне пользователей:

1. Уровень разработки нейросетей:

• Улучшенная фильтрация ответов. Нейросети должны иметь механизм отказа от ответа, если нет достаточного количества подтвержденных данных. Ранее модели применяли такую фильтрацию гораздо чаще, но стремление удовлетворить каждого пользователя привело к снижению порога достоверности.
• Проверка источников. Интеграция надежного веб-поиска должна сопровождаться тщательной оценкой качества используемых ресурсов. Необходимо разработать механизмы идентификации поддельных или низкодостоверных сайтов.
• Обучение на качественном контенте. Обучение моделей должно проводиться на предварительно проверенном и очищенном от фейковой информации корпусе данных.
• Автоматизированный контроль. Использование дополнительного слоя искусственно интеллектуальных систем, предназначенных для распознавания фейковых сообщений и автоматического удаления потенциально опасных сведений.
• Предупреждение о неуверенности. Ответы, основанные на неполных или противоречивых данных, должны помечаться специальным маркером, указывающим на потенциальную недостоверность информации.

Проверка браузера перед переходом на сайт

Это автоматический процесс. Вы будете перенаправлены на сайт в ближайшее время. Пожалуйста ожидайте…

Checking your browser accessing

This process is automatic. Your browser will redirect to your requested content shortly.

Please allow up to 5 seconds

2. Уровень пользователей:

• Самостоятельная проверка информации. Получатели ответов обязаны проявлять бдительность и самостоятельно оценивать правдоподобность полученной информации. Рекомендуется сверяться с несколькими источниками и обращаться к профессионалам в соответствующих областях.
• Повышение информационной грамотности. Повышайте осведомленность сотрудников и клиентов о возможных манипуляциях и способах противодействия им.
• Защита персональных данных. Ограничьте предоставление чувствительной информации, включая личные и коммерческие секреты, в интерфейсах нейросетей.

3. Законодательный аспект:

• Регулирование рынка. Государства и международные организации могут установить стандарты и требования к разработчикам нейросетей, направленные на повышение прозрачности и ответственность за предоставляемые пользователями услуги.

Применение этих подходов в комплексе существенно уменьшит вероятность возникновения и распространения фейковых новостей посредством нейросетевых технологий.