Новое открытие учёных: ИИ можно манипулировать с помощью "отравленных" данных
Исследователи обнаружили уязвимость искусственного интеллекта к манипуляциям через недостоверную информацию.
Исследователи из Нью-Йоркского университета провели эксперимент, результаты которого вызвали серьёзную обеспокоенность в научном сообществе. Они изучали уязвимость систем искусственного интеллекта (ИИ) перед внедрением недостоверной информации в обучающие материалы. Результаты исследования опубликованы в журнале Nature.
Специалисты провели ряд экспериментов с масштабными языковыми моделями (LLM), применяемыми в разных сферах, включая медицину. В ходе исследований выяснилось, что даже незначительное количество некорректных данных — всего 0,001% — может привести к тому, что нейросети начнут выдавать неправильные результаты.
Крайне тревожным результатом стало повышение уровня дезинформации до 0,01%, что привело к увеличению числа неправильных ответов до 10%. Это говорит о том, что даже незначительное количество ложных данных может значительно снизить качество ответов, создаваемых искусственным интеллектом.
Специалисты выявили закономерность: неверные сведения в одной сфере могут стать причиной неточностей в смежных областях. Это способно привести к распространению ложных данных через популярные сервисы на основе искусственного интеллекта.
Специалисты настаивают на разработке чётких правил проверки информации, которая применяется для обучения искусственного интеллекта. Они подчёркивают, что без контроля существует риск масштабного распространения недостоверных данных.
Уважаемые читатели "Царьграда"!
Напоминаем, что вы можете читать самые интересные и важные новости Армении в Telegram, "Вконтакте" и "Одноклассниках".