Оказались впереди: в России создали ИИ с полностью понятной логикой принятия решений
Учёные из Пущино разработали архитектуру ИИ на базе логических клеточных автоматов, обеспечивающую полную прозрачность решений. Эта альтернатива нейросетям-"чёрным ящикам" решает ключевую проблему современных систем – непредсказуемость выводов.
Учёные Института теоретической и экспериментальной биофизики РАН и Института биофизики клетки РАН создали принципиально новый тип искусственного интеллекта. Его ключевое отличие – полная объяснимость процесса принятия решений, что решает фундаментальную проблему современных нейросетей, пишет "ТАСС".
Как пояснил научный сотрудник ИТЭБ РАН Лев Калмыков:
Современный генеративный ИИ работает как непрозрачный "чёрный ящик". Разработчики не понимают, ка* система пришла к выводу, а пользователи не могут проверить обоснованность решений. Это создаёт риски в медицине, финансах и безопасности.
Вместо нейронных сетей учёные использовали логические клеточные автоматы – математические модели, в которых пространство разделено на дискретные ячейки, каждая ячейка имеет конечное число состояний (например, 0 или 1), а состояния меняются по чётким правилам на каждом такте времени.
Это обеспечивает полную прослеживаемость каждого этапа вычислений. Система уже апробирована для решения экологических задач.
Программа DARPA XAI (США) смогла лишь частично "приоткрыть" нейросети, но не решила проблему фундаментальной непрозрачности. В ЕС "Общий регламент по защите данных" (GDPR) требует права на объяснение алгоритмических решений, что технически невозможно для классического ИИ.
Новая архитектура позволяет создавать гибридные системы (сочетание "белого" и "чёрного" ящиков), ИИ общего назначения с гарантированной безопасностью, а также решения для критических областей: медицина, автономный транспорт, судебная экспертиза.
Нейросети-"чёрные ящики" могут принести реальные проблемы. Так в 2019 г. алгоритм Apple Card обвиняли в гендерной дискриминации при выдаче кредитов, но проверить это было невозможно из-за непрозрачности ИИ, а медицинская нейросеть IBM Watson Oncology давала опасные рекомендации по лечению рака, но врачи не могли понять логику ошибок.
Работа русских учёных – прорыв в базовых принципах ИИ. "Белые ящики" критически важны для внедрения ИИ в регулируемых отраслях,
– заявил профессор MIT Томас Диттер (Thomas Ditter) в комментарии для Science Daily.
Уважаемые читатели "Царьграда"!
Напоминаем, что вы можете читать самые интересные и важные новости Армении в Telegram, "Вконтакте" и "Одноклассниках"