фото: magnific
Университет Решетнева разработал методику, направленную на минимизацию риска генерации ложных данных нейросетями. Данная технология имеет потенциал для применения в образовательных системах, платформе "Госуслуги", а также в медицинской и юридической сферах.
Нейросети могут генерировать вымышленные данные, что требует разработки эффективных методов их верификации. Ученые из Университета Решетнева провели анализ типичных ошибок, возникающих при работе нейросетей, и разработали классификатор для их идентификации.
На основе проведенного анализа была создана автоматизированная система стресс-тестирования, позволяющая сравнивать результаты работы нейросети с эталонными данными. Эта система функционирует в режиме реального времени и анализирует поступающие запросы, оценивая вероятность ошибки, присваивая уровень достоверности и информируя оператора при низком уровне уверенности в корректности данных.
Разработанная методика обладает высокой степенью универсальности и может быть адаптирована для различных моделей искусственного интеллекта. В перспективе планируется её интеграция в образовательные и государственные сервисы, а также в системы здравоохранения и юриспруденции.
