Яндекс готовит тесты для оценки ИИ по духовно‑нравственным ценностям
На совещании по регулированию искусственного интеллекта компания предложила концепцию тестовых заданий и эталонов, чтобы проверить ИИ на соответствие духовно‑нравственным ценностям страны.
Источники сообщают, что проект пока находится на стадии концепции.
Задача тестов — определить соответствие ИИ духу времени и ценностям страны.
Обсуждалось, что данные для тестирования должны быть как открытыми, так и закрытыми, чтобы не дать разработчикам легко подстроить модели.
Участники рынка подчеркнули, что полностью закрытый датасет может быть слишком сложным, и предложили компромисс: использовать и открытые, и закрытые данные с разной постановкой вопросов.
Контекст: в конце июля президент подписал закон о суверенных и национальных моделях ИИ, которые должны соответствовать законам России и духовно‑нравственным ценностям.