Определение
Справедливость в ИИ — это оценка того, не ухудшает ли модель результаты для отдельных групп людей без разумного основания. Проще говоря, важна, потому что высокая средняя точность может скрывать вред для конкретных групп. Для страницы глоссария важно показать не только принцип, но и реальные риски, границы применения и вопросы ответственности.
Пример
Модель найма чаще отклоняет кандидатов из одной группы из-за перекоса исторических данных
Почему это важно
Важна, потому что высокая средняя точность может скрывать вред для конкретных групп
Как работает
Сначала описывают возможный вред, группы риска, данные и решения, на которые влияет система. Затем вводят проверки, ограничения, документацию, человеческий контроль и процедуры пересмотра после запуска.
Где применяется
- Используется в оценке рисков, аудитах, политике ИИ, безопасности, приватности, доверии пользователей и ответственной автоматизации.
Ограничения
Заявления об ответственности не заменяют проверок. Нужны конкретные метрики, владельцы процесса, документация и возможность пересмотра решений. Для «Справедливость в ИИ» это значит: пример и метрики нужно проверять на своей задаче, а не переносить выводы из демонстрации напрямую.
FAQ
Что значит «Справедливость в ИИ» простыми словами?
Это оценка того, не ухудшает ли модель результаты для отдельных групп людей без разумного основания. Главное — понимать практический смысл: важна, потому что высокая средняя точность может скрывать вред для конкретных групп.
Зачем знать, что такое справедливость в ИИ, при выборе ИИ-инструмента?
Термин помогает точнее оценить возможности сервиса, ограничения, требования к данным и качество результата.