Надёжное AI-видеонаблюдение в 2026 году: качество данных, борьба с предвзятостью, приватность и требования EU AI Act

Зачем Фора Софт написала этот плейбук по этике AI-видеонаблюдения

Мы создаём AI-интегрированный софт и видеопродукты с 2005 года, со 100%-м рейтингом успеха на Upwork. Наша практика охватывает live-shopping, телемедицину, видео для судов, e-learning и AI-видеонаблюдение — все системы, где предвзятость, нарушение приватности или пропущенное событие за минуты превращаются в инцидент перед клиентом или в юридический риск.

Подтверждение опыта: Sprii (ведущая европейская live-shopping-платформа с продажами более 365 млн €), TransLinguist (контракт с NHS-UK, обслуживающий 30 000+ переводчиков на 75+ языках), BrainCert (LMS на WebRTC с тысячами одновременных учеников) и развёртывания AI-видеонаблюдения в режиме 24/7 в более чем 650 организациях.

Наша позиция: этика — это инженерия. Команды, которые выпускают надёжное AI-видеонаблюдение, относятся к предвзятости, приватности и объяснимости так же, как к задержке или uptime — это измеримые, тестируемые и наблюдаемые свойства системы. Описанный ниже фреймворк — это то, что выдержало два года применения на реальных продуктовых командах под пристальным вниманием EU AI Act, GDPR, HIPAA и BIPA.

Почему надёжное AI-видеонаблюдение важно в 2026 году

AI превратил видеонаблюдение из пассивной записи в активное предотвращение инцидентов. Развёрнутые AI-инструменты безопасности уже сократили число производственных инцидентов на 75% и сэкономили миллиарды на потерях. Возможность реальная — но и поверхность риска тоже. В 2026 году этот риск усиливают три фактора:

1. Регулирование. Запреты EU AI Act действуют с 2 февраля 2025 года, требования к системам высокого риска — с 2 августа 2026 года. Биометрическое наблюдение в публичных пространствах попадает под действие закона напрямую. Максимальные штрафы: 35 млн € или 7% мирового оборота — что больше. ISO/IEC 42001 (новый стандарт системы управления AI) ложится поверх ISO 27001 и становится требованием при закупках в Европе и Великобритании.

2. Предвзятость и точность. Бенчмарк NIST FRVT продолжает фиксировать в 3–100× более высокий уровень ложноположительных срабатываний для недопредставленных демографических групп — в зависимости от алгоритма. Лидеры показывают около 0,08% FPIR на самых простых когортах и более 1% на сложных. Старые алгоритмы, всё ещё работающие в продакшене, дают 2–5% по всему срезу.

3. Операционная реальность. Отраслевые данные по системам предотвращения потерь в ритейле показывают, что 80–95% алертов — ложные или нерелевантные. Операторы их игнорируют. Реальные угрозы тонут в шуме. Надёжный AI — то есть точный, справедливый, объяснимый и удобный в эксплуатации — теперь единственный, который имеет смысл выпускать.

Три столпа надёжного AI-видеонаблюдения

Надёжное AI-видеонаблюдение опирается на три несущих столпа: качество данных, этичная архитектура и инструментирование compliance. Уберите хотя бы один — и система рухнет. Обычно тихо: через 90% ложных срабатываний, предписание регулятора или коллективный иск.

Столп 1. Качество данных

Мусор на входе — мусор на выходе. В видеонаблюдении вход по определению грязный: съёмка при низком освещении, смазы от движения, перекрытия, экстремальные ракурсы, артефакты сжатия. В продакшене уровень ложноположительных срабатываний оказывается в 10× выше, чем на демо, потому что демо крутится на чистых тестовых наборах. Решается тремя действиями: соберите демографически сбалансированные обучающие данные; обрабатывайте видео на edge (шумоподавление, super-resolution, коррекция освещения); запускайте непрерывный контроль качества самого живого потока, а не только выхода модели.

Столп 2. Этичная архитектура

Privacy-by-design — больше не лозунг, а архитектурное решение. Edge-инференс плюс размытие лиц и номеров до передачи превращают облачное хранилище из регуляторной мины в индекс метаданных. Federated learning позволяет мульти-сайт-клиентам обучать общие модели, не перемещая сырое видео. Differential privacy при обучении (epsilon в диапазоне 1–5) даёт математические гарантии того, что данные конкретного человека не были запомнены моделью. Инструменты права на объяснение (SHAP, LIME, контрфакты) переходят из исследовательской категории в обязательное требование compliance с момента вступления в силу обязанностей по системам высокого риска в августе 2026 года.

Столп 3. Инструментирование compliance

Compliance — это в основном логирование, политика хранения и документация DPIA. EU AI Act, GDPR, ISO/IEC 42001, NIST AI RMF, BIPA, CCPA и HIPAA имеют общее ядро: докажите, что вы минимизировали данные, что вы тестировали систему на предвзятость, что вы можете объяснить решения и что человек участвует в принятии решений с высокими ставками. Закладывайте эту телеметрию в систему с первого дня — или платите в 5–10× больше потом, при доработке.

Регуляторный ландшафт 2026 года в одной таблице

Большинство продуктовых команд узнают о регуляторной поверхности только тогда, когда отдел закупок просит DPIA или регулятор присылает уведомление. Ниже — снимок, который мы используем как базовую точку для каждого проекта.

Не относитесь к этому списку как к меню. Американский ритейлер с европейскими операциями нуждается одновременно в GDPR, EU AI Act, CCPA и (скорее всего) BIPA. Поверхность compliance суммируется.

Технологический стек AI-видеонаблюдения 2026 года

Современный, этично спроектированный продукт AI-видеонаблюдения состоит из четырёх слоёв. У каждого — своё решение «купить или собрать» и своё значение для приватности.

1. Edge-слой. NVIDIA Jetson Orin Nano (40 TOPS, около 15 тыс. ₽, 25–50 Вт) — рабочая лошадка для серьёзных развёртываний. Hailo-8 (13 TOPS, 3 Вт) — для аккумуляторных и ограниченных по теплу сценариев. Coral и Ambarella — для legacy и low-cost. Edge-слой выполняет детекцию объектов (YOLOv9/v10/v11), мульти-объектный трекинг (BoT-SORT, ByteTrack, DeepSORT) и приватные примитивы (размытие лиц и номеров) до того, как пиксели покинут устройство.

2. Слой поведения и VLM. Vision Language Models для классификации поведения и запросов на естественном языке («покажи всех, кто вошёл после 18:00»). GPT-4o, Claude и Gemini — для облачной точности; Florence-2, Qwen-VL и небольшие дообученные VLM — для on-device-инференса. Облачные VLM на 10–30% точнее, но создают риски для приватности и затрат — гибридный паттерн: edge для первичной обработки, облако для обогащения.

3. Слой хранения и метаданных. Сырое видео — максимум 7–14 дней. Метаданные (события, bounding box, оценки уверенности, решения) — бессрочно. Append-only журналы аудита с криптографической подписью. Минимизация данных — это не только compliance: она снижает затраты на облачное хранение в 5–10×.

4. Слой оператора. Дашборды с человеком в петле принятия решений, объяснимостью (наложения SHAP, контрфакты), панелями мониторинга предвзятости и экспортом DPIA в один клик. Дашборд — это место, где compliance становится управляемым; если ваша команда не может ответить на вопрос регулятора за 5 минут из этого слоя, архитектура неправильная.

Предвзятость и точность: инженерная задача с инженерными ответами

Предвзятость в AI-видеонаблюдении — это не предмет дискуссии, это измерение. NIST FRVT раз за разом публикует один и тот же вывод: уровень ошибок различается в 3–100× между демографическими группами в зависимости от алгоритма. Решение — процедурное и проверяемое.

1. Демографически сбалансированные обучающие данные. Стратифицируйте обучающую выборку по возрасту, полу, тону кожи, телосложению, освещению и углу обзора. Зафиксируйте разбивку в model card. Стоит это реальных денег, но мало по сравнению с коллективным иском.

2. Дезагрегированные тестовые наборы. Один общий показатель точности скрывает всё, что важно. Публикуйте точность и уровень ложноположительных срабатываний по каждой демографической страте — и привязывайте релизы к худшему показателю когорты, а не к среднему.

3. Непрерывный мониторинг предвзятости. Продакшен-данные дрейфуют. Демография тоже. Запускайте еженедельные автоматические аудиты предвзятости на продакшен-выходе и инициируйте дообучение, когда ошибка худшей когорты превышает фиксированный порог (мы используем 1,5× от уровня лучшей когорты как сигнальную линию).

4. Тестируйте VLM отдельно. Свежие исследования показывают: VLM (GPT-4o, Claude, Gemini) описывают одно и то же видео по-разному в зависимости от воспринимаемых демографических признаков — называя одинаковое поведение «подозрительным» или «человек ждёт друга». Если в вашем пайплайне видеонаблюдения участвует VLM, её нужно оценивать на такую языковую предвзятость отдельно — не только базовый детектор.

Паттерны privacy-by-design, которые действительно работают

Размытие на edge до передачи. Детектируйте лица и номера прямо на edge, размывайте их необратимо, и только потом передавайте. Это добавляет 5–10 мс на кадр на Jetson и снижает риск повторной идентификации почти до нуля.

Селективная передача. По умолчанию отправляйте только метаданные (тип события, bounding box, метку времени, уверенность); сырые видеоклипы — лишь по явному запросу указанного оператора с зафиксированной причиной. Это сокращает трафик на 70–90% и сужает поверхность для утечек.

Минимизация данных и жёсткие сроки хранения. Сырое видео — 7–14 дней, затем автоудаление. Метаданные — 90 дней для операционных нужд; дольше — только при задокументированной цели.

Federated learning для мульти-сайт-клиентов. Обучайте модели на месте, отправляйте в центральный агрегатор градиенты, а не видео. Это дружественно к GDPR — сырые данные никогда не покидают периметр.

Differential privacy при обучении. Epsilon в диапазоне 1–5 даёт сильные гарантии того, что данные конкретного человека не были запомнены моделью. Цена — 2–3% потери точности при epsilon=5; вполне приемлемо.

Append-only журналы аудита. Каждый доступ к данным, решение модели и переопределение оператора получают подписанную запись. Срок хранения — 3–7 лет. Аудиторы это любят; инженерные команды любят после первого визита регулятора.

Модель затрат: сколько на самом деле стоит compliant AI-видеонаблюдение

Конкретный пример. Развёртывание на 200 камер для регионального ритейлера: edge-first гибрид, полный DPIA, соответствие ISO/IEC 42001 и дашборд с человеком в петле принятия решений.

С Agent Engineering мы поставляем заметно быстрее и плотнее, чем при типичных агентских сроках, — нам комфортно выпустить развёртывание на 200 камер за 9–12 месяцев под ключ.

Самая частая ошибка — финансировать железо и ML, но обрезать инструментирование compliance до «фазы 2». «Фаза 2» наступает в утро, когда регулятор присылает письмо. К этому моменту она стоит в 5–10× дороже того, во сколько обошлась бы при первой сборке.

Фреймворк решений: выбираем подход к AI-видеонаблюдению по пяти вопросам

Q1. Какова ваша юрисдикционная поверхность? Операции в ЕС: исходите из того, что EU AI Act относит вас к высокому риску. США с Калифорнией или Иллинойсом: BIPA + CCPA. Здравоохранение: HIPAA. Каждый из этих режимов диктует архитектуру, а не только бумаги.

Q2. On-device, облако или гибрид? Биометрия или задержка менее 200 мс — edge-first гибрид. Допустимая задержка и отсутствие PII — допустим cloud-first. По умолчанию в 2026 году — гибрид.

Q3. Детекция аномалий или конкретных событий? Известные угрозы с размеченными примерами — детекция конкретных событий. Неизвестное / новые сценарии — детекция аномалий на базовой линии нормального поведения. Гибрид (правила + аномалии) снижает количество ложноположительных срабатываний на 30–40%.

Q4. VLM или классический CV-пайплайн? Запросы оператора на естественном языке и классификация поведения — VLM. Высокий объём, низкая стоимость детекции — классический CV (YOLO + трекер). Снова выигрывает гибрид: классика для быстрой первичной обработки, VLM для обогащения.

Q5. Купить или собрать? Стандартный сценарий (периметр, предотвращение потерь в ритейле, общий контроль СИЗ) — допустима COTS-система. Кастомный отраслевой контекст, чувствительное к этике развёртывание или регуляторная специфика — собирайте с партнёром. Time-to-value 6 месяцев: сначала купить, потом собирать. Высокий риск compliance: собирать (вы контролируете журнал аудита).

Мини-кейс: снижение объёма ложных тревог в 7× на ритейл-продукте

Ситуация. Мульти-магазинный ритейлер использовал готовый облачный продукт AI-видеонаблюдения на 180 камерах. Объём алертов составлял 100–130 на камеру в день. 88% — ложные срабатывания: блики, перекрытия, плотность покупателей в часы пик. Сотрудники loss-prevention перестали разбирать очередь. Реальные инциденты воровства проскакивали мимо. С compliance была отдельная проблема — система гнала сырое видео в US-East-1 без оформленного DPIA.

План на 12 недель. Мы заменили облачный пайплайн edge-слоем на Jetson Orin (YOLOv11 + BoT-SORT), который выполняет первичную детекцию и трекинг, плюс размытие лиц и номеров до того, как данные покинут камеру. Добавили базовую линию аномалий, обученную для каждого магазина на 30 днях нормального трафика, чтобы система отмечала необычное поведение, а не гонялась за фиксированным списком «подозрительных» событий. Облако сократили до индекса метаданных и эпизодического обогащения клипов дообученной VLM. Параллельно собрали DPIA, аудит предвзятости и операторский дашборд.

Результат. Объём алертов упал со 100–130 на камеру в день до 14–18 — снижение в 7×. Уровень ложноположительных срабатываний — с 88% до 39%. Детекция реальных инцидентов выросла на 22% (операторы наконец снова стали обращать внимание). Затраты на исходящий облачный трафик сократились на 76%. Система прошла DPIA-проверку, и подготовка к ISO/IEC 42001 шла по плану. Хотите аналогичную оценку для своего продукта? Позвоните или напишите нам.

Пять ловушек, которые мы регулярно видим в продуктах AI-видеонаблюдения

1. Cloud-first-архитектуры с биометрией. Передача сырого видео с лицами в США или иной не-европейский регион — это нарушение GDPR по умолчанию. Исправляйте до запуска, а не после уведомления регулятора. Edge-инференс плюс необратимое размытие — единственный безопасный путь.

2. Совокупная точность, скрывающая разрывы по когортам. «Точность 94%» без разбивки по когортам ничего не говорит о том, проваливается ли система на конкретных демографических группах. Всегда тестируйте дезагрегированно.

3. Галлюцинации VLM в видеонаблюдении. Облачные VLM иногда придумывают описания того, что они на самом деле толком не видели — цвет одежды, поведение, намерения. В контексте видеонаблюдения такая галлюцинация попадает в отчёт об инциденте как «доказательство». Добавляйте пороги уверенности, выборочную сверку с эталоном и никогда не позволяйте VLM напрямую запускать действие.

4. Vendor lock-in на проприетарные edge-устройства. Устройства Hikvision и Dahua привязывают вас к их форматам моделей. Держитесь открытых стандартов (ONVIF для камер, ONNX для моделей), чтобы менять железо без переписывания системы.

5. Кросс-камерная повторная идентификация, утекающая PII. Если ваши метаданные трекинга (походка, одежда, рост) позволяют повторно идентифицировать человека между магазинами или сайтами — вы обрабатываете биометрию, хотели вы того или нет. Хешируйте идентификаторы людей по локации и держите метаданные изолированными по сайту.

KPI, которые стоит отслеживать после запуска

KPI качества. Совокупная точность и полнота (precision выше 70% в стабильном режиме), точность и полнота худшей когорты (разрыв с лучшей не более 1,5×), частота ложноположительных срабатываний на камеру в день (не более 25) и доля переопределений оператора (здоровая система — 10–30%; меньше — операторы не пересматривают, больше — модель ошибается).

Бизнес-KPI. Уровень детекции инцидентов относительно базовой линии, среднее время реакции на реальные события (менее 5 минут), снижение страховых выплат и shrink (типичный ритейл-бенчмарк — снижение на 5–15%) и NPS оператора (если он низкий — система гонит шум).

KPI надёжности. Uptime edge-устройств на камеру (более 99%), задержка обнаружения дрейфа модели (менее 7 дней от начала дрейфа до триггера дообучения), целостность журнала аудита (100% append-only, без пропусков) и время подготовки DPIA-готового отчёта (менее 1 часа от запроса).

Когда AI-видеонаблюдение разворачивать НЕ стоит

Три сценария, в которых мы советуем клиентам подождать или сократить объём.

Биометрическая идентификация в публичных пространствах (ЕС). Биометрическая идентификация в реальном времени в публичных пространствах фактически запрещена в EU AI Act, кроме узких исключений для правоохранительных органов. Если ваш сценарий — «идентифицировать всех проходящих мимо», вы на запрещённой территории.

Развёртывания до DPIA под GDPR. Пропуск DPIA при обработке биометрии — хрестоматийное нарушение. Не разворачивайте систему, пока DPIA не завершён и не подписан.

Vendor-locked-стек, в котором вы не можете аудировать модель. Если вендор не делится документацией модели, происхождением обучающих данных или оценками предвзятости — вы не сможете доказать compliance. Вы несёте его риск на собственном балансе. Выбирайте вендора, который позволяет проводить аудит, либо делайте сами.

Как провести бенчмарк продукта AI-видеонаблюдения до запуска

Маркетинговые демо лгут отбором. Соберите отложенный набор для оценки на реальных записях с ваших камер: разнообразная демография, освещение и типы событий. Прогоняйте все системы-кандидаты по одному и тому же набору.

Точность детекции. Совокупные precision и recall плюс дезагрегированно по когортам. Не принимайте от вендора только совокупные цифры.

Уровень ложноположительных срабатываний на рабочем пороге. Подстройте порог под вашу операционную реальность. Если потолок терпимости — 25 ложных срабатываний на камеру в день, оценивайте систему именно там.

Adversarial-устойчивость. Тестируйте на солнцезащитных очках, шапках, масках, при низком освещении, со смазами движения и под дождём. Видеозапись в реальной эксплуатации грязнее любого бенчмарка; система, выигрывающая на чистых данных, часто проигрывает в поле.

FAQ

Когда EU AI Act реально начинает применяться к AI-видеонаблюдению?

Запреты (биометрическая идентификация в реальном времени в публичных пространствах, социальный скоринг, отдельные сценарии распознавания эмоций) вступили в силу 2 февраля 2025 года. Требования к системам высокого риска (оценка рисков, человеческий контроль, прозрачность, управление данными) — со 2 августа 2026 года. Большинство публичного AI-видеонаблюдения попадает в категорию высокого риска. Штрафы — до 35 млн € или 7% мировой выручки.

Почему cloud-first AI-видеонаблюдение создаёт риск приватности?

Передача сырого видео с лицами и номерами в облако создаёт централизованное хранилище биометрических данных — класса данных, которые GDPR относит к «специальной категории» (статья 9). Это также означает трансграничную передачу данных (статья 44) для любого не-европейского облачного региона. Edge-инференс плюс необратимое размытие до передачи сводят поверхность приватности к индексу метаданных, с которым гораздо проще соблюдать compliance.

Сколько стоит создать compliant продукт AI-видеонаблюдения на 200 камер?

Production-grade-системы с edge-обработкой, полным DPIA, аудитом предвзятости, соответствием ISO/IEC 42001 и дашбордами с человеком в петле принятия решений обычно стоят 37–112 млн ₽ за начальную сборку 12–18 месяцев. Текущие расходы — 2 250–11 тыс. ₽ на камеру в месяц на эксплуатацию edge плюс 1,1–5,2 млн ₽ в год на накладные расходы compliance. С Agent Engineering мы регулярно укладываемся в нижнюю часть этих диапазонов.

Как доказать, что моя система AI-видеонаблюдения не предвзята?

Три артефакта: model card с демографией обучающих данных, дезагрегированный отчёт по тестированию с precision и recall по когортам и дашборд непрерывного мониторинга предвзятости, который сравнивает продакшен-выход между когортами от недели к неделе. Целевой ориентир: ошибка худшей когорты в пределах 1,5× от лучшей. Большее расхождение — аудиторский риск.

Можно ли использовать VLM (GPT-4o, Claude, Gemini) в AI-видеонаблюдении?

Осторожно. Облачные VLM на 10–30% точнее в классификации поведения, чем меньшие on-device-модели, но создают вопросы к приватности (сырое видео уходит в облако), к стоимости (0,3–1 ₽ за изображение в масштабе) и к предвзятости (свежие исследования показывают, что VLM описывают одинаковое поведение по-разному в зависимости от демографических признаков). Гибридный паттерн — edge для первичной обработки и облачная VLM для обогащения на выборке, с порогами уверенности и проверкой человеком в ключевых точках.

В чём разница между детекцией конкретных событий и детекцией аномалий?

Детекция конкретных событий обучает модели распознавать известные угрозы (магазинная кража, оружие, падение). Она точна на размеченных сценариях, но слепа к новым. Детекция аномалий обучает базовую линию нормального поведения и помечает отклонения. Она лучше справляется с неизвестным, но сложнее настраивается. Гибрид (правила + базовая линия аномалий) в наших развёртываниях стабильно снижает объём ложноположительных срабатываний на 30–40%.

Нужна ли мне сертификация ISO/IEC 42001?

Сегодня — юридически нет. Но сертификация быстро становится требованием при корпоративных закупках в ЕС и Великобритании и остаётся самым чистым способом продемонстрировать соответствие EU AI Act для систем высокого риска. Мы рекомендуем проектировать систему с прицелом на ISO/IEC 42001 с первого дня и идти к сертификации по мере зрелости развёртывания.

Сколько времени нужно, чтобы построить compliant систему AI-видеонаблюдения с нуля?

Пилот (10–30 камер) — 3 месяца. Региональное развёртывание (50–100 камер) — 6 месяцев. Полная продакшен-система (200+ камер) с соответствием EU AI Act — 9–12 месяцев с Agent Engineering, 12–18 месяцев в традиционных агентских сроках.

Что почитать дальше

Готовы выпустить надёжное AI-видеонаблюдение до августа 2026 года?

Операционная реальность 2026 года проста: надёжное AI-видеонаблюдение — единственное, которое имеет смысл выпускать. EU AI Act делает его обязательным. Операторы перестают доверять шумным системам. Предвзятость теперь — измеримое и тестируемое инженерное свойство. Privacy-by-design выросло из лозунга в архитектурный паттерн. Compliance — это в основном своевременное логирование и подготовка DPIA.

Если вы хотите ревизию текущего продукта видеонаблюдения — или 12-недельный план приведения системы к соответствию EU AI Act и ISO/IEC 42001 — мы сделаем эту работу вместе с вами. Двадцать лет инженерии в мультимедиа и AI, 100%-й рейтинг успеха на Upwork, Agent Engineering для ускоренной поставки. Принесите свой DPIA-разрыв — мы принесём архитектуру.

Бонус: безопасная работа с галлюцинациями VLM в пайплайнах видеонаблюдения

Облачные VLM иногда описывают видео, которое на самом деле толком не видели. Модель пишет «человек в красной куртке с рюкзаком», когда человек в синем и без сумки. В контексте видеонаблюдения такая галлюцинация попадает в отчёт об инциденте как доказательство.

Митигация 1. Сверка с эталоном на выборке. 5% выходов VLM оператор сверяет с исходным клипом. Если согласие падает ниже 90%, модель ставится на паузу и пересматривается.

Митигация 2. Пороги уверенности и воздержание. Настройте VLM так, чтобы при низкой уверенности она возвращала «не могу определить» вместо догадки. На облачных API это сложнее обеспечить, но реально через грамотный промпт и структурированный вывод.

Митигация 3. Никогда не давайте VLM запускать действия. Классификация поведения попадает в операторский дашборд. Оператор подтверждает решение перед любым действием. VLM, которая запускает тревогу без человека в петле принятия решений, — это иск, который только и ждёт повода.

Бонус: вопросы любому вендору AI-видеонаблюдения до подписания договора

1. Какие у вас precision и recall на худшей когорте на репрезентативном тестовом наборе?

2. Можете ли вы предоставить model card с демографией обучающих данных?

3. Как обстоит дело с резидентностью и сроками хранения данных для клиентов из ЕС?

4. Экспортируются ли ваши модели в ONNX или я привязан к вашему edge-устройству?

5. Как вы поддерживаете подготовку DPIA для своих клиентов?

6. Прошли ли вы аудит по ISO/IEC 42001 или находитесь на пути к нему?

Бонус: глоссарий регуляторных и технических терминов

DPIA (Data Protection Impact Assessment). Обязательный документ согласно статье 35 GDPR для биометрической и крупномасштабной обработки. Описывает законное основание, риски и митигации.

FPIR (False Positive Identification Rate). Главная метрика NIST для систем распознавания лиц: насколько часто система помечает не того человека.

SHAP / LIME / контрфакты. Техники объяснимости, которые показывают, почему модель приняла конкретное решение. EU AI Act требует их для систем высокого риска.

BAA (Business Associate Agreement). Обязательный для HIPAA контракт до того, как облачный провайдер коснётся PHI. Без него передача видео в облако в медицине — нарушение.

Federated learning. Парадигма обучения, при которой данные остаются на каждом сайте; в центральный агрегатор передаются только градиенты модели. Сильное свойство приватности, более медленная сходимость.