Запрещённые практики ИИ по Регламенту ЕС об ИИ: что запрещено уже с 2025 года
Обновлено: 2 ноября 2026 г.
Главное
- С 2 февраля 2025 года в ЕС запрещены восемь видов использования ИИ, а с 2 августа 2025 года нарушения могут стоить до 35 млн евро или 7% мирового годового оборота.
- Запреты распространяются на поставщиков и эксплуатантов, в том числе за пределами ЕС, если результаты работы их ИИ используются в ЕС. Эксплуатант не может ссылаться на условия договора с поставщиком.
- Несколько запретов затрагивают обычные коммерческие продукты: распознавание эмоций в HR- и образовательных инструментах, манипулятивный маркетинг, причиняющий значительный вред, и ИИ, который оценивает людей как вероятных преступников только по их профилю.
- Мониторинг транзакций на основе фактов не подпадает под запрет на прогнозирование преступлений по профилю.
- С 2 декабря 2026 года пакет Digital Omnibus добавляет два новых запрета: на создание с помощью ИИ интимных изображений без согласия и материалов с сексуальным насилием над детьми.
С 2 февраля 2025 года восемь видов использования ИИ в ЕС запрещены полностью, а с 2 августа 2025 года нарушение этих запретов может стоить до 35 млн евро или 7% мирового годового оборота. Многие компании считают, что этот список — о полицейской слежке и антиутопических сценариях, не имеющих к ним отношения. На деле несколько запретов затрагивают обычные коммерческие продукты: HR-инструменты, маркетинговые чат-боты, программы для экзаменов и генераторы изображений.
Читайте также: EU AI Act: четыре уровня риска (на английском)
Читайте также: EU AI Act: четыре уровня риска (на английском)
На кого распространяются запреты
Запреты распространяются на поставщиков, выводящих ИИ-системы на рынок ЕС, в том числе находящихся за пределами ЕС, на эксплуатантов в ЕС, а также на поставщиков и эксплуатантов за пределами ЕС, результаты работы ИИ которых используются в ЕС. AI Act не применяется к системам, используемым исключительно в военных целях, для обороны или национальной безопасности, и к ИИ, разработанному и введённому в эксплуатацию исключительно для научных исследований, а также не возлагает обязанностей на физических лиц, использующих ИИ в сугубо личных, непрофессиональных целях. Эксплуатант не может прикрыться условиями поставщика: согласно Руководству Еврокомиссии, работодатель, использующий ИИ для определения эмоций на рабочем месте, подпадает под запрет, даже если поставщик исключил такое использование в договоре.
Манипуляция и эксплуатация уязвимостей
Первые два запрета касаются ИИ, использующего подсознательные, намеренно манипулятивные или обманные техники, и ИИ, эксплуатирующего уязвимости, связанные с возрастом, инвалидностью или особым социальным или экономическим положением. В обоих случаях ИИ должен существенно исказить поведение человека так, что это причиняет или может причинить значительный вред. Среди примеров Еврокомиссии — чат-бот, который синтезированным голосом выдаёт себя за друга или родственника человека, ИИ-игрушки, эксплуатирующие уязвимость детей, и ИИ, который нацеливается на пожилых людей с обманными персонализированными предложениями или мошенническими схемами. Обычное убеждение и персонализированная реклама не запрещены. Критерий — значительный вред, поэтому маркетинговым командам стоит документировать, как они его избегают.
Социальный скоринг
ИИ нельзя использовать для оценки или классификации людей по их социальному поведению или личным характеристикам, если полученная оценка приводит к неблагоприятному обращению в несвязанных контекстах либо к необоснованному или несоразмерному обращению. Запрет распространяется как на частные компании, так и на государственные органы. Он не затрагивает законную оценку, проводимую для конкретной цели в соответствии с правом ЕС и национальным законодательством. Кредитный скоринг, например, как правило, относится к высокорисковым видам использования, а не к запрещённым, если только он не отвечает условиям запрета на социальный скоринг.
Прогнозирование преступлений по профилю
ИИ нельзя использовать для оценки риска того, что человек совершит преступление, исключительно на основе профилирования или его личностных черт. Исключение — ИИ, который поддерживает оценку человека, уже основанную на объективных и проверяемых фактах, непосредственно связанных с преступной деятельностью. Это важно для комплаенс-команд и команд по противодействию отмыванию денег. Мониторинг транзакций, который помечает подозрительные операции на основе фактов, под запрет не подпадает. Инструмент, который оценивает клиентов как вероятных преступников только по их профилю, — подпадает.
Базы лиц, эмоции на работе и чувствительные признаки
Ещё три запрета касаются биометрии. ИИ нельзя использовать для создания баз распознавания лиц путём нецелевого сбора изображений из интернета или записей камер видеонаблюдения. Нельзя определять эмоции на рабочем месте или в образовании, кроме как по медицинским причинам или соображениям безопасности. И нельзя использовать биометрические данные для категоризации людей по расе, политическим взглядам, членству в профсоюзах, религиозным или философским убеждениям, сексуальной жизни или ориентации, хотя маркировка или фильтрация законно полученных биометрических наборов данных, в том числе в правоохранительной деятельности, допускается.
Запрет на распознавание эмоций чаще всего затрагивает обычные продукты: ПО колл-центров, оценивающее эмоции операторов, или системы прокторинга, считывающие лица студентов во время экзаменов. Но у него есть пределы. Распознавание эмоций клиентов не запрещено, но относится к высокорисковым видам использования, и с 2 августа 2026 года людей, к которым оно применяется, нужно об этом уведомлять.
Распознавание лиц полицией в реальном времени
Последний запрет касается удалённой биометрической идентификации в реальном времени в общественных местах в правоохранительных целях. У него три узких исключения: целенаправленный поиск жертв похищения, торговли людьми или сексуальной эксплуатации и пропавших без вести; предотвращение конкретной, существенной и неминуемой угрозы жизни или физической безопасности либо реальной и существующей или прогнозируемой угрозы теракта; и поиск подозреваемых в тяжких преступлениях, за которые грозит не менее четырёх лет лишения свободы. Каждое применение требует предварительного разрешения судебного или независимого административного органа; в срочных случаях его можно начать без разрешения, но запросить разрешение нужно в течение 24 часов.
Два новых запрета с 2 декабря 2026 года
Пакет Digital Omnibus добавляет два запрета: ИИ, который создаёт или изменяет реалистичные интимные изображения или видео узнаваемого человека без его явного согласия, и ИИ, который создаёт материалы с сексуальным насилием над детьми. Поставщики подпадают под запрет, если это предполагаемое назначение системы либо если такой результат разумно предсказуем и воспроизводим, а надлежащих защитных мер нет. Эксплуатанты подпадают под запрет, если сами используют систему для создания таких материалов. Для поставщиков генераторов изображений и видео практический вопрос в том, успеют ли они внедрить защитные меры к декабрю.
Читайте также: Отсрочка EU AI Act в 2026 году: что изменил Digital Omnibus
Штрафы и правоприменение
Нарушения могут повлечь штрафы до 35 млн евро или 7% мирового годового оборота, в зависимости от того, что больше. Для МСП и стартапов применяется меньшая из двух сумм. Контроль осуществляют национальные органы надзора за рынком, которые государства-члены должны были назначить к 2 августа 2025 года. Некоторые страны опоздали: Германия, например, сделала Федеральное сетевое агентство (Bundesnetzagentur) центральным органом надзора за рынком ИИ только в июле 2026 года. По состоянию на октябрь 2026 года нам не удалось найти публичных сообщений о штрафах по этим запретам, но органы надзора уже работают.
Руководство Еврокомиссии
Содержание Руководства Еврокомиссии по запрещённым практикам ИИ было одобрено 4 февраля 2025 года, а итоговое Сообщение датировано 29 июля 2025 года. Оно не является обязательным, и толковать AI Act авторитетно может только Суд ЕС. Тем не менее это лучший ориентир того, как органы будут читать запреты, а его примеры — практичный чек-лист.
Что мы рекомендуем
- Проверьте по списку каждую ИИ-систему, которую вы создаёте или используете, включая функции внутри более крупных продуктов.
- Проверьте HR-, рабочие и образовательные инструменты на функции, определяющие эмоции.
- Пересмотрите персонализированный маркетинг, нацеленный на детей, пожилых людей или финансово уязвимых клиентов.
- Если вы предлагаете генерацию изображений или видео, внедрите защитные меры до 2 декабря 2026 года.
- Убедитесь, что договоры с поставщиками ИИ не оставляют запрещённую функцию включённой по умолчанию.
Итог
Запрещённые практики — самая короткая часть AI Act и самая дорогая для ошибки. Для большинства компаний риск не в сознательном решении использовать запрещённую систему, а в функции, которую никто не проверил. Если вы не уверены, не приближаются ли ваши ИИ-инструменты к этой границе, AMLzone поможет их проверить и задокументировать вашу позицию.
Источники
1. Regulation (EU) 2024/1689 (AI Act), Art. 5, Art. 99(3) and Art. 113. https://eur-lex.europa.eu/eli/reg/2024/1689/oj/eng
2. AI Act, Art. 2(1), (3), (6) and (10). https://eur-lex.europa.eu/eli/reg/2024/1689/oj/eng
3. European Commission, Guidelines on prohibited artificial intelligence practices established by Regulation (EU) 2024/1689, C(2025) 5052, para 14. https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-prohibited-artificial-intelligence-ai-practices-defined-ai-act
4. AI Act, Art. 5(1)(a)–(b); Commission Guidelines on prohibited AI practices, section on harmful manipulation and exploitation of vulnerabilities. https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-prohibited-artificial-intelligence-ai-practices-defined-ai-act
5. AI Act, Art. 5(1)(c) and recital 31; Commission Guidelines on prohibited AI practices, section on social scoring. https://eur-lex.europa.eu/eli/reg/2024/1689/oj/eng
6. AI Act, Art. 5(1)(d). https://eur-lex.europa.eu/eli/reg/2024/1689/oj/eng
7. AI Act, Art. 5(1)(e)–(g). https://eur-lex.europa.eu/eli/reg/2024/1689/oj/eng
8. AI Act, Annex III, point 1(c), and Art. 50(3). https://eur-lex.europa.eu/eli/reg/2024/1689/oj/eng
9. AI Act, Art. 5(1)(h), (2) and (3). https://eur-lex.europa.eu/eli/reg/2024/1689/oj/eng
10. Regulation (EU) 2026/1744 (Digital Omnibus on AI), new Art. 5(1)(ba) and (bb), Art. 5(1a) and amended Art. 113. https://eur-lex.europa.eu/eli/reg/2026/1744/oj/eng
11. AI Act, Art. 99(3) and (6). https://eur-lex.europa.eu/eli/reg/2024/1689/oj/eng
12. European Commission, “Market surveillance authorities under the AI Act”; Bundesnetzagentur, press release of 29 July 2026. https://digital-strategy.ec.europa.eu/en/policies/market-surveillance-authorities-under-ai-act
13. European Commission, “Commission publishes the Guidelines on prohibited artificial intelligence (AI) practices, as defined by the AI Act”. https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-prohibited-artificial-intelligence-ai-practices-defined-ai-act
06.11.2026
