ИСО/МЭК 42001 ⇐ Васина Википедия

[wiki_en]

«ISO/IEC 42001» — это международный стандарт, опубликованный Международной организацией по стандартизации (ISO) и Международной электротехнической комиссией (IEC) в 2023 году. Он определяет требования к созданию, внедрению, поддержанию и постоянному совершенствованию «Системы управления искусственным интеллектом» (AIMS) внутри организации.
Стандарт применим к любой организации — независимо от типа, размера или сектора, — которая разрабатывает, предоставляет или использует продукты или услуги на основе ИИ.
==Фон==

Быстрое распространение систем искусственного интеллекта в промышленности, правительстве и обществе создало спрос на стандартизированную структуру для управления рисками, связанными с ИИ, включая алгоритмическую предвзятость, отсутствие прозрачности, пробелы в подотчетности и непредвиденные последствия автономного принятия решений.

ISO/IEC 42001 был разработан ISO/IEC JTC 1/SC 42, подкомитетом Объединенного технического комитета 1 ISO/IEC, ответственным за стандарты в области искусственного интеллекта.
==Структура==

ISO/IEC 42001 следует структуре высокого уровня (HLS), общей для всех современных стандартов систем менеджмента ISO, состоящей из десяти пунктов. Пункты 1–3 являются вводными; нормативные требования содержатся в пунктах с 4 по 10.

===Пункты 4–10 (Нормативные требования)===

===Приложение А — Органы управления===

Стандарт включает нормативное приложение А, содержащее 39 элементов управления, сгруппированных в 11 категорий (от А.2 до А.12). В отличие от обязательных положений, меры контроля согласно Приложению А выбираются на основе результатов оценки рисков. Организации документируют свой выбор средств управления в «Заявлении о применимости» (SoA).
К категориям управления относятся:
* A.2 — Политика в отношении ИИ (политика ИИ и организационные роли)
* А.3 — Внутренняя организация
* A.4 — Ресурсы для систем искусственного интеллекта
* A.5 — Оценка воздействия систем искусственного интеллекта
* A.6 — Процессы жизненного цикла системы ИИ
* A.7 — Данные для систем искусственного интеллекта
* А.8 — Информация для заинтересованных сторон
* A.9 — Использование систем искусственного интеллекта
* A.10 — Отношения с третьими сторонами и клиентами
* A.11 — Ответственное использование
* A.12 — Цели и показатели ИИ

===Приложения B и C===

Приложение B содержит рекомендации по средствам контроля реализации в Приложении A. Приложение C сопоставляет стандарт с конкретными целями ИИ, такими как справедливость, прозрачность, конфиденциальность, безопасность и подотчетность, помогая организациям определить, какие средства контроля соответствуют каждой цели.

==Основные понятия==

===Оценка воздействия ИИ (AIIA)===

Одним из отличительных требований ISO/IEC 42001 является «Оценка воздействия искусственного интеллекта» (AIIA), аналогичная оценке воздействия на конфиденциальность, требуемая в рамках систем защиты данных. AIIA документирует предполагаемое использование системы ИИ, затронутое население, потенциальный вред (включая ущерб фундаментальным правам), а также меры контроля, применяемые для смягчения этого вреда.

===Жизненный цикл системы искусственного интеллекта===

Стандарт требует от организаций управлять системами искусственного интеллекта на протяжении всего их жизненного цикла: от первоначальной концепции и сбора данных до разработки, развертывания, мониторинга и вывода из эксплуатации. Сюда входят требования к качеству данных и управлению (раздел A.7), мониторинг производительности модели и управление изменениями при изменении поведения модели.

===Человеческий надзор===

ISO/IEC 42001 требует от организаций определить соответствующие уровни человеческого контроля за системами искусственного интеллекта, особенно за теми, которые принимают важные решения, затрагивающие отдельных лиц. Системы с более высоким потенциальным воздействием требуют более сильных механизмов человеческого контроля и более четких процессов эскалации.

==Связь с другими стандартами==

ISO/IEC 42001 предназначен для интегрированного внедрения с другими стандартами систем менеджмента:

* '''ISO/IEC 27001''' (управление информационной безопасностью): касается безопасности систем и данных искусственного интеллекта. Эти два стандарта имеют одинаковую структуру HLS, что позволяет проводить совместный аудит и использовать единую систему управления. * '''ISO 9001''' (менеджмент качества): процессы обеспечения качества при разработке и развертывании систем искусственного интеллекта.
* '''ISO/IEC 27701''' (управление конфиденциальной информацией): расширяет стандарт ISO 27001 для обеспечения конфиденциальности; дополняет требования к управлению данными, связанными с искусственным интеллектом.
* '''ISO/IEC 23894''': содержит рекомендации по управлению рисками ИИ, информируя процесс оценки рисков в ISO/IEC 42001.

==Сертификация==

Организации могут запросить стороннюю сертификацию по стандарту ISO/IEC 42001 через аккредитованные органы по сертификации. Сертификация проходит двухэтапный процесс аудита:

* '''Этап 1''': Проверка документации — аудитор оценивает, соответствует ли документация системы менеджмента требованиям стандарта.
* '''Этап 2''': Аудит внедрения — проверка на месте эффективности документированных процессов.

К органам по сертификации, проводящим аудит ISO/IEC 42001, относятся, среди прочего, Bureau Veritas, BSI Group, SGS S.A.|SGS, DNV, TÜV Rheinland и LRQA.
Несколько крупных технологических компаний получили или стремятся обеспечить соответствие стандарту ISO/IEC 42001, включая услуги, предлагаемые в Microsoft Azure,
==Регуляторный контекст==

===Закон Европейского Союза об искусственном интеллекте===

Закон об искусственном интеллекте (Закон ЕС об искусственном интеллекте, Регламент (ЕС) 2024/1689), вступивший в силу в августе 2024 года, устанавливает основанную на рисках нормативную базу для систем искусственного интеллекта в Европейском Союзе. ISO/IEC 42001 считается соответствующим требованиям Закона к системам искусственного интеллекта с высоким уровнем риска, в частности его требованиям к системам управления рисками (статья 9), управлению данными (статья 10), технической документации (статья 11) и человеческому надзору (статья 14).

===Национальное усыновление===

* «Бразилия»: Бразильский национальный орган по стандартизации ABNT опубликовал «ABNT NBR ISO/IEC 42001:2024» в апреле 2024 года, что является национальным принятием международного стандарта. В бразильском проекте постановления об искусственном интеллекте (законопроект 2338/2023) международные технические стандарты упоминаются как средство демонстрации соблюдения обязательств по управлению искусственным интеллектом.
* '''Другие страны''': Многие национальные органы по стандартизации приняли или находятся в процессе принятия ISO/IEC 42001 в качестве национального стандарта.

==См. также==

* ISO/IEC JTC 1/SC 42 — подкомитет ISO по стандартам искусственного интеллекта
* ISO/IEC 27001 — Менеджмент информационной безопасности
* Закон об искусственном интеллекте — регулирование ЕС в области искусственного интеллекта
* Безопасность ИИ
* Алгоритмическая ответственность

* [https://www.iso.org/standard/42001 ISO/IEC 42001:2023 — Официальная страница ISO]
* [https://www.iso.org/committee/6794475.html ISO/IEC JTC 1/SC 42 — Комитет по стандартам ИИ]
* [https://iso42001.com.br Полное руководство на португальском языке — iso42001.com.br]

Стандарты ИСО
Искусственный интеллект
Системы управления
Стандарты информационных технологий
2023 год в сфере технологий

Подробнее: https://en.wikipedia.org/wiki/ISO/IEC_42001