Регулирование искусственного интеллекта: 10 самых важных задач для компаний
Автор
Марина Петренко
Регламент ИИ (AI-VO) вступил в заключительную фазу европейского законодательного процесса в июне 2023 года. После того как Парламент ЕС согласовал редакцию документа, начался процесс коммуникации между Парламентом, Советом министров ЕС и Комиссией ЕС.
Регламент ИИ — это нормативный проект ЕС, целью которого является создание единой правовой базы для разработки и использования искусственного интеллекта внутри Союза. Регламент будет первым в мире законом об искусственном интеллекте.
Из-за центрального положения, которое ИИ, вероятно, займет во всех сферах жизни общества, регулирование будет иметь далеко идущие последствия для компаний. Несмотря на то, что закон в настоящее время все еще находится на стадии обсуждения, уже можно предвидеть ключевые положения и проблемы.
Компаниям следует начинать подготовку к регулированию как можно раньше, поскольку требования сложны, а санкции за несоблюдение могут быть суровыми. Компаниям следует рассмотреть следующие десять задач уже сейчас, чтобы подготовиться.
1. Определить инструменты ИИ
Компаниям следует сначала проверить, существуют ли и какие инструменты ИИ в компании или планируются в будущем. Только при наличии четкого представления об этом требования AI-VO могут быть реализованы разумно и комплексно.
Также следует внимательно следить за законодательными изменениями, связанными с положением об ИИ, поскольку определение ИИ и, следовательно, сфера применения регулирования является одним из наиболее спорных аспектов. Следует тщательно изучить, могут ли существующие программные системы неожиданно попасть под действие регламента.
2. Формирование междисциплинарных команд
При внедрении ИИ в компании следует формировать междисциплинарные команды, поскольку проекты ИИ требуют широкого спектра знаний. Сотрудничая в таких дисциплинах, как наука о данных, информатика, этика, право и развитие бизнеса, можно использовать различные точки зрения и опыт для разработки целостных решений.
Информированность всей компании позволяет выявлять возможные варианты использования и противодействовать рискам. Для этого особенно подходят семинары и курсы обучения для сотрудников.
3. Сопоставление нормативных требований и оценка соответствия
Необходимо создать последовательную общую концепцию как часть «карты регулирования», чтобы объединить соответствующие законодательные требования и, таким образом, получить четкую картину.
Для вновь внедряемых систем искусственного интеллекта можно рекомендовать проведение системной оценки соответствия. Такой анализ дает возможность выявлять технические и юридические риски и противодействовать им. Это также позволяет выявить потенциальные слабые места или риски на ранней стадии и принять контрмеры.
4. Пособие по искусственному интеллекту
Сложные юридические требования и фактические потребности разработки проектов делают хорошо структурированную концепцию планирования фактором успеха для успешного внедрения ИИ. По этой причине стоит создать некое «пособие по искусственному интеллекту», которое может служить базовым документом для внедрения и использования ИИ в компании.
Это пособие должно включать разделенные на этапы проекты с определением ответственных заинтересованных сторон, внутренних спецификаций компании в отношении обучения и использования ИИ. Также должны приниматься во внимание соответствующие юридические аспекты и определение важнейших процессов (подготовка данных, обучение, валидация, мониторинг).
5. Управление данными
Также важно разработать и внедрить концепцию управления данными, особенно в контексте искусственного интеллекта в компании. Управление данными обеспечивает соблюдение руководящих принципов качества, целостности и защиты данных. Благодаря четкому и структурированному управлению данными компании могут гарантировать, что их модели ИИ основаны на высококачественных и надежных данных.
Управление данными также позволяет выявлять и минимизировать риски, такие как нарушение конфиденциальности или недостаточное качество данных. Наконец, управление данными способствует созданию последовательной и стандартизированной структуры данных, которая облегчает совместную работу и интеграцию систем искусственного интеллекта, а также улучшает их масштабируемость.
6. Синергетический эффект
При внедрении ИИ крайне важно использовать эффекты синергии для достижения оптимальных результатов. Реализация требований AI-VO не должна рассматриваться изолированно, а должна быть максимально включена в существующие процессы и документацию.
Реализация требований AI-VO может быть частично совмещена с реализацией требований GDPR. На этом фоне сейчас стоит получить комплексный обзор существующих процессов и документации, чтобы определить потенциал синергетического эффекта.
7. Процедуры тестирования
Чтобы создать правильно функционирующую систему искусственного интеллекта для компании, необходимо определить четкую процедуру тестирования с учетом требований законодательства. Повторные испытания ИИ-инструментов во время разработки и последующей эксплуатации могут внести решающий вклад в предотвращение ошибок и возможных рисков соответствия. Однако этого можно достичь только в том случае, если для процедуры испытания определены четкие свойства.
8. Система управления качеством
Из-за продолжающегося процесса машинного обучения всегда могут возникнуть новые проблемы по мере дальнейшего развития ИИ. Эта проблема также отражена в AI-VO, поскольку требуется обширная документация и обязательства по учету, а также постоянный мониторинг. Для решения этой задачи необходимо разработать единую автоматизированную систему управления качеством.
9. Цифровое руководство пользователя
Во многих случаях пользователи не будут иметь полных знаний о возможностях и особенностях систем искусственного интеллекта. Поэтому AI-VO частично требует цифровых инструкций по использованию соответствующей системы искусственного интеллекта и связанных с этим рисков и возможностей.
На этом фоне компании уже могут задуматься о том, как и в каком формате они хотят объяснить своим сотрудникам, как использовать ИИ.
10. Модульная структура
AI-VO — это первый в своем роде закон о принципиально революционной технологии. В связи с новой тематической областью следует ожидать, что законодательные требования будут и дальше дорабатываться, оптимизироваться и, при определенных обстоятельствах, возможно, даже корректироваться.
Эта неопределенность планирования означает, что следует стремиться к модульности как технической, так и бизнес-процедур. Это единственный способ избежать необходимости возвращаться к истокам и фундаментально перепроектировать систему каждый раз, когда вносятся изменения.
Заключение
Несмотря на множество проблем, связанных с Регламентом ИИ, этот документ является важным шагом, который может повысить доверие к еще молодой технологии и сделать ее доступной для широкой аудитории. В любом случае время до вступления в силу Регламента ИИ не должно оставаться неиспользованным. Хорошая подготовка к предстоящим правилам, безусловно, окажет решающее влияние на успех отдельных проектов внедрения ИИ.