Зачем нужен Кодекс этики
Это документ, который устанавливает общие этические принципы и стандарты поведения для всех, кто связан с созданием, развитием и применением искусственного интеллекта.
Кодекс имеет рекомендательный характер, а присоединение к нему добровольное. Правила распространяются только на гражданские разработки.
Кодекс этики помогает:
- установить «мягкое» регулирование технологий искусственного интеллекта;
- наладить взаимодействие государства, разработчиков, научных организаций и общества в отношениях с ИИ;
- избежать нарушения прав человека при использовании ИИ;
- принимать решения в сложных этических ситуациях.
Проблемы с этикой в сфере ИИ уже возникали раньше. Например, «умный» инструмент рекрутинга дискриминировал женщин. Он отдавал предпочтение кандидатам-мужчинам в 60 % случаев. Это было вызвано теми данными, которые загрузил разработчик. Они учитывали исторические закономерности подбора персонала.
В чем принципы Кодекса
Человеко-ориентированный и гуманистический подход. Права и свободы человека рассматриваются как наивысшая ценность. Развитие технологий не должно мешать реализации возможностей людей.
Уважение автономии и свободы воли. Нельзя допускать разработки ИИ, которые могут негативно влиять на развитие когнитивных способностей человека.
Соответствие закону. Создатели ИИ должны соблюдать положения законодательства РФ на всех этапах своей деятельности.
Недискриминация. Важно, чтобы группировка и классификация данных не приводили к ущемлению прав по признакам расовой, национальной или половой принадлежности, политических взглядов, религиозных убеждений, возраста, социального и экономического статуса или сведений о частной жизни.
Оценка рисков и гуманитарного воздействия. Создатели ИИ обязаны учитывать сложность поведения ИИ и заранее прогнозировать потенциальные опасности для человека, общества и государства.
Польза разработок для людей. Создание новых технологий должно быть направлено на развитие безопасных решений с учетом национальных приоритетов.
Соблюдение принципов добросовестной конкуренции. При сравнении ИИ между собой важно использовать только достоверную информацию.
Максимальная прозрачность. Общество и СМИ должны получать честную и полную информацию о методах применения ИИ, вреде, пользе и ограничениях в использовании.
Ответственность человека. Разработчики отвечают за создание и последствия применения ИИ. Важно оценить риски в краткосрочной и долгосрочной перспективах, а также учитывать неприкосновенность частной жизни, этичное и безопасное использование персональных данных. Технологии не должны приносить вред людям, их имуществу и окружающей среде.
Какие компании придерживаются Кодекса этики
Чтобы присоединиться к Кодексу, нужно направить в комиссию заявление. Реестр акторов ИИ ведется публично на сайте.
Участники Кодекса могут:
- поделиться этической проблемой и найти пути ее решения;
- участвовать в создании рекомендаций;
- подтвердить ответственное отношение к разработкам в сфере ИИ;
- повысить доверие клиентов к новым продуктам.
Сейчас у Кодекса этики 387 подписантов. Среди них «Газпром», МТС, Росатом, Ростелеком, Сбер, ЦИАН и Яндекс.