Персональные и корпоративные данные
Объемы данных, отправляемых в нейросети, за год вырос в 30 раз. Сотрудники могут передавать ИИ резюме, переписку с клиентами, договоры и другие документы. Если в них есть персональные данные, их обработка должна соответствовать требованиям закона № 152-ФЗ. Каждый такой запрос — потенциальная утечка. Для бизнеса это означает риск штрафов и репутационный ущерб. Внутренние правила компании могут отдельно определить, какую информацию сотрудникам разрешено загружать в ИИ.
Авторские права
Нейросеть может создать текст, изображение или другой материал, похожий на существующее произведение. Это не означает, что его можно без проверки использовать в рекламе, на сайте или в коммерческом продукте.
Компания отвечает за опубликованный контент, поэтому перед использованием результата важно проверить его происхождение и права на исходные материалы. Особенно внимательно нужно относиться к изображениям, музыке, фрагментам текстов и другим объектам, которые модель использовала при генерации контента. Ответственность за нарушение авторских прав несет не разработчик модели, а компания, которая использовала результат в коммерческих материалах. К нарушителю могут применяться гражданско-правовые, административные и даже уголовные меры.
Ошибки нейросети
ИИ может сформировать убедительный, но неверный ответ — это называют галлюцинациями. Риск особенно высок, если результат используется в юридических документах, финансовых расчетах, кадровых решениях или других процессах, где ошибка влияет на права человека или деньги компании.
Поэтому результат работы нейросети должен проходить проверку сотрудником. Также передавать ИИ единоличное принятие решений с юридическими последствиями нельзя без учета требований законодательства о персональных данных: закон ограничивает утверждение таких решений исключительно на основе автоматизированной обработки.
Как снизить риски
Для регулярного использования ИИ внутри компании установите понятные правила:
- какие сервисы разрешено использовать;
- какие данные нельзя доверять;
- кто проверяет результаты нейросети на уникальность и достоверность;
- кто отвечает за публикацию сгенерированного контента;
- как фиксируется использование искусственного интеллекта в рабочих процессах.
Так бизнес сможет использовать нейросети как рабочий инструмент и одновременно контролировать риски, связанные с данными, интеллектуальными правами и достоверностью результатов. Компаниям с высокими требованиями к безопасности лучше рассмотреть локальные или корпоративные модели, работающие в защищенном контуре.