Кодекс этики ИИ от ЦБ РФ

Три закона робототехники от Айзека Азимова долгое время оставались самыми узнаваемыми постулатами мира будущего глазами фантастов. Но, «мы рождены чтоб сказку сделать болью былью» и теперь технологии перестают быть внешним инструментом и становятся средой обитания. Мягко наступившая эра ИИ подводит к созданию новых правил, законов, кодексов – вот и ЦБ РФ опубликовал «КОДЕКС ЭТИКИ В СФЕРЕ РАЗРАБОТКИ И ПРИМЕНЕНИЯ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА НА ФИНАНСОВОМ РЫНКЕ»

Цели кодекса: повышение доверия клиентов к ИИ; содействие развитию ИИ, как к доверительной технологии; минимизации рисков, связанных с разработкой и применением ИИ на финансовом рынке.

Есть и принципы, рекомендованные к соблюдению при разработке и применении ИИ.

1. Человекоцентричность

Включает в себя повышение качества услуг, предоставление клиентам возможности отказаться от взаимодействия с ИИ, повышение осведомлённости клиентов о принятии решений с помощью ИИ и обеспечение возможности пересмотра этого решения.

2. Справедливость

Здесь идут рекомендации про обоснованность использования персональных данных, недопустимость использования дискриминационных факторов (национальная, языковая, расовая принадлежности; вероисповедание и отношение к религии, а так же принадлежность к политическим партиям и общественным объединениям).

3. Прозрачность

Здесь речь идёт об информировании применения ИИ, раскрытии и маркировки информации, созданной с помощью генеративных моделей. (Прям представила вступительный монолог автообзвонов из банка, которые, кстати, с 1 сентября так же должны быть сильно зарегулированы).

4. Безопасность, надёжность и эффективность

Организациям рекомендуется принимать следующие меры:

• проверка качества наборов данных;

• проверка качества искусственного интеллекта;

• мониторинг качества искусственного интеллекта;

• обеспечение информационной безопасности;

• обеспечение конфиденциальности информации;

• обеспечение непрерывности деятельности.

5. Ответственное управление рисками

Организациям рекомендуется при управлении рисками ИИ обеспечить следующие процессы:

• учёт применяемых моделей искусственного интеллекта;

• выявление рисков искусственного интеллекта;

• оценка и присвоение уровня риска искусственного интеллекта;

• мониторинг и контроль рисков искусственного интеллекта;

• минимизация выявленных рисков искусственного интеллекта;

• реагирование на реализовавшиеся риски (риск-события) ИИ;

• ведение базы риск-событий.

Мне, как пользователю, понравилось «предоставление клиентам возможности отказаться от взаимодействия с ИИ», прям желаю иметь эту возможность, особенно при обращении к сотовым операторам и коммунальным службам.

* при написании поста ни одна генеративная модель Ai не использовалась, чисто олдскульный копипаст из первоисточника