Что думает Банк России о регулировании ИИ?
Сегодня искусственный интеллект (ИИ) способен трансформировать способы выполнения задач в различных областях: бизнесе, медицине, образовании и многих других. Так, например, 80,4% юристов уверены, что применение чат-ботов на основе глубокого обучения GPT в юридической практике позволяет повысить эффективность работы. Таковы результаты недавнего исследования Moscow Digital School. Респонденты назвали главными преимуществами использования ChatGPT быстрый поиск необходимой информации (64,9%), автоматизацию процесса составления юридических документов (59,6%) и помощь в маркетинге и PR (40,3%).
Широко используется ИИ и на финансовом рынке: для взаимодействия с клиентами, управления рисками, аналитики, мониторинга и совершения операций и так далее. Однако, развитие ИИ создает не только новые возможности, но и новые вызовы. Чем ИИ может быть полезен в сфере финансов, какие существуют риски его применения, как регулируют ИИ в мировой практике и какой подход может быть использован для российского финансового рынка — эти и другие вопросы Банк России поднимает в опубликованном в начале ноября 2023 года консультативном докладе «Применение искусственного интеллекта на финансовом рынке».
Чтобы не пропустить новые материалы «MDS Media», подписывайтесь на наш Телеграм-канал.
Какие риски Центробанк видит в ИИ и каких принципов предлагает придерживаться в его регулировании? Специально для MDS Медиа комментирует Виктор Калужский, юрист практики интеллектуальной собственности Capital Legal Services.
Кому стоит ознакомиться с докладом Банка России?
Несмотря на название, документ будет полезен не только представителям финтеха, но и всем, кто неравнодушен к теме искусственного интеллекта. В своем докладе ЦБ проводит детальный обзор: рассказывает о видах ИИ, глобальных трендах в его развитии и регулировании, рисках применения, а также излагает свой взгляд на то, каким образом должен регулироваться ИИ в сфере финансов.
Рассмотренные ЦБ риски использования ИИ актуальны не только для финансового рынка, но и для любой сферы, будь то медицина, машиностроение, сельское хозяйство или другая отрасль. С этой точки зрения доклад будет также интересен и полезен юристам.
(Ред.: среди рисков ИИ на финансовом рынке Банк России подробно рассматривает риски разработки ИИ и искажения работы модели ИИ; риски аутсорсинга; риски в области данных и информационной безопасности; этические риски и риски нарушения прав потребителей и инвесторов; риски конкуренции; макроэкономические риски и риски финансовой стабильности и др.)
Как присущие ИИ риск-факторы могут, по мнению ЦБ, влиять на бизнес-процессы?
В части возможных рисков ЦБ отмечает, что существует вероятность дискриминации потребителей и инвесторов при помощи ИИ. В качестве примера приводится кейс компании Amazon, которая перестала использовать ИИ при найме сотрудников, когда тот, основываясь на исторических данных по отрасли, исключал женщин из списка кандидатов на рассмотрение и иногда нанимал менее квалифицированных работников-мужчин.
Еще один риск — использование ИИ для влияния на конкуренцию. Здесь ЦБ вспоминает решение Европейской комиссии о штрафе в размере 2,42 млрд евро компании Google за нарушение антимонопольных правил ЕС: алгоритм Google отдавал предпочтение собственным сервисам, в то время как к результатам конкурентов применялись корректирующие алгоритмы, понижающие их рейтинг в общем поиске.
Что ЦБ думает о регулировании ИИ?
Несмотря на рассмотренные риски использования ИИ, Банк России считает, что следует продолжать стимулирование развития ИИ на российском финансовом рынке. При этом стоит придерживаться риск-ориентированного принципа регулирования, при котором уровень регуляторных требований зависит от объема и вероятности реализации рисков использования ИИ. Похожие подходы используются в США, Канаде и Китае.
Помимо этого, ЦБ также отмечает важность саморегулирования и этического подхода к ИИ. В качестве примера упоминается Кодекс этики Альянса в сфере ИИ и Кодекс этики использования данных, которые уже объединяют 209 российских организаций, связанных с IT и финансами.
Зачем этот доклад вообще нужен?
Доклад — это не просто информационный документ. В нем Банк России выносит на общественное обсуждение 25 вопросов. Замечания и предложения к докладу принимаются до 15 декабря.
Остается надеяться, что документ будет использоваться в дальнейшем при подготовке базы для регулирования искусственного интеллекта и разработке соответствующих законопроектов.
