Сооснователь MDS Александр Журавлев: Использование ИИ в судопроизводстве и медицине требует особого подхода

Авторство объектов искусственного интеллекта, дата-майнинг, конфиденциальность данных и дипфейки — так сооснователь MDS Александр Журавлев определил первоочередные вопросы правового регулирования использования искусственного интеллекта.

22 мая на площадке Конференции «ЦИПР-2024» Ассоциация РУССОФТ при поддержке Московского отделения Ассоциация юристов России провела сразу две сессии на тему искусственного интеллекта. Их модератором выступил сооснователь MDS, управляющий партнер юридической компании «ЭБР», председатель комиссии по правовому обеспечению цифровой экономики Московского отделения Ассоциации юристов России Александр Журавлев.

Не замечать ускоренные темпы развития цифровых технологий, в том числе при использовании ИИ, невозможно, а отрицать их повсеместное влияние на нас — недальновидно. Поэтому необходимо трезво оценивать перспективы ИИ и в кооперации с государством решать вопросы его регулирования, чтобы технологии не вышли из-под контроля. 

Подводя итоги сессий, Александр Журавлев отметил важность консолидации всех игроков рынка для вывода российских ИИ-технологий в мировые лидеры:

«Вопросы, связанные с правовым регулированием использования искусственного интеллекта, остаются одними из наиболее актуальных как в России, так и в мировом контексте. Несмотря на определенные тенденции в законодательстве и судебной практике, существует значительная неопределенность в толковании и применении правовых норм в этой области. Одним из ключевых вопросов является определение авторства при создании объектов искусственного интеллекта. Также важно уделить внимание вопросам дата-майнинга, особенно в контексте конфиденциальности данных и их использования. Проблемы, связанные с прямым воздействием искусственного интеллекта на повседневную жизнь, такие как дипфейки и кража данных для преступлений, требуют особого внимания.

Использование искусственного интеллекта в важных областях, таких как судопроизводство и медицина, требует особого подхода. Хотя ИИ может предложить рекомендации, окончательное решение должно приниматься человеком, особенно в контексте судебной практики. Гармоничное сочетание технологий ИИ с человеческим рассмотрением контекста и этических аспектов является ключом успешного применения искусственного интеллекта».

На сессии «Контроль ИИ. Возможные модели и способы регулирования ИИ» эксперты обсуждали, как в мире уже решают эти вопросы, на чей опыт стоит обратить внимание и как сейчас обстоят дела в России с ИИ на законодательном уровне. Ведь достигнуть лидерства удастся тем странам, которые смогут в том числе законодательно найти оптимальный баланс между поддержкой ИИ и его ограничением.

Валентин Макаров, президент НП РУССОФТ, поделился планами объединения компаний-разработчиков ПО по продвижению позиции ИТ-отрасли относительно внедрения ИИ-решений и их вывода на международные рынки:

«Для нас принципиален вопрос ИИ и его потенциала — как движется, как регулируется, как продвигается в другие страны. Сейчас приходит понимание, что важно быть не пользователями ИИ, а лидерами, выводя свои разработки в дружественные регионы, ведь в ИИ выигрывает не тот, кто придумал решение, а тот, кто сумел его внедрить. Поэтому понимание того, как быстро, но безопасно внедрить — критически важный вопрос для лидерства. Нужно иметь профессиональный взгляд, который РУССОФТ сформирует сегодня и будет продвигать с позиции разработчиков». 

Олег Сажин, советник генерального директора Content AI, рассказал о мировых практиках и уместных для российской экономики подходах к регулированию ИИ: 

«Задача поиска баланса между регулированием искусственного интеллекта и развитием инноваций актуальна для всех стран. Для России важно разработать такой подход, который обеспечит высокие позиции в уровне технологического развития в мире и при этом будет гарантировать безопасность экономики и общества от потенциальных опасностей, связанных с бесконтрольным использованием технологий. Мы понимаем, что ИИ всегда будет развиваться быстрее, чем за ним будут успевать регуляторы, поэтому нормативно-правовая база должна обладать высокой гибкостью и адаптивностью. Кроме того, исходя из всеобъемлющего влияния технологии на различные сферы жизни общества, для регулирования правовых и этических вопросов необходимо тесное межведомственное взаимодействие, сотрудничество государственных, общественных, правовых и технологических субъектов как на национальном, так и международном уровне».

Сергей Белостоцкий, генеральный директор PIX Robotics, акцентировал внимание на том, что важно не сковывать законодательно развитие ИИ, когда процесс его становления только начался:

«Важность развития сферы ИИ сегодня — неоспоримый факт, подтвержденный как спросом рынка, так и Национальной стратегией развития до 2030 года. И, как и для любой новой технологии, важно не подавить развитие ИИ в самом начале, заковывая ее в запретительные меры. ИТ и бизнес-сообщества, осознавая серьезность влияния ИИ на нашу жизнь, самостоятельно разрабатывают принципы для участников отношений в сфере искусственного интеллекта, такие как Кодекс этики, действующие стандарты по направлению ИИ и пр. Поэтому саморегулирование сферы ИИ, на наш взгляд, самый оптимальный путь на текущем этапе». 

Сергей Бохан, руководитель юридического отдела ГК Softline, обратил внимание на вопросы регулирования авторского права, требующие особого участия отрасли в текущих реалиях:

«Действующие нормы не дают однозначного ответа на вопрос, возникают ли авторские права на результаты деятельности ИИ. Я поддерживаю идею о скорейшем включении в гражданское законодательство определения ИИ и результатов его деятельности, а также вижу объективную необходимость скорейшего внесения изменений в нормы об авторских правах, так как действующие не дают однозначного ответа даже на самые основные вопросы, к примеру, возникают ли вообще авторские права на результаты деятельности ИИ. Если соответствующие поправки, учитывающие новые реалии, не будут приняты, то это приведет к социальной несправедливости и неконтролируемому увеличению числа споров по авторским правам».

Михаил Сродных, генеральный директор СКБ Контур, подчеркнул необходимость сохранения баланса между регулированием и перспективой развития для ИИ-технологий:

«Контент, созданный искусственным интеллектом, может оказаться проблемным. При разработке законодательной базы для регулирования ИИ главное — найти разумный баланс между безопасностью и тем, чтобы не создать препятствий развитию технологии в целом. Для этого не следует пренебрегать уже накопленным международным опытом. Но еще важнее привлекать к созданию законодательной базы экспертов отрасли».

Также спикерами сессии стали: Андрей Незнамов, управляющий директор Центра регулирования ИИ ПАО Сбербанк, Георгий Пчелинцев, партнер практики Nextons в области интеллектуальной собственности, ИТ и телекоммуникаций, Александр Савельев, доцент факультета права НИУ ВШЭ, и Владимир Маслов, директор Департамента цифровых технологий ТПП РФ. 

Александр Журавлев отметил, что по итогам сессии будет подготовлено заключение по вопросам регулирования использования ИИ в России, которое будет направлено на рассмотрение в том числе в государственные органы.

Тема второй сессии — «ИИ сломался. Антиутопическое будущее» — находится в авангарде вопросов применения ИИ-технологий. Эксперты обсудили вопрос того, ждет ли нас в будущем избавление от рутины или риск антиутопии. Ведь сегодня мы сталкиваемся с новыми вызовами и возможностями, которые представляют собой как потенциальные блага, так и угрозы. Эксперты из разных сфер применения ИИ рассказали о текущем состоянии дел и смоделировали сценарии развития. 

Артем Семенихин, партнер технологической практики Технологии Доверия, поделился тем, как ИИ влияет на наши базовые задачи и развеял страх того, что технология полностью заменит специалистов:

«Слой базовых задач, которые умеет решать ИИ, будет постоянно увеличиваться, оставляя сверху все более тонкую прослойку специалистов. Но они будут всегда — те, кто преодолел базовый уровень и имеет способности и знания, превосходящие текущие возможности ИИ. Сегодня работодатели ищут гибких, адаптивных специалистов, способных к обучению и развитию, владеющих современными технологиями и обладающих развитыми “мягкими” навыками. Мультидисциплинарность — уже норма. Интересный факт: в мае этого года примерно 4 тысячи человек в мире потеряли работу в результате автоматизации функционала с помощью ИИ. Но при этом число вакансий для специалистов, связанных по работе с нейронными сетями, удвоилось с 2021 года и на данный момент составляет более чем 114 000. Эта цифра означает, что человек все еще главенствует над ИИ».

Павел Степанов, генеральный директор «Геоскан Москва», выразил свой положительный настрой по применению ИИ в авиационной отрасли и беспилотниках, которые могут стать нашими компаньонами:

«Рои дронов, определяющие засушливые участки и тут же поливающие посевы; беспилотники, которые сами находят людей в зоне чрезвычайных ситуаций и организуют спасательные операции, и многое другое — это уже не рассказы футуристов, а проекты завтрашнего дня. Как и любая технология, применяться возможности ИИ могут и во благо, и во зло. Но я убежден, что человек как создатель всегда будет на шаг впереди своих творений, и параллельно с самими системами ИИ будут развиваться технологии контроля за ними. Тем более, что авиационная отрасль — одна из наиболее консервативных. Поэтому я больше верю в появление в будущем дронов-компаньонов для наших детей и летающего умного транспорта, а также многих других возможностей, которые принесет развитие ИИ, чем в техногенный апокалипсис».

Тимур Галимов, исполнительный директор DM365, остановился на вопросе того, какие взаимоотношения складываются между врачами и искусственным интеллектом: 

«Вся доказательная медицина — в ответах на вопросы “доктор, что у меня?”, “ваше лечение мне поможет?” и “а это безопасно?”. И врач несет уголовную ответственность за свои ошибки. А если доктор — это ИИ? Сейчас дела пока обстоят так, что ИИ — всего лишь машина, то есть инструмент в руках врача, за результат которого он отвечает. Врач учится всю жизнь, а машина — гораздо быстрее, не прогуливает занятия, не делает невынужденных ошибок, имеет доступ к всемирной библиотеке и переваривает массу информации в короткие сроки. И вот именно здесь начинает стираться граница между естественным и искусственным интеллектом. ИИ учится на ошибках, своих и чужих, непредвзят, не вредит человеку по первому принципу робототехники, может профессионально поговорить с пациентом, не устает и не болеет. Так готовы ли мы доверить себя и близких бездушной машине? Кто обучает нейронку и лечит ее баги, кому она сдает экзамены, кто проверяет результат ее работы? И мы снова возвращаемся к человеку!»

Руслан Ахтямов, сооснователь и директор по стратегии Napoleon IT, применил утопический сценарий на ритейл отрасль, получив системы, удовлетворяющие всех клиентов:

«Если представить утопический сценарий развития, то он будет примерно следующий. ИИ в ритейле станет основой для создания идеально персонализированных и экологически ответственных систем, которые не только удовлетворяют потребности каждого клиента, но и минимизируют экологический след. Являя собой гармоничное сочетание инновационных технологий и человеческого труда, эти системы обеспечат равный доступ к качественным товарам и услугам для всех участников рынка. Благодаря прибыльному симбиозу между бигтех корпорациями и малым бизнесом, общество в целом будет выигрывать от устойчивого роста экономики, высокого качества жизни и справедливого распределения ресурсов. Этические и правовые нормы, тщательно регулирующие использование ИИ, создадут безопасные, инклюзивные и прозрачные условия для всех».

Спикерами сессии также стали: Максим Чугунов, генеральный директор Promobot, Гаухар Алдиярова, глава московского подразделения Lesta Games, и Александр Савельев, к.ю.н., доцент факультета права НИУ ВШЭ.