Саморегулирование в сфере ИИ обсудили эксперты на ПМЮФ

Модератор дискуссии, президент Ассоциации больших данных Анна Серебряникова отметила, что внедрение кодексов этики в современных отраслях экономики помогает популяризировать принципы работы с данными и создает стандарт общественного диалога.

Председатель правления фонда «Сколково» Игорь Дроздов подчеркнул, что подобные кодексы нужны, когда вмешательство государства не требуется.

«Обычаи существовали еще в древние времена: люди договаривались о правилах поведения, а государство не вмешивалось в эти взаимоотношения. Почему это происходит? Технологии быстро меняются, и право не поспевает, потому что согласование правил поведения занимает много времени. Потом появляется новая технология – и закон снова нужно адаптировать. В частноправовых отношениях саморегулирование организовать проще, главное, чтобы у участников бизнеса было желание. Если нет необходимости привлекать государство и все осознают важность применения норм, они прекрасно работают. Другое дело, если о чем-то беспокоится государство. Появляются роботы, беспилотники – здесь встает вопрос безопасности, и простого саморегулирования недостаточно», – отметил эксперт.

Такую позицию поддержал и директор Центра регулирования ИИ ПАО «Сбербанк» Андрей Незнамов. «Саморегулирование – жизненно необходимый элемент для создания новых технологий. Я напомню: чуть больше 10 лет назад мы не использовали смартфоны. Это хорошо показывает, что в жизни одного поколения происходит много смен технологических парадигм. Из-за этого меняются общественные отношения, возникает вопрос, как их регулировать. Принятие законов может привести к непредсказуемым последствиям. Как с «законом красного флага» 1865 года, когда в Великобритании только появились машины, и перед ними должны были идти люди с красными флагами, чтобы предупреждать движущиеся автомобили», – прокомментировал эксперт.

Об опыте внедрения и применения кодекса этики рассказал региональный директор по правовым и корпоративным вопросам и внешним связям Microsoft Europe Джефф Буллвинкель.

«Мы активно занимаемся вопросами саморегулирования в различных контекстах, в том числе в сфере искусственного интеллекта (ИИ). Четыре года назад мы разработали собственный кодекс этики – набор принципов, который кажется нам универсальным. Сюда включены: надежность, потому что от ИИ зависят многие важные направления нашей жизни; приватность, защита персональных данных, борьба с преступностью; справедливость – снижение риска предубеждений, стереотипов; построение устойчивых систем; транспарентность – информирование всех о том, что и как мы делаем; подотчетность ИИ, он должен контролироваться людьми – наверное, это основополагающий элемент кодекса.

Важно, чтобы сотрудники понимали эти принципы, руководствовались ими. Так, разработчики Microsoft доносят до разработчиков всех уровней общую стратегию, принципы. А специальный комитет контролирует все этические вопросы по применению ИИ: в него входят юристы, инженеры, ученые», – рассказал Джефф Буллвинкель.

Директор по развитию технологий искусственного интеллекта «Яндекс» Александр Крайнов отметил, что в первую очередь кодексы этики составляются для пользователей, а не для компаний. «Искусственный интеллект отличается от остальных технологий драматургией: это идеальный оппонент для человека. У людей появляется законное опасение – а почему нет? Вдруг он опасен? Получается, компании, которые производят продукты на основе ИИ, должны эти опасения развеивать – мы не делаем роботов-убийц. Тут на помощь приходят кодексы этики. Да, можно попросить юристов прописать: «мы не будем делать систем, которые вредят людям» – а мы и так не собирались. Но эти принципы важны, чтобы успокаивать людей, потому что информационный фон такой, что как тут не тревожиться? <…> В любом кодексе этики я не видел ни одного принципа, с которым не мог согласиться. Их цель одна – показать, что нам, как компании, небезразлично мнение людей, и это так. Главное, чтобы не было расхождения между тем, что мы декларируем снаружи и что происходит внутри», – объяснил эксперт.

Игорь Дроздов отметил, что кодексы помогают создать позитивное восприятие технологий у тех, кто их потребляет. Компании не хотят совершать действия или создавать продукты, которые принесут вред их потребителям. Другое дело, когда государство чувствует ответственность за новые разработки – а вдруг что-то случится с беспилотным автомобилем? Грань между разработками компаний и общественным интересом может быть очень тонкой и постоянно меняться, резюмировали эксперты.

Петербургский Международный Юридический Форум 9 ¾ проходит с 18 по 22 мая. Полная программа форума, регистрация и трансляция мероприятий Форума доступны на официальном сайте ПМЮФ.

Форум проводится при поддержке Президента Российской Федерации и Министерства юстиции Российской Федерации. Генеральный партнер ПМЮФ – «Газпромбанк» (Акционерное общество).