«Искусственный интеллект должен делать все, чтобы уважать своих «родителей» и помогать им»
Сегодня искусственный интеллект активно развивается в России, находится в фокусе внимания государственной власти и высокотехнологичных компаний, есть национальная стратегия его развития и отдельный федеральный проект. Что еще необходимо сделать, чтобы он эффективно работал на благо человека, обсудили участники очередной сессии Дискуссионного клуба ВШЭ и Сбера «ИИ-трансформация компаний и государства: Развитие этики ИИ в России и в мире», которая прошла в рамках XXII Апрельской конференции.
Как рассказала Татьяна Матвеева, начальник Управления Президента РФ по развитию информационно-телекоммуникационных технологий и инфраструктуры связи, отечественными экспертами подготовлен проект этического кодекса, с участием Сбера ведется его обсуждение с представителями профессионального сообщества, науки и бизнеса. Принципы «верхнего уровня» предполагается закрепить законодательно, а отраслевые нормы будут приниматься игроками рынка в рамках саморегулирования.
Татьяна Матвеева
Этический кодекс станет защитой не только для потребителей. Специалистов, которые разрабатывают, тестируют и внедряют искусственный интеллект, он защитит от необоснованных обвинений в их адрес со стороны недобросовестных зарубежных конкурентов. В долгосрочной перспективе кодекс повысит наши шансы для «завоевания» мировых рынков. Не нужно ждать решений от других стран – мы должны принять российские этические нормы и представлять их как передовую российскую практику.
Среди принципов работы искусственного интеллекта важны прозрачность, предсказуемость, ответственность, стабильность, надежность, каждый из них не исключает и дополняет другой. «Но самым главным принципом развития, наивысшей ценностью искусственного интеллекта остается человекоцентричность. Он должен быть нацелен на благо человека, развитие его возможностей, созидание и помощь», – полагает Татьяна Матвеева.
По мнению Елены Буниной, генерального директора Яндекса, одна из целей создания этического кодекса – «внутренняя»: он поможет разработчикам принимать решения. Ведь им приходится иметь дело со сложными этическими вопросами, которые не регулируются законодательно. Например, какой результат должна выдавать поисковая система на запрос «Статья о лечении рака содой»? Ведь содержание такой статьи – это не экстремизм и не детская порнография, но само ее название звучит странно. Возможно, разработчику стоит обратиться к этическому кодексу компании, который подскажет, стоит ли давать прямой ответ на запрос.
Елена Бунина
Она полагает, что в ситуациях, когда выбор не очевиден, хорошо бы иметь документ, который дает возможность этот выбор сделать. «Столкнувшись со многими примерами дезинформации в течение ковидного года, мы поняли, что информацию нужно дополнять верификацией экспертов, обеспечивать фактчекинг», – говорит Елена Бунина. В свою очередь, пользователи могли бы прочитать этический кодекс и понять, какими способами мы действуем, перестать волноваться, добавляет она.
Создавать всемирные кодексы в случае с искусственным интеллектом бессмысленно – предупредить и проверить использование искусственного интеллекта в «не самых хороших целях» невозможно, остается только декларировать лозунги, заметил в свою очередь ректор Сколтеха Александр Кулешов. А вот внутрикорпоративные правила обязательно нужны. Он также подчеркнул, что Россия вкладывает в развитие искусственного интеллекта в 350 раз меньше, чем Китай, а из более 200 тыс. самых цитируемых мировых ученых в этой области лишь 9 человек работают в нашей стране.
Александр Кулешов
Очень «опасным и страшно непознаваемым» Александр Кулешов назвал использование искусственного интеллекта в военной области – «оно чревато риском ядерной зимы». «И здесь самый важный вопрос – кто учил искусственный интеллект принимать решения: ястребы или голуби?», – спрашивает он.
Казалось бы, искусственный интеллект должен помочь в сокращении рутинной нагрузки на чиновников – ведь они нередко действуют по тому или иному алгоритму, и искусственный интеллект мог бы принимать рутинные решения за них. Однако, как рассказал проректор, директор Института государственного и муниципального управления ВШЭ Андрей Жулин, пока мы от этого очень далеки, хотя порядка 30% функций федеральной власти могут быть исключены или заменены.
Андрей Жулин
«Речь здесь идет о достаточно простых алгоритмах, о простой работе с данными, а не об искусственном интеллекте. Мы еще долго не подойдем к тому, чтобы использовать искусственный интеллект даже для очень простых решений в государственном управлении. Для этого нужны большие объемы хороших данных, хорошие учетные системы, которые есть в очень небольшом количестве сфер и государственных органов», – считает Андрей Жулин.
Если «загнать» в алгоритм 100 тыс. плохих судебных решений, мы получим решение точно такого же качества от искусственного интеллекта, подчеркивает Александр Кулешов.
По мнению Александра Ведяхина, первого заместителя председателя правления Сбербанка, все зависит от выборки, на которой обучается искусственный интеллект.
Александр Ведяхин
«Искусственный интеллект во многом похож на ребенка – как мы его сейчас научим, так он и будет себя вести в будущем. Помните историю о том, как к мудрецу привели трехлетнего ребенка и попросили обучить его? Мудрец ответил, что уже поздно: все сделано до него, – говорит Александр Ведяхин. – Сейчас же у нас с вами есть уникальная возможность, когда нашему «ребенку» по шкале человеческой жизни всего несколько дней, и он только научился отличать кошек от собак. Поэтому мы должны рассказывать ему, что такое хорошо и что такое плохо. Только тогда мы можем быть уверены, что он все будет делать правильно. Как и в любом воспитании, здесь важен пример «родителей» – тех, кто его обучает, наставляет, отдает данные, пишет алгоритмы, верифицирует. А наш «ребенок» – искусственный интеллект – должен делать все, чтобы уважать своих «родителей» и помогать им».
XXII Апрельская международная научная конференция по проблемам развития экономики и общества (АМНК) пройдет с 13 по 30 апреля этого года. Впервые соорганизаторами конференции выступят Высшая школа экономики и Сбер. В рамках конференции состоится серия научных и экспертных обсуждений в формате Дискуссионного клуба ВШЭ и Сбера – экспертной площадки, где представители науки, бизнеса и государства на базе научного знания обсуждают актуальные вызовы для экономики и общества и делятся лучшими практиками развития бизнеса и институтов, формируя образ будущего.