Красные линии: эксперты обсудили вопросы этики и права в сфере ИИ
Быстрое развитие технологий искусственного интеллекта требует опережающего этико-гуманитарного осмысления вероятных результатов прогресса и сбалансированных регуляторных мер, стимулирующих применение ИИ и ограждающих человека от возможного негативного влияния. Об этом эксперты говорили на Форуме этики в сфере искусственного интеллекта «Поколение GPT. Красные линИИ», который прошел в ТАСС. В его работе приняли участие представители Вышки.
Директор Национального центра развития искусственного интеллекта при Правительстве РФ (действует на базе ВШЭ) Сергей Наквасин, открывая форум, подчеркнул остроту этических вопросов развития и применения искусственного интеллекта и большое внимание общества к моральным проблемам ИИ. «Форум в этом году приобрел всероссийский масштаб: три дня накануне шел марафон в 12 регионах страны. Более тысячи человек приняли участие в открытой, честной, горячей, острой дискуссии. Мы накапливаем и обрабатываем результаты всех этих обсуждений», — сказал он.
По словам Татьяны Матвеевой, начальника Управления по развитию информационно-коммуникационных технологий и инфраструктуры связи Администрации Президента РФ, наша общая задача — обеспечение надежности, безопасности технологий ИИ и доверия к ним. «Все предложения, которые будут высказаны на форуме, помогут ответить нам на основные вопросы, на вызовы, которые стоят перед нами, и будут способствовать повышению доверия общества к технологиям искусственного интеллекта, формированию подлинного технологического суверенитета нашей страны», — подчеркнула она.
Заместитель министра экономического развития РФ Максим Колесников обратил внимание, что в мире нет единого понимания регулирования ИИ: в Европе приняты жесткие меры, а США и Китай придерживаются более мягких рамок. Россия выступает за гибридный подход, где отдельные элементы ИИ будут контролироваться законодательно, но в основном он будет регулироваться Кодексом этики в сфере ИИ и принципами, разработанными в диалоге с технологическим сообществом. «Более 270 компаний и органов государственной власти уже согласились соблюдать установленные кодексом принципы. Ожидаем, что сегодня к ним присоединится еще порядка 20 организаций», — заявил Максим Колесников.
В ходе круглого стола «Межкультурный взгляд на глобальные вызовы развития искусственного интеллекта» руководитель Международного научно-образовательного центра «Кафедра ЮНЕСКО по авторскому праву, смежным, культурным и информационным правам» НИУ ВШЭ профессор Михаил Федотов отметил, что российский Кодекс этики в сфере ИИ близок к рекомендациям, разработанным ЮНЕСКО. «Это хорошо, значит, позиции совпадают и мировой опыт перенимается Россией», — сказал он. По его мнению, кодекс следует дополнить комиссией по нейроправу, «потому что искусственный интеллект связан и с нашим естественным интеллектом». Эта комиссия займется ментальной и физической неприкосновенностью человека при вероятном вживлении имплантов в мозг и его защитой от возможной когнитивной цензуры. Необходима и комиссия, которая будет следить за исполнением требований Кодекса ИИ. В противном случае, считает Михаил Федотов, высок риск невыполнения его ключевых положений.
Он также предостерег от роботизации человека, вызванной алгоритмизацией производства и иных процессов. Возникает вероятность подмены лечения здравоохранением, творчества — имитацией, науки — наукометрией.
В треке, посвященном применению этических принципов в работе ученых и центров развития ИИ, руководитель проектов Центра экспертизы по реализации федерального проекта «Искусственный интеллект» Аналитического центра при Правительстве РФ Сергей Астахов отметил: чем масштабнее технология, тем острее встают этические вопросы ее применения. «Можем ли мы надеяться на развитие технологий в гармонии с этикой?» — поинтересовался он.
Руководитель Центра искусственного интеллекта НИУ ВШЭ Алексей Масютин подчеркнул: следует осмыслить этичность не самого искусственного интеллекта, а его применения. Например, его использование при генерации лекарств кратно сокращает время их разработки, что особенно важно при необходимости быстрого запуска их производства, однако аналогичные принципы можно применить и при разработке опасных материалов, в том числе химического оружия. Нейросети позволяют более качественно и быстро реставрировать, но с их помощью можно создавать и дипфейки, манипулирующие людьми.
Чтобы управлять этическими принципами использования ИИ, нужна работа ученых многих специальностей. В Центре искусственного интеллекта НИУ ВШЭ проект «Этическая экспертиза в сфере ИИ» возглавляет доцент Школы философии и культурологии университета Анастасия Углева.
Это, полагает эксперт НИУ ВШЭ, не снимает ответственности с разработчиков ИИ. В ходе подготовки программ следует тестировать их на возможность неэтичного применения, в том числе вероятной дискриминации отдельных групп людей. Ответственную задачу выполняют те, кто готовит данные для разработки, именно от качества их работы во многом зависит правильность алгоритмов работы искусственного интеллекта. Важно также совершенствовать инструменты детекции возможных недостатков программ, отметил Алексей Масютин.
Он также сообщил, что группа по этике Центра искусственного интеллекта регулярно оценивает качество баз и программ, в том числе и с индустриальными партнерами Вышки.
В рамках форума «Поколение GPT. Красные линИИ» были вручены награды за вклад в развитие этики в сфере искусственного интеллекта. За исследования по этической экспертизе в сфере ИИ и проведение регулярного научного семинара по гуманистическим и этическим аспектам развития цифровых технологий была отмечена доцент Школы философии и культурологии факультета гуманитарных наук НИУ ВШЭ Анастасия Углева.
Вам также может быть интересно:
Искусственный интеллект с Харизмой
Высшая школа экономики активно использует передовые цифровые технологии в науке и образовании. Рассказываем в нашей статье о том, как суперкомпьютер помогает исследователям университета.
Студенты НИУ ВШЭ успешно защитили дипломы, в работе над которыми применили YandexGPT
Этим летом студенты нескольких направлений подготовки НИУ ВШЭ — «Философия», «Медиакоммуникации», «Международные отношения» и «Востоковедение» — впервые использовали нейросеть в процессе написания дипломных и курсовых работ. Университет разрешил применять возможности YandexGPT, генеративной технологии Яндекса, для решения заранее определённого перечня задач, на которые обычно у студента уходит много времени. Она помогала собирать, анализировать и обобщать информацию, проверять текст на ошибки и править оформление, а также разбираться в сложных темах и структурировать ход размышлений.
Интеллект искусственный и дополненный: связь бизнеса, образования и науки
Сегодня фраза «приручить искусственный интеллект» уже не звучит как суперспособность будущего. Эти технологии революционно меняют жизнь, от голосовых помощников и систем «умный дом» до создания цифровых двойников и секвенирования генома. О связи науки, бизнеса и образования в развитии искусственного интеллекта рассказала декан факультета информатики, математики и компьютерных наук НИУ ВШЭ – Нижний Новгород Наталья Асеева.
НИУ ВШЭ, Яндекс и ИТМО запустили аспирантуру в области ИИ и гранты для молодых ученых
НИУ ВШЭ в партнерстве с Яндекс создает первую аспирантуру по искусственному интеллекту с уклоном в практику (еще одну такую аспирантуру компания откроет в ИТМО). Цель — предложить лучшие условия и инфраструктуру для развития молодых ученых в стране. Каждый год обучения аспиранты будут получать гранты по 800 тысяч рублей, чтобы создавать новые технологии в области ИИ и быстро внедрять свои разработки на практике, в индустрии.
Вышка — в лидерах рейтинга вузов Альянса в сфере ИИ
Альянс в сфере искусственного интеллекта опубликовал новый рейтинг вузов России по качеству подготовки специалистов в области ИИ. Высшая школа экономики как и в прошлом году вошла в группу лидеров А+ вместе с МФТИ и ИТМО. Всего участниками рейтинга стали 207 университетов из 69 регионов страны. В 2024 году на профильные программы в области искусственного интеллекта этих вузов были приняты более 35 тыс. студентов.
В Вышке разрабатывают технологию идентификации текстов, сгенерированных ИИ любого типа
Ученые НИУ ВШЭ работают над созданием приложения, которое позволяет установить, написан текст человеком или сгенерирован искусственным интеллектом. Подход, на который опирается приложение, носит универсальный характер и позволяет «ловить» самых разных ботов, построенных на разной архитектуре. В ближайшее время запланировано тестирование прототипа в широком диапазоне текстов. Предполагается, что платформа будет доступна пользователям в 2025 году.
В питерской Вышке завершилась школа-конференция по ИИ
В НИУ ВШЭ — Санкт-Петербург прошла международная школа-конференция по искусственному интеллекту — ISSCAI 2024. Ее организовали Школа физико-математических и компьютерных наук совместно с Лабораторией социальной и когнитивной информатики при поддержке VK и других партнеров. В недельном интенсиве приняли участие талантливые студенты, аспиранты и разработчики со всей страны — от Москвы до Екатеринбурга, а также из Казахстана и Египта. Ведущие эксперты из России, ОАЭ и Индии прочли курсы по ключевым трендам в области ИИ: от компьютерного зрения до обработки музыкальных сигналов.
Искусственный интеллект как драйвер развития отечественной экономики
Для развития отечественной экономики и роста производительности труда сегодня необходимо активное внедрение технологий искусственного интеллекта (ИИ). Эту задачу можно решить только благодаря тесному сотрудничеству между бизнесом, наукой и образованием. Об этом шла речь на стратегической сессии НИУ ВШЭ по развитию ИИ.
В нижегородской Вышке запустили бакалавриат по искусственному и дополненному интеллекту
Студенты первой сетевой программы высшего образования по искусственному и дополненному интеллекту НИУ ВШЭ в Нижнем Новгороде будут изучать передовые технологии с участием экспертов BigTech-компаний. Меморандум о партнерстве в рамках реализации программы «Технологии искусственного и дополненного интеллекта» подписан между нижегородским кампусом Высшей школы экономики, АНО «НЕЙМАРК», Альфа-Банком и VK.
«Выпускники онлайн-магистратуры ВШЭ и “Яндекса” будут востребованы на горизонте многих лет»
Вышка открывает набор на совместную с “Яндексом” онлайн-магистратуру «Искусственный интеллект в маркетинге и управлении продуктом». Студенты будут изучать автоматизацию маркетинга, машинное обучение и ИИ, управление проектами и другие предметы. Академический руководитель онлайн-магистратуры, доцент департамента больших данных и информационного поиска факультета компьютерных наук ВШЭ Александр Тараканов, и академический руководитель со стороны “Яндекса”, эксперт в сфере маркетинговых образовательных технологий Дмитрий Еременко, рассказали, какие задачи ИИ помогает решать бизнесу и какие специалисты потребуются рынку в будущем.