Эксперты Вышки зададут стандарт искусственному интеллекту
Высшая школа экономики по заказу Федерального агентства по технологическому регулированию и метрологии разработает российские стандарты создания и применения искусственного интеллекта (ИИ) в сетях связи, системах аналитики, нейронных сетях, системах госуслуг, для контроля оборота алкоголя и в других сферах. Об этом проекте и о том, зачем и как нужно стандартизировать ИИ, новостной службе портала рассказал директор по научным проектам НИУ ВШЭ, председатель национального технического комитета по стандартизации ТК164 «Искусственный интеллект» Сергей Гарбук.
Стандарты необходимы для создания благоприятных нормативных возможностей внедрения технологий искусственного интеллекта в различные отрасли экономики и социальной сферы. Дело в том, что в настоящее время отсутствуют единые, признанные профессиональным сообществом и государственными регуляторами правила подтверждения функциональной надежности и безопасности прикладных интеллектуальных систем. Отсутствие таких правил делает невозможным применение систем ИИ в наиболее ответственных задачах, ошибки решения которых могут привести к опасным последствиям: на транспорте, в медицине, образовании, в системах безопасности и других. Система стандартов в области искусственного интеллекта как раз и направлена, прежде всего, на формирование таких единых принципов оценки соответствия систем ИИ установленным требованиям, выполнение которых обеспечивало бы гарантии качества прикладных интеллектуальных систем.
Сергей Гарбук
Государству стандарты нужны для того, чтобы защитить потребителя систем ИИ, предоставляя ему гарантии качества, надежности и безопасности этих систем. Добросовестным разработчикам стандартизация в области искусственного интеллекта необходима для обеспечения единства измерений в этой сфере, благодаря чему появится, например, возможность объективного сопоставления прикладных систем ИИ, созданных разными разработчиками. Такая возможность обеспечит прозрачность конкурентной среды и безусловно будет способствовать развитию отрасли искусственного интеллекта в целом.
Стоит подчеркнуть, что технологии ИИ бурно развиваются. Большие перспективы открываются, в том числе, в связи с использованием интеллектуальных технологий в образовательном процессе. Но такое использование возможно лишь при одном условии: если будут обеспечены гарантии того, что качество образования при этом, как минимум, не снизится. Получение таких гарантий предполагает создание системы оценки соответствия интеллектуальных технологий предъявляемым требованиям. При этом как сами типовые требования к технологиям ИИ, так и способы оценки соответствия этим требованиям должны быть едиными для всех, то есть унифицированными, одобренными профессиональным сообществом, и закреплены в соответствующих стандартах.
Таким образом, отсутствие стандартов ИИ не позволяет использовать эти технологии во многих важных прикладных областях, включая образование, то есть там, где требуются определенные гарантии качества работы интеллектуальных систем. В данном случае можно говорить о наличии серьёзного нормативно-технического барьера, препятствующего эффективному созданию и применению систем искусственного интеллекта.
Стандарты ИИ уже несколько лет активно разрабатываются в разных странах и на международном уровне. Например, национальный план разработки стандартов искусственного интеллекта в США был принят в августе 2019 года. Работа над международными стандартами ведется с начала 2018 года, когда был создан соответствующий подкомитет SC42 Artificial Intelligence Объединенного технического комитета по стандартизации JTC1 Information Technologies. В настоящее время в разработке находится более 20 международных стандартов, и Высшая школа экономики принимает активное участие в этой работе.
В России Перспективный план разработки стандартов искусственного интеллекта на 2021-2024 годы был принят в конце 2020 года. В перечень работ Высшей школы экономики войдет разработка национальных стандартов общего назначения, устанавливающих термины и определения в данной области, форматы представления данных и другие вопросы, решение которых обеспечит терминологическое единство и необходимый уровень совместимости интеллектуальных систем с существующей и перспективной информационной инфраструктурой. Также значительное внимание будет уделено стандартам, устанавливающим единые требования к испытанию систем ИИ, рассчитанных на решение различных прикладных задач. Особенностью таких стандартов является то, что в этих документах будут сформулированы требования к тестовым наборам данных (т.н. датасетам), на которых необходимо проводить испытание интеллектуальных систем для определения их безопасности и функциональности.
Часть стандартов будет разрабатываться путем гармонизации отечественных нормативных документов с соответствующими международными стандартами. Такие работы также запланированы в рамках данного комплексного проекта.
Принципиальным моментом нормативно-технического регулирования ИИ на данном этапе является то, что стандарты не устанавливают требований к способам создания интеллектуальных систем. Унификации подлежат лишь принципы их испытаний, измерения функциональных характеристик и характеристик безопасности. При этом стандарты никак не ограничивают исследователей и разработчиков в выборе принципов создания и функционирования систем.
Вам также может быть интересно:
НИУ ВШЭ и «Яндекс» проведут международную олимпиаду по ИИ для студентов
Факультет компьютерных наук НИУ ВШЭ и «Яндекс Образование» открывают набор на участие в олимпиаде Artificial Intelligence and Data Analysis Olympiad (AIDAO). Это первая совместная олимпиада по искусственному интеллекту университета и ИТ-компании для студентов разных стран. Участники попробуют силы в решении сложных задач из сферы науки и индустрии и познакомятся с экспертами из Вышки и «Яндекса», а победители получат денежные призы.
Искусственный интеллект в университете: вызовы и задачи
На форуме «Технопром-2024», прошедшем в Новосибирске, Высшая школа экономики организовала круглый стол, посвященный обсуждению роли искусственного интеллекта в образовании. Как технологии ИИ помогают выводить качество образования в НИУ ВШЭ на новый уровень, рассказали представители университета.
Красота в деталях: ученые Вышки и AIRI разработали метод высококачественного редактирования изображений
Исследователи Центра ИИ НИУ ВШЭ, AIRI и Бременского университета разработали новый метод редактирования изображений на основе глубинного обучения — StyleFeatureEditor. Он позволяет точно воссоздавать мельчайшие детали изображения и сохранять их при редактировании. С его помощью пользователи смогут изменять цвет волос или выражение лица без потери качества изображения. Результаты работы опубликованы на самой цитируемой конференции по компьютерному зрению CVPR 2024.
Победители Международной олимпиады по ИИ поступили в НИУ ВШЭ
В середине августа в Болгарии состоялся финал первой Международной олимпиады по искусственному интеллекту (IOAI) среди старшеклассников. Сборная России показала отличный результат: в научном туре команда завоевала золотые медали, в практическом — серебряные и оказалась первой по сумме баллов за оба тура. Два участника сборной в этом году стали студентами факультета компьютерных наук ВШЭ.
В систему добровольной сертификации в области ИИ «Интеллометрика» включены первые лаборатории
В России вступает в действие система добровольной сертификации технологий искусственного интеллекта «Интеллометрика», использующая методический подход, разработанный учеными Высшей школы экономики. Допуск получили первые три лаборатории, которые смогут проводить испытания в сфере ИИ и выдавать по их итогам соответствующие протоколы, и один орган по сертификации.
В Вышке изучили, как студенты российских вузов осваивают технологии ИИ
Институт статистических исследований и экономики знаний НИУ ВШЭ анализирует масштабы и условия обучения технологиям искусственного интеллекта в университетах страны, для которых это становится важной частью подготовки высококвалифицированных кадров не только в сфере ИКТ, но и в других отраслях экономики. Исследование реализуется в рамках федерального проекта «Искусственный интеллект» при поддержке Минэкономразвития России.
Законы физики: как Высшая школа экономики стала Высшей школой IT-технологий и ИИ
Сотрудничество лидеров IT-индустрии и ведущих вузов в подготовке высококлассных специалистов стало ключевым трендом последних лет. Как построено IT-образование в Вышке и как университет стал лидером в сфере искусственного интеллекта, рассказал ректор НИУ ВШЭ Никита Анисимов на пресс-завтраке «Яндекс Образования» «Бигтехи и университеты: итоги приемной кампании — 2024/25 и модели партнерства».
Территория будущего: Вышка Онлайн принимает участие в фестивале «Москва 2030»
Пространство онлайн-кампуса НИУ ВШЭ открылось на фестивале «Территория будущего. Москва 2030», который проходит на нескольких знаковых площадках столицы в августе — сентябре. Гостей Вышки Онлайн ждут лекции и мастер-классы, карьерные консультации, нетворкинг, VR-квесты и развлечения.
Искусственный интеллект с Харизмой
Высшая школа экономики активно использует передовые цифровые технологии в науке и образовании. Рассказываем в нашей статье о том, как суперкомпьютер помогает исследователям университета.
Студенты НИУ ВШЭ успешно защитили дипломы, в работе над которыми применили YandexGPT
Этим летом студенты нескольких направлений подготовки НИУ ВШЭ — «Философия», «Медиакоммуникации», «Международные отношения» и «Востоковедение» — впервые использовали нейросеть в процессе написания дипломных и курсовых работ. Университет разрешил применять возможности YandexGPT, генеративной технологии Яндекса, для решения заранее определённого перечня задач, на которые обычно у студента уходит много времени. Она помогала собирать, анализировать и обобщать информацию, проверять текст на ошибки и править оформление, а также разбираться в сложных темах и структурировать ход размышлений.