Эксперты Вышки просчитали риски цифровизации
Подавляющее большинство российских граждан — 85% — не готовы доверить принятие решений искусственному интеллекту, говорится в докладе Центра исследований гражданского общества и некоммерческого сектора НИУ ВШЭ. Соответствующее исследование он провел для Совета при Президенте РФ по развитию гражданского общества и правам человека (СПЧ). Чтобы минимизировать риски, нужна новая модель правового регулирования, говорится в исследовании.
Развитие цифровой сферы связано с серьезными рисками в области прав человека, заявил на пресс-конференции в минувшую пятницу председатель СПЧ Валерий Фадеев. Он напомнил, что впервые эта тема была поднята на встрече президента с членами Совета в декабре прошлого года. По ее итогам глава государства дал ряд поручений, в частности, разработать методологические и правовые основы в сфере цифровизации, своего рода «цифровой кодекс».
«Как любая мощная технология, которая меняет жизнь почти всех областей деятельности человека, цифровизация несет новые риски. Мы должны минимизировать эти риски в области прав человека», — пояснил Фадеев.
В рамках подготовки предложений СПЧ взаимодействует с научным сообществом, с общественными институтами, подчеркнул глава СПЧ, представляя исследование ВШЭ «Влияние процессов цифровизации на права человека и развитие гражданского общества». По мнению авторов, цифровая среда дает много преимуществ: повышение производительности, создание новых продуктов, услуг, впечатлений, доступность актуальной и достоверной информации и новые технологии ее обработки.
Однако вместе с новыми возможностями появляются новые риски. Так, алгоритмическая обработка данных цифровыми платформами и государством может привести к нарушению права на неприкосновенность частной жизни. Также среди основных угроз: цифровая дискриминация граждан государством и частными корпорациями на основе злоупотребления персональными данными и накопления больших данных о гражданах; кибератаки и компьютерное мошенничество; кибербуллинг, троллинг, иные акты агрессии в цифровой среде; информационные войны в киберпространстве, рост числа «фейковых новостей» и спланированных кампаний по дезинформации в интернете, в том числе с использованием современных технологий синтезирования медиаконтента (DeepFake).
По результатам опроса выяснилось, что российские граждане обеспокоены соблюдением своих прав. Так, 64% граждан при пользовании интернетом опасаются утечки персональных данных, и только 35% не видят рисков. При этом с агрессией в интернете от незнакомых людей сталкивались лишь 28% опрошенных, 71% — не встречал словесных угроз в свой адрес.
Внедрение цифровых технологий в целом несет обществу только пользу (так считает 20% респондентов) или по крайней мере больше пользы, чем вреда (полагают 44% опрошенных).
Ирина Мерсиянова
«Чтобы граждане перестали опасаться доверять принятие решений искусственному интеллекту, у них должно возникнуть доверие к самой технической системе, — говорит директор Центра исследований гражданского общества и некоммерческого сектора НИУ ВШЭ Ирина Мерсиянова. — Однако доверие на пустом месте возникнуть не сможет, ведь это, по сути, оправданные ожидания от взаимодействия. Даже если постоянно уверять людей в том, что все хорошо и надежно, без своего опыта взаимодействия доверие не возникнет. У людей просто не будет такой установки».
Несмотря на пока несформировавшееся доверие граждан к искусственному интеллекту, вектор развития правового регулирования должен быть направлен на укрепление информационного суверенитета государств и защиту прав граждан в цифровой среде, не нарушая вектора раскрытия положительного потенциала технологий, полагают авторы исследования.
Вам также может быть интересно:
НИУ ВШЭ — лидер среди вузов по вкладу в развитие ИИ
15 мая состоялось вручение премии «AI Awards: создатели будущего 2024». Команда по искусственному интеллекту и цифровым продуктам «Билайна» Big Data & AI* совместно с Brand Analytics объявили победителей рейтинга искусственного интеллекта, который составила нейросеть. Вышка стала победителем в индустриальной номинации «Вузы. Вклад в развитие ИИ».
Ученые Вышки ускоряют разработку беспроводных систем связи 5G и 6G с помощью ИИ-технологий
В Центре искусственного интеллекта НИУ ВШЭ разработали программное обеспечение для моделирования радиоканала в беспроводной связи 5G и 6G, основанное на использовании трассировки лучей и машинного обучения. Программы позволяют узнать, как радиоволны распространяются между передатчиком и приемником, а также могут преобразовывать данные трассировки лучей в формат последовательности кадров, конфигурировать и обучать нейросеть на их основе с последующим сохранением.
«Новый стратегический проект усилит наши компетенции в области искусственного интеллекта»
Высшая школа экономики в рамках программы «Приоритет-2030» запускает новый стратегический проект «ИИ-технологии для человека». О том, какие задачи он решает, какие проекты войдут в его состав, зачем нужны конкурсы молодых ученых и компетенций и что будут делать ИИ-помощники для человека, в интервью «Вышке.Главное» рассказал научный руководитель стратпроекта, директор Института искусственного интеллекта и цифровых наук НИУ ВШЭ Алексей Масютин.
На площадке НИУ ВШЭ опубликована «Белая книга» оценки соответствия искусственного интеллекта
Технический комитет по стандартизации №164 «Искусственный интеллект», действующий на площадке НИУ ВШЭ, совместно с Палатой индо-российского технологического сотрудничества (CIRTC) и ассоциацией «РУССОФТ» опубликовали «Белую книгу» оценки соответствия искусственного интеллекта. В ней отражены подходы к стандартизации и этическому регулированию технологий ИИ в двух пилотных отраслях — здравоохранении и сельском хозяйстве.
«Подобно электричеству, ИИ может принести невероятную пользу»
Разработки в сфере искусственного интеллекта постепенно занимают ведущее место во всем мире. ИИ может принести невероятную пользу мировой экономике и благосостоянию, но порождает новые вызовы. Об этом в своем докладе рассказал профессор Университета Флориды, научный руководитель Лаборатории алгоритмов и технологий анализа сетевых структур нижегородской Вышки Панос Пардалос.
Быть, а не казаться: как вырастить из ИИ профессионала
Пока ученые спорят о пользе и вреде искусственного интеллекта, молодежь активно осваивает и интегрирует нейросети в свою жизнь, приспосабливая нашу реальность к новым условиям. О том, как дообучить LLM, чтобы они смогли служить полноценными ассистентами в профессиональной среде, обсудили в Вышке на воркшопе «Большие языковые модели в науке и в жизни».
«Нам нужно учиться общаться с сервисами искусственного интеллекта»
На платформе «Открытое образование» стартовал онлайн-курс «Что такое генеративный ИИ?», который поможет слушателям узнать больше о том, как правильно общаться с нейросетями, чтобы они лучше выполняли задачи. Как работает генеративный ИИ и как с его помощью создавать любой контент, рассказала эксперт Центра непрерывного образования, старший преподаватель департамента больших данных и информационного поиска ФКН Дарья Касьяненко.
«Специалист по Data Science» ВШЭ — первая программа переподготовки с аккредитацией Альянса в сфере ИИ
Согласно итогам экспертизы, программа Высшей школы экономики охватывает современные области анализа данных и машинного обучения и помогает нетехническим специалистам приобрести базовые знания в области больших данных и искусственного интеллекта. Это уже шестая образовательная программа факультета компьютерных наук НИУ ВШЭ, получившая престижную профессионально-общественную аккредитацию.
В Вышке стартует конкурс компетенций в области ИИ и машинного обучения
Дирекция программы развития НИУ ВШЭ объявляет о проведении конкурса компетенций в интересах развития исследований в области искусственного интеллекта и машинного обучения. Заявки принимаются до 2 мая 2024 года.
Что мы знаем о мозге и его возможностях: рассказывают исследователи ВШЭ
Правда ли, что мозг — самый неизученный орган? Как нейротехнологии помогают в лечении сложных заболеваний? Может ли искусственный интеллект соревноваться с естественным? И куда пойти учиться, чтобы стать нейроученым? Эти и другие темы в новом выпуске рубрики «Разговор с экспертом» обсудили ученые из Высшей школы экономики — Ольга Драгой, Андрей Мячиков и Алексей Осадчий.