Представляя документ на пресс-конференции в штаб-квартире ООН в Нью-Йорке, Гутерриш отметил, что мир впервые получил независимую научную оценку возможностей и рисков стремительно развивающихся технологий.

«Мы больше не можем говорить, что не знали. Что мы сделаем с этими знаниями – теперь зависит от всех нас», – заявил Генеральный секретарь.

«Не ждите»

Глава ООН напомнил, что несколько месяцев назад объявил о создании Независимой международной научной группы по искусственному интеллекту, в которую вошли 40 ведущих ученых и экспертов со всего мира. По его словам, это первый полностью независимый международный научный орган, призванный восполнить пробел в знаниях об ИИ и дать объективную оценку его влиянию на экономику, общество и безопасность.

«Мы рассчитываем, что группа поможет миру отделять факты от фальсификаций, а науку – от информационного шума», – сказал Генсек.

Он отметил, что первый доклад был подготовлен в рекордно короткие сроки и уже направлен правительствам всех государств-членов ООН, а также опубликован в открытом доступе. Глава ООН подчеркнул, что документ честно говорит как об огромном потенциале искусственного интеллекта, так и о связанных с ним угрозах.

«При правильном использовании искусственный интеллект может стать самым мощным двигателем развития, ускорив прогресс во всем – от здравоохранения и борьбы с голодом до образования и борьбы с изменением климата», – отметил он. Однако, добавил Генсек, доклад столь же откровенно показывает и возможный вред, который могут причинить эти технологии.

Главный вывод, по словам Гутерриша, заключается в том, что чем быстрее развивается искусственный интеллект без общих правил, тем меньше у правительств и общества остается возможностей влиять на его будущее.

«Поэтому мой призыв к правительствам прост: не ждите», – заявил он.

От науки – к международным решениям

Генсек подчеркнул, что опубликованный документ – лишь первый этап работы. По мере развития технологий группа будет регулярно готовить новые оценки и тематические исследования.

Следующим шагом станет первый Глобальный диалог по вопросам управления искусственным интеллектом, который пройдет 6–7 июля в Женеве. По словам Гутерриша, его цель – превратить научные выводы в согласованные международные действия с участием всех государств.

Что говорится в докладе

Предварительный доклад охватывает семь ключевых направлений: развитие технологий ИИ, их применение в здравоохранении, науке, образовании и сельском хозяйстве, влияние на экономику, безопасность, окружающую среду, права человека, демократические институты, культуру, защиту детей, а также вопросы управления и надежности систем искусственного интеллекта.

Выступая на пресс-конференции, сопредседатель группы, ученый Йошуа Бенджио отметил, что возможности ИИ растут быстрее, чем научное понимание этих систем и способность государств адаптироваться к новым вызовам.

«Появляется все больше свидетельств того, что системы искусственного интеллекта способны обманывать. Современная наука пока не может гарантировать, что по мере роста их возможностей их использование не приведет к катастрофическим последствиям – самостоятельно или в результате злонамеренного использования», – предупредил он.

По словам Бенджио, именно поэтому политикам необходима независимая научная база, которая позволит принимать обоснованные решения.

Сопредседатель группы, лауреат Нобелевской премии мира Мария Ресса подчеркнула, что нынешняя траектория развития искусственного интеллекта не гарантирует, что человечество сможет воспользоваться всеми преимуществами новой технологии.

«Риски для общества, безопасности и самого человечества слишком велики, а силы, которые сегодня двигают развитие ИИ, – это не те силы, которые обеспечат преимущества для всех», – заявила она.

Специальный посланник Генерального секретаря ООН по цифровым и новым технологиям Амандип Сингх Гилл отметил, что искусственный интеллект сам по себе не устранит существующее неравенство.

По его словам, преимущества новой технологии получают прежде всего страны и сообщества, где уже существуют необходимые институты, квалифицированные специалисты и данные. В других случаях ИИ может привести к потере рабочих мест, усилению социального неравенства и росту зависимости от технологий, разработанных без учета местных потребностей.

Предварительный доклад Независимой международной научной группы по искусственному интеллекту: результаты проведенной с использованием фактических данных оценки возможностей и рисков, связанных с искусственным интеллектом, и его воздействия

 Резюме

Этот документ создан с целью представить взвешенный анализ рисков и возможностей, связанных с искусственным интеллектом (ИИ). Под «взвешенным» понимается анализ, основанный на обязательстве оценки эмпириче-ских данных без ненадлежащего оптимистического или пессимистического уклона. Потенциальные преимущества использования ИИ огромны. При проду-манном внедрении и применении ИИ может содействовать прогрессу в дости-жении целей в области устойчивого развития, дальнейшему развитию наук о здоровье и расширению доступа к образованию. В то же время стремительные темпы развития технологий и широкий спектр потенциальных сфер их приме-нения ставят перед сторонами, ответственными за выработку политики, серьез-ные задачи. Стремительное, беспрепятственное внедрение этой технологии в широких масштабах также сопряжено со значительными рисками, в том числе с риском нанесения вреда психическому здоровью пользователей, риском потен-циального использования в качестве инструмента оказания разрушительного воздействия, риском воздействия на социальные, экономические и экологиче-ские системы, а также с трудностями, связанными с контролем над этой техно-логией. Целью данного доклада не является рассмотреть полный спектр всех потенциальных возможностей и рисков; вместо этого внимание в нем сосредоточено на нескольких наиболее насущных из них.

Функциональные возможности и внедрение

В последние годы наблюдается стремительный, а в некоторых областях даже ускоряющийся прогресс в развитии целого ряда функциональных возможностей ИИ. Значительные инвестиции в вычислительные мощности, новые методологические основы развития ИИ и использование специализированных обучающих данных привели к систематическому совершенствованию широкого спектра функциональных возможностей ИИ. К ним относятся естественное ве-дение разговора, генерирование функционального кода, логические построения на экспертном уровне в математике и естественных науках, анализ крупных массивов данных, а также генерирование изображений и аудио- и видеоконтента. Сохраняются ограничения, например в плане надежности, обеспечения высоких результатов при работе с различными человеческими языками и культурами, взаимодействия с физическими системами, осуществления сложных или много-этапных проектов, а также генерирования результатов, основанных на фактах; в целом, однако, технический прогресс во многих важных областях уже на протяжении нескольких лет идет быстрыми темпами, которые превосходят обычные ожидания в отношении развития технологий.

Благодаря этим достижениям стало возможным применять полезные функции на практике в науке, здравоохранении, сельском хозяйстве, сфере обеспечения доступности, сфере умственного труда и в информационных техно-логиях, в том числе в разработке самого ИИ. Например, в науке использование системы AlphaFold позволило предсказать структуру более 200 миллионов белков (эти результаты сейчас используют более 3 миллионов исследователей), а также ускорить разработку лекарственных препаратов, создание вакцин и изучение антибиотикорезистентности. Кроме того, радиологи используют ИИ для более ранней диагностики рака груди, а медицинские работники первичного звена в условиях низкой обеспеченности ресурсами применяют инструменты ИИ, адаптированные к местным языкам, для предоставления более качествен-ных услуг по охране здоровья.

Внедрение ИИ в разных странах и секторах ускорилось повсеместно и при этом идет неравномерно. На данный момент более миллиарда человек во всем мире еженедельно пользуются диалоговым ИИ. Тем не менее доступ к ИИ и его использование значительно различаются в мировом масштабе, причем в странах глобального Юга внедрение идет значительно медленнее, чем в странах глобаль-ного Севера. Кроме того, между странами с развитой экономикой наблюдаются значительные различия в вычислительной инфраструктуре и вычислительных моделях. Эта диспропорция отражает существующее неравенство и может даже усиливать его. Сама разработка ИИ характеризуется еще более высокой концентрированностью: по недавним оценкам, на долю Соединенных Штатов Америки приходится 75 процентов вычислительной мощности 500 лучших суперкомпьютеров мира, работающих с ИИ, а на долю Китая — 15 процентов. Компании в Соединенных Штатах и Китае также разрабатывают почти все ведущие модели общего назначения, а небольшое число стран контролирует поставки критиче-ски важных ресурсов для цепочки поставок и производства компьютерных чи-пов для работы ИИ.

Продолжается процесс перехода к использованию ИИ-агентов, однако их будущее внедрение и экономическое воздействие, по-видимому, будут зависеть от непрерывного совершенствования их способности выполнять задачи умственного труда с минимальным человеческим надзором или без него. ИИ-агент — это компьютерная система со способностью планировать и в автономном режиме предпринимать действия для достижения той или иной цели с использованием имеющихся в ее распоряжении средств. В последние годы эти системы стремительно совершенствуются: по результатам одного ис-следования, длина некоторых заданий по программированию, которые передо-вые системы способны успешно выполнять, удваивается каждые 4 –7 месяцев. Если такие темпы совершенствования сохранятся, то скоро ИИ-агенты будут вы-полнять задания, на которые у программистов сейчас уходят дни или недели. Поскольку ИИ-агенты способны работать очень быстро и под минимальным надзором, их использование может принести значительные экономические и научные выгоды. Например, при применении систем агентного ИИ в автономных химических лабораториях было зафиксировано более чем десятикратное увеличение скорости открытия новых материалов. В некоторых ситуациях, связанных с научно-исследовательской работой, анализ литературы с помощью ИИ, по некоторым оценкам, позволил сократить рабочую нагрузку приблизительно на 60 процентов. Поэтому применение ИИ-агентов влечет за собой значитель-ные последствия вне зависимости от отрасли. В то же время их внедрение ставит требующие неотложного решения вопросы, касающиеся рынков труда, кибер-безопасности, информационных экосистем, а также управления будущими системами ИИ и их контролируемости.

Понимание рисков и управление ими

Развитие ИИ сопряжено с рисками и потенциальным негативным воздействием на права человека, социальные системы и окружающую среду. Например, в Интернете теперь чаще распространяются созданные ИИ матери-алы, содержащие сцены сексуального надругательства над детьми, и материалы, основанные на дипфейках и содержащие сцены сексуального насилия, нанося несоразмерно большой ущерб женщинам и детям. Угодливое поведение ИИ, при котором ответы ИИ подкрепляют существующие убеждения пользователей независимо от их верности, связывают с несколькими серьезными инцидентами в области психического здоровья, в том числе с документально подтвержденными смертельными исходами. ИИ упрощает масштабное создание и целенаправлен-ное распространение убедительного контента, в том числе призванного вводить в заблуждение, что способствует постепенному ослаблению целостности ин-формации, которое, в свою очередь, может ослаблять чувство существования в общей действительности, необходимое для поддержания общественного дове-рия и социальной сплоченности и ведения демократических обсуждений. Име-ются документальные подтверждения того, что преступники и злоумышленники используют системы ИИ для помощи в совершении кибератак. Многие из этих негативных последствий в несоразмерной степени затрагивают группы населе-ния, уже находящиеся в неблагоприятном положении.

В перспективе разрыв между стремительно растущими функциональными возможностями и наличием эффективных методов управления рисками 

может привести к катастрофическим результатам. 

Например, благодаря передовым техническим возможностям частные субъекты, не имеющие соответствующего опыта, могут получить возможность злонамеренным образом использовать ИИ на практике в целом ряде областей, таких как мошенничество, социальная инженерия, кибербезопасность, дезинформация, биотехнологии и манипулирование финансовыми рынками. Надежные методы сохранения контроля над высокоавтономными системами ИИ отсутствуют. Нет никаких научных гаран-тий того, что ИИ-агенты не будут нарушать данные им инструкции, и появляется все больше фактических данных о случаях, в которых они уже их нарушают. В лабораторных условиях было продемонстрировано, что системы ИИ нарушают данные им инструкции в области безопасности, чтобы избежать своего отклю-чения. Схожее поведение может создавать трудности для применения методов оценки и надзора, поскольку ведущие системы ИИ все лучше распознают тесто-вую среду и способны генерировать результаты оценки, которые вводят в за-блуждение и потенциально способствовали бы продолжению функционирова-ния этих систем. Помимо этого, принципиально новые риски могут возникать в результате взаимодействия между несколькими агентами.

Риски, связанные с использованием ИИ, распределены между группами населения и странами неравномерно, тогда как разработка ИИ и генерируемый им капитал характеризуются значительной степенью концентрированности. Концентрация управления функциональными возможностями ИИ в небольшом числе компаний и стран может привести к захвату контроля авторитарными силами и подорвать демократическую подотчетность.

Управление искусственным интеллектом, ориентированное на получение преимуществ и снижение рисков

Чтобы получить все преимущества от использования ИИ и одновременно свести к минимуму сопутствующие риски, необходимо надлежащее управление. Получение экономической выгоды и преимуществ для работников, а также их справедливое распределение не являются автоматическими: при условии дополняющих инвестиций в профессиональную подготовку, рабочие процессы, инфраструктуру и институты рынка труда использование технологий может вести к созданию новых видов работы, которых в данный момент еще не существует — в 2018 году более 60 процентов видов работы являлись новыми по сравнению с 1945 годом. Без этих инвестиций есть риск того, что использование ИИ приведет к усугублению неравенства, вытеснению работников и пере-распределению богатства от труда к капиталу вместо создания устойчивых и качественных рабочих мест — таких, которые обеспечивают справедливое воз-награждение, автономию работников и надежный путь к достойной жизни в обществе. ИИ способен радикально расширить возможности человека благодаря персонализированному образованию, доступным инструментам для поддержа-ния психического здоровья и усовершенствованным ассистивным технологиям, однако для того, чтобы воспользоваться этими возможностями безопасно, необ-ходимы целевые инвестиции и целенаправленные политические меры, направ-ленные на стимулирование равноправного доступа и поощрение инноваций с одновременным предотвращением эксплуатации уязвимых групп населения, в особенности детей, а также меры во избежание вытеснения экспертных знаний, формирования психологической зависимости или утраты культурного и языко-вого наследия.

Ответственные за выработку политики стороны, стремящиеся сформировать эту систему управления, сталкиваются с дилеммой, связанной с фактическими данными: чтобы принимать обоснованные, имеющие серьезные последствия решения относительно управления, им нужны фактические данные, однако к моменту появления фактических данных принимать та-кие решения может быть уже слишком поздно, поскольку темпы развития ИИ опережают темпы получения фактических данных. В различных юрисдикциях уже применяются десятки различных инструментов управления, при-званных интегрировать принципы этики и прав человека в системы ИИ, однако они являются фрагментарными, сосредоточены в руках узкого круга корпораций и редко дают возможность измерить эффективность применения в реальных условиях. Сами методы оценки недостаточно развиты, а институты, необходи-мые для предоставления независимого потенциала и проведения оценки рисков, по-прежнему находятся в зачаточном состоянии.

Потенциал принятия мер в ответ на появление фактических данных о рисках и последствиях использования ИИ распределен неравномерно. У большинства стран, в том числе у многих стран с развитой экономикой, нет техниче-ских знаний и опыта для оценки обладающих наибольшими функциональными возможностями «передовых» моделей или для значимого участия в управлении ими. Вычислительная инфраструктура, экспертные знания в области оценки и данные (например, для охвата различных языков) сосредоточены там, где разра-батывается ИИ, из-за чего большинство государств-членов оказывается в зави-симости от систем, которые они не могут создавать, проверять, подвергать аудиту или в полной мере адаптировать к местным условиям. Доступ к инстру-ментам ИИ сам по себе не обеспечивает равных преимуществ; необходимы до-полняющие инвестиции в данные, профессиональную подготовку, рабочие про-цессы и институты, которые преобразуют доступ в приносящее практическую пользу, экономически эффективное и безопасное внедрение, однако они не рас-пределены на равноправной основе.

Конкретные дальнейшие шаги по устранению вышеуказанных пробелов могут быть сделаны, однако для каждого из них требуются стабильные инвестиции в укрепление потенциала государств-членов в области формирования, оценки и внедрения систем ИИ. Этот предварительный доклад представляет собой часть вклада Группы и обеспечивает государствам-членам, пытающимся найти ориентир для принятия все более срочных решений, общую доказательную базу. По мере того как благодаря постоянному взаимодействию с государствами-членами и научным сообществом в целом Группа будет обре-тать более глубокое понимание данной темы, ее анализ также будет становиться более глубоким, не ограничиваясь выявленными пробелами и позволяя просле-дить тенденции, противоречия и возможности, которым суждено определять бу-дущее ИИ.