Доха, 05 июля (QNA) — Международное сообщество обращает внимание на швейцарский город Женеву, где 6–7 июля 2026 года проходит Глобальный диалог по управлению ИИ.

Мероприятие объединяет представителей государств-членов, правительств, международных организаций, частного сектора, академических кругов и технического сообщества, отражая растущий международный интерес к созданию более всесторонней и справедливой глобальной системы регулирования использования ИИ и обеспечению того, чтобы все страны могли воспользоваться возможностями, которые предоставляет эта быстро развивающаяся технология.

Диалог совместно организован Организацией Объединённых Наций по вопросам образования, науки и культуры (UNESCO) и Международным союзом электросвязи (ITU) в рамках мандата, выданного Генеральной Ассамблеей ООН.

Это часть обязательств, изложенных в «Глобальном цифровом пакте», принятом ООН как дорожная карта для укрепления международного цифрового сотрудничества, включая развитие глобального управления ИИ, основанного на принципах справедливости, прозрачности, инклюзивности и уважения прав человека.

Встреча является важной вехой на пути глобальных усилий по переходу от теоретических дискуссий об ИИ к разработке практических механизмов для международного сотрудничества на фоне беспрецедентного расширения приложений и инструментов генеративного ИИ.

Это сопровождается сопутствующими проблемами, связанными с кибербезопасностью, защитой данных и конфиденциальностью, юридической ответственностью, борьбой с дезинформацией и обеспечением ответственного использования этих технологий.

ООН утверждает, что ИИ обладает значительным потенциалом для поддержки экономического и социального развития и улучшения услуг в таких секторах, как здравоохранение, образование, сельское хозяйство, энергетика и транспорт.

Однако эти преимущества не будут достигнуты справедливо, если глобальная система управления не будет разработана таким образом, чтобы все страны участвовали в формировании политики и стандартов, регулирующих эту технологию и её применение.

По данным ООН, участники ожидают изучения механизмов укрепления международного сотрудничества, обмена опытом, наращивания потенциала и предоставления развивающимся странам возможности воспользоваться приложениями ИИ, а также способов сокращения растущего цифрового разрыва и обеспечения справедливого и инклюзивного доступа к передовым технологиям для различных обществ.

Среди ключевых задач, стоящих перед международным сообществом, — поиск баланса между стимулированием инноваций и ускорением развития приложений ИИ, с одной стороны, и созданием эффективных регулирующих рамок, ограничивающих потенциальные риски, с другой.

Ожидается также, что участники рассмотрят разработку общих принципов прозрачности и ответственности, повышение доверия к системам ИИ и создание механизмов постоянной оценки рисков, соответствующих быстрому развитию этой технологии.

В то же время отчёты ООН указывают на необходимость решения проблем, связанных с потреблением энергии в дата-центрах, сокращением экологического воздействия расширения технологий ИИ и обеспечением устойчивого использования цифровых ресурсов.

По данным источников ООН, диалог отражает рост международных и региональных инициатив по регулированию использования ИИ, поскольку множество организаций и стран запустили законодательные и этические рамки, направленные на продвижение ответственного использования технологий.

Однако множество инициатив требует большего международного согласования для уменьшения различий в стандартах и повышения глобальной применимости.

Что касается вклада управления ИИ в установление международных стандартов для снижения рисков злонамеренного использования кибертехнологий, доктор Мохаммед Саид Аль Сакатри, эксперт по технологиям и кибербезопасности, рассказал Qatar News Agency (QNA), что управление ИИ играет значительную роль в создании международного порядка, основанного на правилах, который обеспечивает ответственное использование этой технологии.

По его словам, это достигается через общие стандарты, способствующие прозрачности, ответственности и управлению рисками, подчёркивая, что цифровое пространство не знает границ, и поэтому усилия одной страны недостаточны без настоящего международного сотрудничества.

Таким образом, инициативы, возглавляемые такими организациями, как ООН,UNESCO и ITU, имеют решающее значение для установления правил, ограничивающих злоупотребление ИИ в кибератаках или создании фальшивого контента и введении людей в заблуждение, отметил Аль Сакатри.

Он подчеркнул, что для реализации этого необходимы чёткие и практически применимые международные стандарты, определяющие, кто имеет право использовать модели ИИ и с каким уровнем полномочий, в зависимости от характера и уровня риска каждого случая использования.

Аль Сакатри добавил, что эти стандарты должны пересматриваться и обновляться как минимум ежегодно, чтобы соответствовать быстрому развитию возможностей ИИ и гарантировать, что они не используются незаконно.

Он также подчеркнул важность установления чётких правил, регулирующих обучение и использование этих моделей, чтобы разработчики и операторы несли ответственность за свои результаты.

Кроме того, Аль Сакатри отметил, что само управление не устраняет угрозы, но является необходимой основой для унификации политики, укрепления международного сотрудничества и повышения доверия к этим технологиям.

Что касается укрепления защитных возможностей на фоне растущей сложности киберугроз, доктор Аль Сакатри сказал, что ландшафт кибербезопасности быстро меняется благодаря ИИ, который теперь одновременно служит как защитникам, так и атакующим.

С одной стороны, он помогает командам безопасности быстрее обнаруживать угрозы, анализировать большие объёмы данных и точнее реагировать на инциденты.

С другой стороны, по его словам, злоумышленники используют ИИ для разработки более умных атак, таких как убедительные фишинговые сообщения, вредоносное ПО, адаптирующееся к системам безопасности, масштабные автоматизированные атаки, а также дипфейки для мошенничества и обмана.

Он продолжил, что ярким примером этого риска стало объявление Google в мае, когда впервые группа злоумышленников использовала ИИ для выявления ранее неизвестной уязвимости нулевого дня и написания кода на Python для её эксплуатации.

Уязвимость была в системе двухфакторной аутентификации (2FA) широко используемого инструмента управления веб-сайтами, пояснил Аль Сакатри, отметив, что Google обнаружила проблему и устранила уязвимость до того, как злоумышленники смогли использовать её в массовом масштабе.

О том, что код был написан ИИ, свидетельствовали индикаторы внутри самого кода, такие как комментарии в стиле инструкций и нелогичные оценки безопасности CVSS — признаки, часто встречающиеся в результатах, созданных крупными языковыми моделями, поделился Аль Сакатри.

Аль Сакатри пояснил, что ИИ также эффективно используется на стороне защиты, отметив, что инструмент AISLE успешно обнаружил 15 уязвимостей безопасности в критически важной программной библиотеке OpenSSL за короткое время, включая все двенадцать уязвимостей, раскрытых компанией в одном релизе безопасности.

Он добавил, что аналогичные инструменты, разработанные Google, помогли выявить серьёзные уязвимости в основных системах, лежащих в основе интернета. Таким образом, успех в кибербезопасности сегодня всё больше связан с теми, кто использует ИИ более эффективно и ответственно.

Аль Сакатри указал на ключевые задачи безопасности, стоящие перед правительствами и учреждениями на фоне расширения использования ИИ, особенно в защите данных, используемых для обучения моделей ИИ.

Эта задача, по его мнению, стала особенно очевидной в 2025–2026 годах благодаря реальным случаям, включая вредоносные репозитории кода под названием "Basilisk Venom", внедрённые в обучающие наборы данных, а также другой случай с моделью Grok 4, когда злоумышленники разместили скрытую секретную фразу на платформах социальных сетей, которая затем попала в обучающие данные модели без ведома кого-либо.

  Он также отметил резкое увеличение серьёзности киберугроз, часто называемых кражей моделей, когда злоумышленники смогли воспроизвести почти полные версии коммерческих моделей ИИ, отправив миллионы запросов и анализируя их ответы.

Это было достигнуто при относительно низких затратах — всего несколько тысяч долларов, по сравнению с миллионами, потраченными компаниями на разработку оригинальных моделей, отметил Аль Сакатри, указав, что эти риски растут с увеличением зависимости компаний от программного обеспечения с открытым исходным кодом и библиотек.

Для решения этих задач он подчеркнул важность комплексного подхода, включающего обновление законодательства, внедрение безопасности на ранних этапах проектирования систем, проведение периодических оценок рисков, обмен разведданными о безопасности между организациями, инвестирование в подготовку национальных кадров и использование решений на основе ИИ в тщательно контролируемой защитной среде.

Аль Сакатри подчеркнул необходимость баланса между использованием возможностей ИИ для укрепления кибербезопасности и защитой конфиденциальности и персональных данных.

Это требует внедрения концепции «ответственного ИИ», отметил он, когда системы проектируются и эксплуатируются с учётом принципов конфиденциальности, безопасности и прозрачности с самого начала, а не как второстепенные элементы.

Также требуется соблюдение правил защиты данных, минимизация сбора данных до строго необходимого, применение методов анонимизации и шифрования, а также независимая проверка и аудит систем с высоким уровнем риска, предложил Аль Сакатри.

Аль Сакатри утверждал, что чёткие рамки управления и механизмы ответственности, а также сотрудничество между правительствами, частным сектором, академическими учреждениями и международными организациями необходимы для того, чтобы возможности ИИ использовались для укрепления кибербезопасности, при этом защищая индивидуальные права, конфиденциальность и укрепляя доверие к этим технологиям.

  В свою очередь, доктор Фатх Аль Алим Али Хиджа, профессор исследований киберзащиты Академии оборонных исследований Джоан бин Джассима в Катаре, отметил, что сегодня кибербезопасность переживает тектонический сдвиг, выходящий за рамки традиционной технологической эволюции благодаря стремительному развитию технологий ИИ.

Али Хиджа подчеркнул, что искусственный интеллект больше не является просто инструментом для повышения эффективности систем; он стал фактором, изменяющим ландшафт киберугроз и отношения между атакующим и защитником, а также скорость развития атак и механизмов реагирования.

С оборонительной точки зрения, Али Хиджа отметил, что ИИ позволил развивать передовые возможности в анализе больших данных, обнаружении аномалий, прогнозировании вредоносного поведения и автоматизации мониторинга и реагирования.

Это повысило эффективность центров операций безопасности, улучшило ситуационную осведомлённость и сократило время, необходимое для обнаружения и реагирования на инциденты, отметил он.

Али Хиджа также заявил, что ИИ позволил злоумышленникам разрабатывать новое поколение кибератак, характеризующихся обучаемостью и адаптивностью, автоматизацией этапов атак, анализом целевых сред и созданием убедительного мошеннического контента, а также постоянным совершенствованием атак на основе ответов защитных систем.

Он предупредил, что значимость управления ИИ обусловлена тем, что эта технология носит глобальный характер, тогда как большинство правовых и регулирующих рамок остаются национальными. Поэтому задача уже не ограничивается регулированием технологий внутри отдельных государств, а распространяется на создание международной системы, способной управлять трансграничными рисками, связанными с приложениями ИИ.

Али Хиджа подчеркнул, что этот Диалог имеет стратегическое значение, поскольку отражает переход от рассмотрения ИИ как исключительно технического вопроса к его связи с международной стабильностью, цифровым доверием, кибербезопасностью и устойчивым развитием.

Он ожидает, что глобальное управление поможет установить общие принципы, связанные с прозрачностью, ответственностью, управлением рисками, безопасностью передовых моделей и механизмами их оценки перед внедрением.

Это снизит вероятность их использования в автоматизированных кибератаках, отметил Али Хиджа, включая кампании по дезинформации или создание фальшивого контента.

Однако он отметил, что успех такого управления не будет достигнут только принципами, а требует их превращения в национальное законодательство, регулирующие рамки, технические стандарты и эффективные механизмы сотрудничества между правительствами, частным сектором и научными учреждениями, поскольку управление рисками ИИ стало коллективной ответственностью, выходящей за пределы национальных границ.

Али Хиджа подчеркнул, что сегодня правительства и учреждения сталкиваются с серьёзной проблемой: зависимость от ИИ растёт быстрее, чем развитие регулирующих рамок и институциональных возможностей для его управления.

Этот разрыв между инновациями и управлением действительно является одним из самых значимых источников риска в настоящее время, отметил он.

Али Хиджа выделил ключевые задачи безопасности, включая защиту конфиденциальных данных, обеспечение целостности и надёжности моделей, устранение рисков предвзятости и манипуляций, защиту цифровых цепочек поставок и критической инфраструктуры от атак с использованием ИИ.

Он также отметил, что растущее использование ИИ в принятии решений создаёт новые задачи, связанные с прозрачностью, интерпретируемостью и ответственностью.

Али Хиджа указал, что поиск баланса между безопасностью и конфиденциальностью является одним из основных столпов эффективного управления ИИ. Использование аналитических возможностей ИИ в кибербезопасности не должно происходить за счёт фундаментальных прав человека, а должно основываться на правовых и этических принципах.

Али Хиджа также заявил, что эта встреча представляет собой важную веху на пути к созданию более сбалансированной международной системы управления этой технологией.

Задача теперь заключается не просто в том, чтобы идти в ногу с технологическим прогрессом, а в создании системы управления, способной сопровождать его, поглощать риски и максимизировать преимущества.

С точки зрения кибербезопасности, Али Хиджа добавил, что ИИ не только меняет инструменты нападения и защиты, но и глобальную киберсреду, в которой действуют государства, учреждения и общества.

В конечном итоге успех международного управления будет измеряться его способностью достигать устойчивого баланса между инновациями, безопасностью и конфиденциальностью, а также строить цифровое доверие таким образом, чтобы ИИ служил развитию и стабильности, ограничивая его риски для национальной безопасности и международного порядка, отметил Али Хиджа.

В целом ожидается, что результаты этого диалога будут способствовать развитию более интегрированной международной системы управления ИИ на основе многостороннего сотрудничества, обеспечивая участие правительств, частного сектора, академических учреждений, гражданского общества и технических экспертов в формировании будущей политики. (QNA)

Этот материал был переведен с использованием искусственного интеллекта.