Отчет ООН о регулировании искусственного интеллекта: потенциальные последствия

Консультативный орган высокого уровня по искусственному интеллекту (КОИИ) ООН 19 сентября выпустил отчет с рекомендациями по регулированию ИИ. Документ, доступный на английском и французском языках, содержит семь ключевых предложений.

Первое предложение заключается в создании независимой Международной научной группы по ИИ, которая объединит экспертов из разных стран и дисциплин при поддержке учреждений ООН, таких как Международный союз электросвязи (ITU) и ЮНЕСКО. Группа будет заниматься исследованиями и отчетами о возможностях и проблемах ИИ. Подобные группы ранее создавались для изучения изменений климата и атомной радиации.

Второе предложение - инициировать межправительственный диалог по вопросам управления ИИ, чтобы страны могли обмениваться опытом и внедрять совместимые меры регулирования. Третье предложение - организовать обмен стандартами ИИ с участием национальных и международных организаций, технологических компаний и гражданского общества.

Четвертое предложение включает создание сети для развития потенциала в области ИИ, предоставление тренеров, вычислительных мощностей и данных для обучения исследователей и предпринимателей. Пятый пункт призывает к запуску программы стипендий для перспективных специалистов и созданию глобального фонда для развития ИИ, который обеспечит вычислительные ресурсы для специалистов из стран с ограниченными ресурсами.

Шестое предложение - создание глобальной структуры по управлению данными для ИИ, аналогичной Всемирной организации интеллектуальной собственности (WIPO), а седьмое - создание офиса ИИ, подчиняющегося генсекретарю ООН.

В докладе подчеркивается, что ИИ может принести позитивные изменения, но без контроля его возможности могут распределяться несправедливо. «Из-за увеличения цифрового разрыва преимущества ИИ могут быть доступны лишь небольшому числу стран, компаний и отдельных лиц», - указано в документе.

Доклад был подготовлен КОИИ, созданным в октябре 2023 года по инициативе генсекретаря ООН Антониу Гутерриша и включающим 39 экспертов из 33 стран. Он был опубликован в преддверии Саммита будущего ООН, который пройдет 22-23 сентября в Нью-Йорке. Ожидается, что на саммите будет подписан Глобальный цифровой договор, содержащий базовые принципы развития цифровых технологий.

Как заявила официальный представитель МИД Мария Захарова, переговоры по Глобальному цифровому договору продвигаются непросто. Западные страны стремятся монополизировать вопросы интернет-регулирования, а Россия настаивает на преодолении «цифрового разрыва» для достижения целей устойчивого развития.

Директор Центра ИИ МГИМО Анна Абрамова, участвовавшая в подготовке доклада, назвала его «очень значимым для последующих международных дискуссий». По ее словам, документ отражает экспертное мнение о рисках бесконтрольного развития ИИ и мерах, необходимых для минимизации этих рисков.

В начале июня бывший сотрудник OpenAI Леопольд Ашенбреннер спрогнозировал, что общий искусственный интеллект (AGI) может быть создан уже к 2027 году. Он также отметил, что началась «гонка за ИИ» между США и Китаем.

Гендиректор MTS AI Андрей Калинин назвал рекомендации ООН адекватными, но выразил сомнение, что они приведут к конкретным действиям. По его мнению, отчет ООН вряд ли повлияет на стратегические планы крупных корпораций и правительств, а страны глобального Юга останутся в стороне из-за недостатка ресурсов и экспертизы в сфере ИИ.

Гендиректор AIRI, профессор Сколтеха Иван Оселедец отметил, что представленный документ носит скорее теоретический характер с учетом международных политических процессов. Он выразил сомнение в возможности достижения единых стандартов в сфере ИИ для всего мира, учитывая различные этапы его развития в разных странах.

Оселедец пояснил, что причины заключаются не только в различиях на уровне внешней политики и технологическом разрыве, но и в законодательных различиях. В качестве примера он привел использование автоматизации в судебной практике: в США право прецедентное, что теоретически позволяет внедрять рекомендательные системы для принятия судебных решений, в то время как в России такая практика затруднена из-за иной правовой системы.

Профессор считает более реалистичным вариантом создание глобального консультативного органа, который мог бы давать рекомендации для конкретных предметных областей или определенных регионов.

Еще один эксперт в компании, развивающей искусственный интеллект, назвал нереалистичным выполнение рекомендаций из доклада. Он подчеркнул, что ИИ является ключевой темой на повестке дня, и ООН необходимо учитывать эту технологию, развивая ее с учетом рисков для безопасности. Однако эксперт отметил отсутствие особой экспертизы в технологиях у организации.

Собеседник также указал, что конкуренция в ИИ идет между компаниями, а не странами, и не факт, что ООН сможет оказывать влияние на эти компании. "Хотя инициатива ООН направлена на снижение влияния корпораций", — добавил источник.