На Генеральной Ассамблее ООН группа политиков, ученых и общественных деятелей представила инициативу под названием "Глобальный призыв к красным линиям в использовании ИИ". Цель этой инициативы — разработать международные запреты на наиболее опасные сценарии применения искусственного интеллекта до конца 2026 года.
Документ уже подписали более 200 человек, среди которых бывшая президент Ирландии Мэри Робинсон, экс-президент Колумбии Хуан Мануэль Сантос, а также такие известные исследователи, как Джеффри Хинтон и Йошуа Бенджио, которых называют "крестными отцами ИИ".
Участники призывают правительства прийти к соглашению о базовых ограничениях, которые бы исключили "универсально неприемлемые риски". Хотя в документе нет конкретных правил, приводятся примеры возможных "красных линий", таких как запрет на использование ИИ для управления ядерным оружием, массового наблюдения за гражданами или создания систем, которые невозможно остановить человеком.
Организаторы предлагают, чтобы будущая сделка основывалась на трех основных принципах:
- четкий список запрещенных практик;
- независимые механизмы проверки и аудита;
- создание международного органа для контроля исполнения соглашений.
Тем не менее, окончательное определение границ и процедур оставлено на усмотрение государств. Инициаторы рекомендуют проводить специальные саммиты и рабочие группы для согласования позиций.
США уже взяли на себя обязательство "не позволять ИИ контролировать ядерное оружие", принятое еще при администрации Байдена. Однако представители разведки администрации Трампа выразили недовольство тем, что компании, разрабатывающие ИИ, не могут использовать свои технологии для внутреннего наблюдения. Такие случаи могут усложнить принятие глобальных решений по безопасности, которые ожидают эксперты в области ИИ.
