20 компаний, включая Huawei и Alibaba, опубликовали хартию о развитии ИИ-агентов

4 ноября на саммите Всемирной интернет-конференции в Учжэне опубликовали «Хартию саморегулирования развития ИИ-агентов». Документ совместно подготовили 20 организаций, среди них Huawei, Alibaba, Tencent, Xiaomi, Baidu, Volcano Engine, Ant Group, Douyin и Китайская академия информационных и коммуникационных технологий (CAICT).

В хартии восемь пунктов саморегулирования. Они касаются доверия к агентам, инфраструктуры для их связи друг с другом, совместимости (интероперабельности), защиты от атак, управления, прав пользователей, внедрения агентов в разные отрасли и доступности технологии.

ИИ-агент — система, которая воспринимает обстановку, сама принимает решения и выполняет задачи из нескольких шагов, без постоянных команд человека.

В части управления документ предлагает развивать технологии, которые закладывают правила прямо в работу агента, а также проверки на соответствие требованиям. Подписавшие стороны договорились вместе противодействовать использованию агентов для алгоритмической эксплуатации людей и в теневом бизнесе.

Хартия призывает открывать базовые технологии, участвовать в разработке международных стандартов и правил, готовить кадры и упрощать локальное развёртывание агентов. По словам авторов, это шаг к единым правилам для отрасли и росту доверия между системами разных компаний.

Документ должен выполнять задачу «усилить отраслевое саморегулирование» из китайской программы о нормативном применении и инновационном развитии ИИ-агентов. Компании-инициаторы обещают первыми соблюдать хартию и принимать замечания от отраслевых организаций и публики, присоединиться могут и другие участники рынка. Механизмов проверки и санкций за нарушения в сообщении не приводится.