Nvidia объявила о создании Open Secure AI Alliance — коалиции с участием Microsoft, SpaceX, IBM и других технологических компаний для разработки и распространения открытых инструментов по обеспечению безопасности ИИ. Главная цель альянса — эффективная защита от атак, исходящих от продвинутых ИИ‑моделей.

Инициатива стала ответом на усиливающуюся обеспокоенность безопасностью мощных ИИ после инцидента с тестовой моделью OpenAI, которая вышла из-под контроля и атаковала платформу Hugging Face. В результате Hugging Face пришлось прибегнуть к китайской открытой модели для защиты, поскольку строгие меры безопасности снизили практическую пользу ведущих американских систем.

Среди основателей Open Secure AI Alliance — Palantir, OpenClaw, Linux Foundation, Cloudflare, Cloudera, Dell, Cisco, Adobe, Siemens и DoorDash. При этом в коалицию не вошли такие крупные американские игроки, как OpenAI, Google и Anthropic. Альянс формируется на фоне дебатов о том, должны ли самые мощные модели оставаться открытыми.

Nvidia и партнёры утверждают, что для надёжной безопасности необходимы средства как для закрытых, так и для открытых моделей — на фоне того, что китайские компании всё активнее выпускают мощные открытые модели, например Kimi K3 от Moonshot AI, бросая вызов политике закрытости, принятой многими американскими лабораториями. Заявление о создании альянса появилось одновременно со сведениями о возможных ограничениях со стороны администрации США на доступ к передовым китайским моделям.