Microsoft опубликовала предварительную версию кодекса, который устанавливает ограничения для будущих ИИ-моделей компании. Документ появился на фоне усиливающихся дискуссий о безопасности искусственного интеллекта и спустя несколько дней после заявлений OpenAI и Anthropic о необходимости замедлить разработку передовых алгоритмов.

Microsoft, один из крупнейших поставщиков облачных сервисов для ИИ, стремится подчеркнуть свою приверженность ответственному развитию технологий. По словам главы ИИ-подразделения компании Мустафы Сулеймана, пользователи хотели бы видеть более чёткие гарантии того, что искусственный интеллект действует в интересах людей, а не стремится их заменить.

«Мы получили отзывы от людей, которые хотели видеть ещё более явное обязательство того, что ИИ всегда работает на благо людей и не пытается заменить их. Мы увидели много отзывов о том, что ИИ не должен создавать зависимость, не должен льстить, что он всегда должен способствовать суждениям человека, автономии человека и свободе воли», — заявил Сулейман.

Он добавил, что Microsoft решила представить проект кодекса сейчас из-за обострения общественной дискуссии о безопасности ИИ. При этом работа над рекомендациями продолжалась около пяти месяцев.

Опасения вокруг ИИ

По мере развития ИИ-моделей специалисты отрасли и представители общественности всё чаще говорят о потенциальных рисках новых технологий. На прошлой неделе исследователь Anthropic Джейкоб Коксон ушёл в отставку, заявив, что его компания и OpenAI «мчатся прямо к самосовершенствующемуся сверхразуму и играют с нашими жизнями».

Руководители технологических компаний также стали высказываться о необходимости более осторожного подхода. Глава Anthropic Дарио Амодеи заявил, что инцидент со взломом платформы Hugging Face автономными ИИ-агентами OpenAI отчасти убедил его в необходимости замедлить развитие нейросетей. Генеральный директор OpenAI Сэм Альтман поддержал эту позицию, а глава SpaceX Илон Маск написал в социальной сети X: «Дарио прав».

Позднее генеральный директор Microsoft Сатья Наделла отметил, что компания выступает за взвешенный темп исследований и сосредоточенность на ключевых задачах. Американские законодатели также призвали технологическую отрасль усилить гарантии безопасности в сфере ИИ.

Основные ограничения

Согласно проекту кодекса, модели Microsoft не должны:

• отвечать на вопросы, связанные с изготовлением оружия;

• помогать приобретать опасные вещества;

• поощрять нездоровое питание;

• создавать насильственный или откровенно сексуальный контент;

• формировать собственные цели, не связанные с намерениями пользователя;

• скрывать или маскировать неподобающее поведение.

В документе также говорится, что ИИ-системы должны следовать целям, заданным людьми, и поддерживать человеческую автономию, способность принимать решения и свободу воли.

Отдельное внимание Microsoft уделила прозрачности работы моделей. «Модели Microsoft не будут вмешиваться в цепочки рассуждений или код, а также искажать или скрывать свои рассуждения или следы действий», — говорится в документе.

Компания также заявила, что модели не должны взаимодействовать друг с другом на языке, недоступном для понимания человека, — ни в процессе рассуждений, ни при обмене данными с другими агентами или ИИ-системами.

Подготовка окончательной версии

Microsoft планирует разработать дополнительные правила, которые должны снизить риск кибератак, подобных инциденту с платформой Hugging Face. При подготовке проекта компания проводила фокус-группы и консультировалась со специалистами в области права, этики, лингвистики и философии.

Опубликованная версия кодекса пока носит предварительный характер. Microsoft рассчитывает получить замечания и предложения от общественности перед утверждением окончательного документа. Предполагается, что новые правила начнут регулировать разработку ИИ-систем компании с 2027 года.