OpenAI достигла соглашения о приобретении стартапа Promptfoo, который занимается разработкой инструментов для тестирования безопасности ИИ-систем на этапе их создания. По данным Bloomberg, сделка нацелена на снижение рисков для компаний, внедряющих программное обеспечение на базе ИИ, и на привлечение крупного корпоративного сектора.

Promptfoo существует около двух лет, базируется в Сан-Франциско и выпускает инструменты с открытым исходным кодом для проверки безопасности нейросетей, включая методику «красной команды» (red-teaming), когда специалисты имитируют атаки на собственные продукты во время разработки, чтобы выявить слабые места до их использования злоумышленниками.

Среди клиентов стартапа примерно 25% компаний из списка Fortune 500. Технологии Promptfoo будут интегрированы в корпоративную платформу OpenAI Frontier. После интеграции Frontier сможет предложить автоматизированное тестирование, мониторинг изменений и отслеживание результатов проверок для соблюдения требований безопасности.

Управляющий директор венчурной компании Insight Partners, Ганеш Белл, которая возглавила раунд финансирования Promptfoo на 18,4 млн долларов в прошлом году, отметил, что покупка демонстрирует явную приверженность OpenAI созданию корпоративного ИИ, который будет не только мощным, но и безопасным и надёжным при масштабировании. Финансовые условия сделки не раскрываются.