Представлен локальный ИИ-агент Perplexity Portable Computer

Perplexity совместно с Nvidia адаптировала ИИ-агента Computer для локального запуска на ПК. Новая версия получила название Portable Computer, однако для её работы потребуется производительный компьютер с дорогой видеокартой.

Оптимальным вариантом считается настольная система Nvidia DGX Spark с операционной системой DGX стоимостью около $4800. Также подойдёт компьютер на Ubuntu с Arm- или x64-процессором и видеокартой Nvidia RTX, оснащённой минимум 24 Гбайт видеопамяти.

Перенос Computer на локальные устройства потребовал серьёзной переработки программного стека. Агент должен читать и изменять файлы, выполнять команды оболочки, обрабатывать PDF и подключаться к внешним сервисам. Все операции проходят через локальную песочницу, которая ограничивает доступ приложений к файловой системе, сети и системным процессам.

Работой агента управляет детерминированный оркестратор, а не отдельная ИИ-модель. Локальная модель предлагает действия, после чего оркестратор формирует контекст, проверяет политики безопасности и запускает разрешённые операции. При недоступной песочнице вызовы инструментов блокируются.

В тестировании Local Knowledge Work Bench Portable Computer набрала 82,6% против 77,6% у Pi и 74% у Hermes. В испытании ParseBench-100, проверяющем работу с диаграммами, таблицами, макетами и текстом, результат системы составил 65,1% — против 34,6% у Hermes и 13,9% у Pi.

Portable Computer поддерживает интеграцию с Google Диском, Gmail, Slack и GitHub. Обработка локальных документов и запуск модели выполняются на компьютере, а веб-поиск и обращения к внешним сервисам требуют подключения к интернету. Если локальная модель не справляется с задачей, она может обратиться к облачной: система заранее отбирает контекст, отмечает конфиденциальные данные и запрашивает у пользователя подтверждение.

Регион: 

Рубрики: 

Заметили ошибку? Выделите ее мышкой и нажмите Ctrl+Enter!