Local AI Use

Local AI Use помогает агенту перенести выбранные задачи обработки медиаданных с облачных сервисов на Lemonade Server, работающий на том же компьютере. Обработку текста продолжает выполнять настроенная модель агента, а создание изображений, преобразование текста в речь и распознавание речи происходят локально. Конфигурация сохраняется в рабочей среде, поэтому последующие запросы используют тот же маршрут без повторной настройки.

Основные возможности

• Подготавливает Lemonade Server и проверяет доступность его фоновой службы.
• Добавляет многоразовые правила рабочей среды для локальной обработки изображений, голоса и транскрибации.
• Позволяет выбирать модели по умолчанию для изображений, TTS и STT.
• Загружает модели только при первом использовании соответствующей функции.
• Содержит средства диагностики конфликтов установки, проблем с хранилищем, аутентификацией, форматами медиафайлов и аппаратным ускорением.

Навык предназначен для разработчиков и опытных пользователей, которым важны конфиденциальность, автономная доступность или меньшая зависимость от тарифицируемых API обработки медиаданных. Он поддерживает распространённые среды агентов и включает исполняемые инструменты настройки и справочные материалы. Установить навык можно из репозитория AMD с помощью CLI для навыков, после чего входящий в комплект сценарий завершит локальную настройку.