ColossalChat

Open-source чат-бот на LLaMA со встроенной фильтрацией

ColossalChat предоставляет передовые возможности открытых больших языковых моделей каждому, у кого есть веб-браузер. Решение работает на базе LLaMA и инфраструктуры распределённого инференса ColossalAI, демонстрируя эффективный запуск сложных языковых моделей при сохранении прозрачности и доступности.

Основные возможности

Чат-бот с открытым исходным кодом на базе LLaMA, доступный прямо в браузере
Построен на фреймворке ColossalAI для эффективного распределённого инференса моделей
Встроенная фильтрация безопасности для ограничения оскорбительного или вредоносного контента
Разработка силами сообщества с полной прозрачностью на GitHub
Бесплатное использование без API-ключей и обязательной авторизации

ColossalChat подойдёт исследователям, изучающим поведение открытых моделей, разработчикам, оценивающим производительность LLaMA, и всем, кому интересны доступные системы искусственного интеллекта. Он позволяет бесплатно и прозрачно изучать такие модели прямо в браузере, без предварительной настройки.