DenAI — LLM клиент

Что такое DenAI?

DenAI — это пользовательский интерфейс для текстовых ролевых игр и общения с ИИ. Клиент работает через универсальный стандарт OpenAI-совместимого API. Это позволяет легко подключать как мощные облачные сервисы, так и любые локальные движки: llama.cpp, Ollama, KoboldCPP, LM Studio, Tabby, Ooba, Mistral, OpenRouter, а также любые агрегаторы нейросетей, использующие этот формат (если говорить о русских, то это почти все) и сотни других платформ.

DenAI полностью бесплатен, имеет открытый исходный код и всегда останется таким. Клиент не требует сложных настроек и устанавливается как обычная программа. Не придется работать с консолью, устанавливать сторонние фреймворки, библиотеки или зависимости. Все, что нужно для старта — запустить DenAI, ввести адрес вашего провайдера и API-ключ.

Скачать для Windows GitHub репозиторий

Установка и настройка

Для установки DenAI на устройство скачайте установочный файл, запустите его и следуйте подсказкам установщика.

Важно: При запуске установщика Windows, скорее всего, покажет синее окно предупреждения «Система SmartScreen защитила ваш компьютер». Не пугайтесь, это нормально для независимого софта. Чтобы стать «известным издателем» для Microsoft, нужно ежегодно платить за сертификат, что нецелесообразно для бесплатного и некоммерческого проекта. Просто нажмите ссылку «Подробнее», а затем кнопку «Выполнить в любом случае».

После первого запуска добавьте провайдера API. Для этого откройте меню и перейдите на экран настроек. В самом верху вы увидите блок выбора провайдера.

Нажмите кнопку «Добавить провайдер» — откроется диалоговое окно.

Укажите любое удобное название, вставьте адрес API вашего сервиса (для локальной Ollama настройки уже стоят по умолчанию) и ключ API, после чего нажмите «Сохранить». Если подключение установлено верно, индикатор справа от выбора провайдера сменится на синий чекбокс.

Затем в выпадающем списке ниже выберите основную текстовую модель, которая автоматически подтянется от вашего провайдера.

Готово! Сохраните настройки, и можно начинать общение и ролевые игры. Более подробно обо всех доступных параметрах вы можете узнать на странице документации.

Что на борту?

Работа с миром и персонажами

Поддержка карточек персонажей. Создание собственных или импорт/экспорт в формате V2-Card.
Пользовательские карточки (профили для ролевого отыгрыша).
Книги знаний (лорбуки): семантический подбор и динамическая подстановка на основе векторного поиска.

Управление диалогом

Перегенерация ответов для получения альтернативного варианта реплики ИИ. Возможность изменения и удаления сообщений.
Автоматическая суммаризация диалога для экономии контекстного окна модели с возможностью ручной корректировки.
Распознавание изображений. Описание изображений остается в контексте в текстовом виде и становится частью истории.
Настройки генерации текста и системные инструкции для LLM.

Системные требования

Сам клиент потребляет очень немного ресурсов и запустится на любом устройстве с Windows 10 / 11 (64-bit). Но DenAI — это только интерфейс, вам понадобится доступ к бэкенду LLM. Если вы будете использовать облачные провайдеры, то всё, что вам нужно — это стабильный интернет. При локальном запуске требования зависят от самой модели. Например, для запуска маленькой 8B понадобится от 8 ГБ видеопамяти.