Как подключить любую LLM

Используйте AnyLLM без ограничений. Подключайте сторонние API-сервисы, чтобы оплачивать токены в рублях и использовать топовые модели (GPT-4o, Claude 3.5) без VPN.

Архитектура OpenAI

AnyLLM поддерживает любые сервисы, которые предоставляют API в формате OpenAI. Вам понадобятся всего два значения от вашего провайдера: Base URL и API Key.

Пошаговая настройка в расширении

Следуйте этим шагам, чтобы добавить свой кастомный сервер в настройки AnyLLM.

  1. Откройте боковую панель AnyLLM в браузере.
    Настройки AnyLLM
    Экран настроек провайдера в боковой панели
  2. Нажмите на иконку шестеренки (Настройки) в правом верхнем углу.
    Настройки AnyLLM 2
    Нажмите на шестеренку
  3. Перейдите во вкладку "Модели" и нажмите "Добавить нового провайдера". Выберите провайдера из списка.
    Добавить провайдера
    Экран настроек провайдера в боковой панели
  4. Вставьте полученные от провайдера данные в соответствующие поля.
    Ввод настроек для провайдера
    Ввод настроек для провайдера

Где взять название модели (Model ID)?

В зависимости от сервиса, модели могут называться по-разному. Например, для ChatGPT-4o обычно нужно ввести gpt-4o, а для Claude — claude-3-5-sonnet-20240620. Всегда сверяйтесь с документацией выбранного сервиса.

Российские провайдеры (Оплата в рублях)

Мы собрали список проверенных сервисов-прокси, которые дают доступ к ChatGPT, Claude и другим моделям. Вы можете пополнять баланс в рублях с российских карт.

NeuroAPI

Надежный прокси для доступа к GPT-4 и Claude с оплатой картами РФ.

Base URL: https://api.neuroapi.host/v1

Syntx.ai

Платформа для разработчиков с доступом к десяткам LLM через единый API.

Base URL: https://api.syntx.ai/v1

Gen-API

Генеративные нейросети. OpenAI совместимый API для интеграций.

Base URL: Смотрите в личном кабинете

ProxyAPI

Официальный прокси. Стабильный доступ к зарубежным ИИ сервисам.

Base URL: https://api.proxyapi.ru/openai/v1

VseLLM

Единый API для доступа ко всем популярным языковым моделям. Быстрая регистрация и удобный биллинг.

Base URL: https://api.vsellm.ru/v1

Примечание: AnyLLM не аффилирован с данными сервисами. Это независимые платформы, предоставляющие API-доступ. Актуальные Base URL уточняйте в их официальной документации.

Видеоинструкция

Если у вас остались вопросы, посмотрите это короткое видео, где мы шаг за шагом показываем процесс подключения стороннего провайдера к AnyLLM.

Пример показывает подключение модели из NeuroApi. Для других агрегаторов процесс будет похожий, но не гарантирует повторение 1 в 1.