Добро пожаловать в AnyLLM

AnyLLM - это мощный, но простой в использовании, интерфейс командной строки (CLI), который позволяет вам взаимодействовать с различными большими языковыми моделями (LLM) прямо из вашего терминала. Он разработан таким образом, чтобы быть независимым от провайдера, что означает, что вы можете использовать модели от Ollama, OpenAI или любого другого провайдера с API, совместимым с OpenAI.

Ключевые особенности

  • Независимость от провайдера: настраивайте и переключайтесь между различными поставщиками и моделями ИИ на лету. Независимо от того, используете ли вы локальную модель с Ollama или мощную облачную модель, AnyLLM поможет вам.

  • Интерактивный TUI: удобный пользовательский интерфейс терминала (TUI) позволяет легко выбрать провайдера и модель, которую вы хотите использовать. Он также обеспечивает богатый опыт ввода с автодополнением для путей к файлам.

  • Интеграция с файловой системой: AnyLLM - это не просто чат-бот. Это помощник по кодированию с инструментами для взаимодействия с вашей файловой системой. ИИ может:

    • Перечислять файлы в вашем проекте.
    • Читать содержимое файлов, чтобы понять ваш код.
    • Создавать и редактировать файлы, что позволяет ему писать новый код или изменять существующие файлы.
    • Искать по вашей кодовой базе для поиска соответствующей информации.
  • Безопасность прежде всего: когда ИИ предлагает изменения в ваших файлах, AnyLLM отображает четкий diff предлагаемых изменений, поэтому у вас всегда есть последнее слово перед применением любых изменений.

Как это работает

AnyLLM работает, отправляя ваши подсказки вместе с системной подсказкой, содержащей контекст вашего текущего рабочего каталога и доступные инструменты, выбранному LLM. Затем ИИ может использовать специальный синтаксис инструментов в своем ответе для выполнения действий в вашей файловой системе. Этот цикл подсказки, ответа и выполнения инструмента обеспечивает мощный и интерактивный опыт кодирования.