Краткое резюме
В этом видео показано, как установить большие языковые модели (LLM) на свой компьютер. Автор демонстрирует два способа использования LLM: как чат-бота и через API для интеграции в код. В качестве примера используется модель DeepSeek R1, которая является открытым исходным кодом. Для установки LLM используется инструмент "oLLAMA", который позволяет легко загрузить и запустить модели. Автор также демонстрирует, как использовать API oLLAMA для взаимодействия с LLM в коде.
- Установка LLM на компьютер с помощью oLLAMA
- Использование LLM как чат-бота
- Интеграция LLM в код через API
Установка больших языковых моделей с помощью oLLAMA
В этом видео автор демонстрирует, как установить большие языковые модели (LLM) на свой компьютер с помощью инструмента oLLAMA. oLLAMA - это простой инструмент, который позволяет легко загрузить и запустить модели. Автор показывает, как выбрать модель, скачать ее и запустить. Он также объясняет, как использовать различные параметры для настройки модели.
Использование LLM как чат-бота
В этом разделе автор демонстрирует, как использовать LLM как чат-бота. Он показывает, как запустить модель в режиме чата и как взаимодействовать с ней. Автор также обсуждает некоторые особенности поведения модели, такие как ее склонность к "размышлению" перед ответом.
Интеграция LLM в код через API
В этом разделе автор демонстрирует, как интегрировать LLM в код через API. Он показывает, как использовать API oLLAMA для отправки запросов к модели и получения ответов. Автор также объясняет, как использовать различные параметры для настройки запросов. В качестве примера он использует приложение для генерации твитов.
