Краткое содержание
В этом видео рассматриваются семь ключевых приемов из системных подсказок Cloud Force, которые помогут сделать ИИ-агентов более быстрыми, надежными и устойчивыми к сбоям. Обсуждаются такие темы, как адаптация к типам разговоров, использование инструментов в зависимости от контекста, проверка ответов ИИ, масштабирование усилий, применение хороших и плохих примеров, умеренное использование жестких правил и приоритет внутренних инструментов.
- Адаптация ИИ к различным типам разговоров для улучшения взаимодействия с пользователем.
- Использование инструментов и поиска в зависимости от контекста и сложности вопроса.
- Проверка ответов ИИ и предоставление логического обоснования для повышения точности и надежности.
Сопоставление типов разговоров [1:51]
Для создания более подходящего контексту ИИ важно адаптировать стиль разговора в зависимости от темы и тона. В системных подсказках Cloud Force подчеркивается, что для непринужденных, эмоциональных или сочувственных бесед ИИ должен отвечать в соответствующем тоне, сохраняя естественность и теплоту. В технических ответах допустимо использование маркированных списков, более формального стиля и подробных пояснений. Классификатор типов разговоров может помочь определить подходящий стиль ответа на основе входящего вопроса, делая ИИ более адаптивным и полезным.
Когда ИИ "может быть" прав [4:21]
Определите, когда ИИ должен немедленно отвечать, выполнять поиск или предлагать поиск в зависимости от типа вопроса. Если ИИ уже знает ответ (например, на основе фактов из обучающего корпуса), он должен ответить немедленно. Если ИИ не уверен в ответе или вопрос требует актуальной информации, он должен сначала ответить, а затем предложить выполнить поиск. Для актуальных данных (например, погода, новости) поиск должен выполняться автоматически. Такой подход позволяет ИИ адаптироваться к вопросу, эффективно использовать ресурсы и обеспечивать лучший пользовательский опыт.
Доверяй, но проверяй [9:24]
Если пользователь исправляет ИИ или сообщает об ошибке, ИИ должен тщательно обдумать проблему, прежде чем признать ошибку пользователя, поскольку пользователи иногда сами ошибаются. Важно избегать чрезмерной покладистости ИИ и стремиться к правильности, а не к угодливости. В случае несогласия пользователя с ответом ИИ, следует добавить промежуточный шаг, чтобы ИИ повторно задал вопрос, проверил себя и пользователя, и вернулся с выводом, подкрепленным логическим обоснованием.
Масштабирование усилий [11:28]
Определите, когда и сколько инструментов использовать в зависимости от сложности задачи. Если вопрос включает веб-поиск и внутренний поиск, установите минимум в три вызова инструментов. Приоритет следует отдавать внутренним инструментам, затем внешнему поиску в Интернете и, наконец, комбинации этих двух вариантов. Количество вызовов инструментов должно масштабироваться в зависимости от сложности вопроса: от двух до четырех для простых вопросов, от пяти до девяти для анализа нескольких источников и 10+ для подробных отчетов. Важно рассчитывать бюджет для этих усилий на основе задаваемого вопроса, чтобы обеспечить эффективное использование ресурсов и отличный пользовательский опыт.
Хорошие и плохие примеры [16:16]
При обучении ИИ важно предоставлять как хорошие, так и плохие примеры. Это помогает модели быстрее учиться и понимать, что следует делать, а чего следует избегать. Например, при вызове инструментов следует всегда использовать правильный формат вызова функции с XML-тегами и правильными терминами, а не использовать нефункциональные форматы заполнителей. Важно поддерживать примерно равное соотношение хороших и плохих примеров.
Жесткие правила никогда не действуют [18:28]
Используйте жесткие правила ("никогда") экономно и только для очень важных задач, которые модель не должна решать по политическим, юридическим или каким-либо другим причинам. Сосредоточьтесь на том, что нужно делать, а не на том, чего не нужно делать. Если модель не соблюдает инструкции, несмотря на попытки, только тогда следует использовать отрицательные термины или писать все заглавными буквами.
Приоритет внутренних инструментов [21:23]
При создании агентов для предприятий важно настроить как можно больше внутренних инструментов, чтобы предоставить пользователю максимальную денежную ценность. Сосредоточьтесь на внутренних инструментах, а затем переходите к внешним только тогда, когда внутренние не работают. Если внутренние инструменты недоступны, предложите включить их в меню. Использование внутренних инструментов позволяет ИИ выполнять глубокие исследования наборов данных компании и автоматизировать различные задачи, экономя время, деньги и получая доход.