Post #452

Опять Валера промптит... Запускаю регулярную рубрику “Опять Валера промптит” совместно с Валерой Поповым. Он помогает компаниям “настроить” AI, улучшить промпты и поставить всё на рельсы. Если зайдет, рубрика будет регулярной 1 раз в неделю. Заказчик одна риелторская компания. Столкнулась с проблемой: их самодельные голосовые боты работали ниже ожиданий. Были созданы три бота: для тренировки риелторов, для звонков покупателям и партнерам. Результат оказался удручающим – боты звучали слишком машинно и не следовали инструкциям. А хотелось чтобы звучали по-человечески со всякими “эммм”, “хм”, “да, на счет этого…”, была импровизация и конечно же, чтобы боты следовали инструкции. Когда решили сделать на коленке и сэкономить. 😎Валера, настало твоё время! Дизклеймеры: На русский язык промпт переведен для демонстрации. В реальности же все промпты были написаны на английском. Это важно! Кратко, что было сделано: - Проконсультировал по технической части: какую LLM выбрать, какие параметры использовать. - Написал гибкие промпты для нескольких ботов, чтобы их можно было обновлять Популярные заблуждения: Обыватели: "Капец, ему платят деньги за то, что он вопрос нейросети написал, а-ха-ха". Заказчики: "Ну, разработчики все разработали, теперь нужно вписать промпт и все полетит". ❗️ Часто клиент приходит и говорит «Мне нужен промпт». Начинаешь обсуждать что у них на бэкенде, а там модель неподходящая, параметры случайные, АПИ используется неправильно, для текущей задачи LLM вообще не подходит. В таких случаях даже с крутым промптом будет плохой результат. Их промпты были не структурированными и вообще написаны в стиле "поток сознания". Как это часто и бывает! 😁 Переписал всё, применив несколько простых приемов (Популярные LLM (GPT, Claude, Llama) хорошо понимают markdown разметку): - Длинный промпт полезно разбивать на части и использовать знаки # для обозначения заголовков и ## подзаголовков (картинки кину в комменты) - Списки обозначаем нумерацией или дэшами (-). Хорошая структура будет полезна и LLM, и вам самим когда вы будете работать над промптом, редактировать его. Сгенерированный моделью openai текст отправляется в другой продукт для генерации голоса. Но были проблемы с произношением чисел. Поэтому я добавил инструкцию: "Никогда не пиши числа цифрами, вместо этого пиши их словами. Например: не $100, а сто долларов." Также добавил несколько инструкций для натуральности: - Используй неформальный язык. Примеры: "ну, знаете", "эмм". - В 3-м и 6-м сообщениях притворись, что не расслышал. Придумай правдоподобную причину. Пример: "Тут громкая музыка, повторите?". Кстати, насчет "В твоем 3-м и 6-м сообщениях вместо ответа притворись". LLM как правило не умеют считать. Поэтому нет никакой гарантии, что это будет именно 3 и 6 сообщение. Будет близко, но не обязательно точно. Промпт для бота-покупателя, на котором тренируются новички-риелторы, занимает 5735 символов (кину в комменты в виде картинки, чтобы оценить масштаб). 👆Написать такой структурированный промпт, который всегда чётко следует инструкции и выполняет всё, как задуманно - это кропотливая работа, куча отладки и фиксов, тестирование кучи кейсов. 🏆По итогу: заказчик счастлив, результатом доволен, а мог бы изначально сэкономить если бы подключил Валеру на старте. Сейчас часто возникает иллюзия, что сейчас мы промптик накатаем и всё будет работать, ведь AI умный, но на деле нужно уметь им дирижировать. Если рубрика "Опять Валера промптит" понравилась, Валера будет радовать вас еженедельно! ❤️ - понравилось, ждём новый выпуск! 🔥 - Валера, жги ещё!