Post #149

Какие LLM использует IQ MENTOR LLM (большая языковая модель) — по сути AI-система, обученная на огромном массиве данных, благодаря чему может понимать и создавать текст. Наш сервис ежедневно анализирует большие объемы звонков, поэтому без LLM не обойтись. Мы могли бы сказать, что пользуемся лучшими мировыми моделями, и рассказать про их преимущества. Но это не так. Мы действительно рассматривали разные зарубежные и отечественные языковые модели, но у всех них были свои минусы. Мы решили разработать свою LLM и, среди прочего, обучить ее на звонках российских call-центров. На этой базе мы и развиваем наш сервис. Почему? ❌Другие модели периодически «галлюцинируют» и начинают придумывать несуществующие факты: подменять смыслы сказанного, додумывать реплики. При аналитике звонков это недопустимо. ➕ В нашей LLM мы сосредоточились на минимизации фактора случайности. IQ MENTOR основывается только на фактах из диалогов, а не на общих знаниях. ❌Долгое ожидание результата при обработке большого объема данных. Особенно при пакетной обработке тысяч диалогов. ➕Для нас важен баланс между скоростью и качеством. IQ MENTOR выдает результат в течение нескольких минут после запроса, и в его точности можно не сомневаться. ❌Замедления, блокировки, ограничение доступа из-за санкций — все это факторы риска использования иностранных решений. ➕ Наша модель не зависит от РКН и санкций. Мы и наши клиенты можем быть уверены в ее доступности. ❌Цена. Аренда мощностей больших языковых моделей будет стоить довольно дорого. ➕ Пользуясь своей моделью, мы можем влиять на цену наших продуктов и сделать их доступнее для малого и среднего бизнеса. В итоге мы создали свою LLM, систему микросервисов на ее основе и получили возможность полноценно влиять на показатели продукта и быстро вносить изменения, доработки и новые функции. P.S. Если еще не успели попробовать IQ MENTOR на своем бизнесе — даем тестовый доступ всем зарегистрировавшимся