Содержимое
Что тормозит внедрение LLM. Инновации всегда вызывают волну волнения, восторга, которая потом неизбежно переходит в фазу фрустрации. И хотя сейчас LLM находится на пике своей популярности, «тревожные звоночки» уже слышны. О ChatGPT и других языковых моделях так или иначе слышали, наверное, все, но многие до сих пор не полностью осознают реальные возможности LLM, как и то, что ИИ на данном этапе развития способен лишь усилить возможности человека, а не заменить его и решить все проблемы. Вместе с колоссальными затратами на инфраструктуру это в конце концов приводит к тому, что бизнес начинает задаваться вопросом: насколько ему это вообще нужно? Представим условный маркетплейс, который хочет усовершенствовать свою поисковую систему. В текущем виде она за пару секунд обрабатывает миллионы запросов в день, задействуя сложные механизмы индексации, статистики и т. д. Текущая система разрабатывалась около пяти лет, она стабильно держит нагрузку, и в целом все довольны. Однако в какой-то момент бизнес решает, что использование LLM поможет понимать запросы пользователей еще лучше и точнее. Бизнес начинает считать, во сколько обойдется такое внедрение. Понадобится примерно два года, новые люди в команде и железо, которое обойдется в десять раз дороже текущей поисковой системы. После всех этих подсчетов компания выбирает остаться на текущей поисковой системе, потому что все и так хорошо работает. https://www.forbes.ru/tekhnologii/511362-kak-nejroseti-provalivautsa-v-dolinu-razocarovania-i-pocemu-eto-horoso