Post #278

Langchain vs LlamaIndex vs CrewAI vs Custom 😃 Последний пост из серии агентов и фреймворков для них, тут освещу основные боли, а также поговорим, а что в итоге выбрать для разных задач. 1️⃣Langchain: тот самый умник, который много что умеет, но начинаешь копаться и становится больно Библиотека хочет казаться швейцарским ножиком для разработки любой вещи в ИИ, собрав в себе все, начиная от агентов до векторных баз, но кажется это начинает превращаться в огромную стопку белья, где ты конечно прекрасно знаешь что лежит, но не совсем... Также для полного силы использования, нужно знать LangGraph, а для прода еще и LangSmith, и уже получается очень много. Да и некоторые методы кажутся сыроватыми и непродуманными. Но все равно этот фреймворк остается самым популярным из-за огромного количества внешних интеграций, хорошей документации и нежеланием разработчиков переходить на другие инструменты. 2️⃣Llamaindex: непонятно, как сюда пришел, но вроде полезен Дело в том, что Llamaindex задумывался вообще под задачу RAG, поэтому тут проблемы абсолютно логичны: не хватает методов, незрелая документация. Но в остальном все очень удобно, есть ноутбуки с пайплайнами решений и он в целом проще. Если вам хочется простой и реальный проект, чтобы понять, но не измучатся с версиями библиотек, то welcome. 3️⃣CrewAI: младший брат Langchain, когда родители устали воспитывать старшего ребенка, поэтому без огромного набора скиллов, но с теми же проблемами СrewAI построен на Langchain, и это уже настораживает. Он обещает упростить создание мультиагентных систем, но за удобство приходится платить. Помимо старых проблем Langchain, тут у тебе совсем мало контроля: например, системные промпты не изменить, так они еще и написаны с ошибками. Использовать, когда нужно быстрое демо мультиагентских систем. 4️⃣ Custom: опять все делать самому Все изучать, думать, короче, если это и делать с нуля, то как можно раньше, потому что уйдет кучу времени и за 5 минут до демо сделать не получится. Бабки, бабки, бабки... Вы скажете, причем тут это, ведь фреймворки ничего не генерят. Да, но они отравляют цепочки вызовов и делают это по разному. Например, у Langchain и CrewAI это около 0.05–0.10 доллара за запрос при сложных цепочках. У Llamaindex все проще 0.01–0.03 доллара за запрос для RAG-задач. Кастомно это будет еще дешевле, но могут пригодиться базы данных, сервера или облака, но можно, изучив все это, просто попасть в бигтех. Про фреймворки читаем у Саши, один из лучших каналов на СНГ просторах Как вам такой формат постов и какую архитектуру вы хотите разобрать?) Обязательно ставьте реакции и пишите комментарии💗