TGINSIGHT SIMILAR POSTS
Изходен канал @clockstackwheels · Post #851 · 2.08
Впервые использовал нейросетку для реальной практической пользы в коммерческом заказе. У заказчика есть база данных, куда информация вносится кое-как. Представьте, что вы составляете каталог, например, книг, и в базе данных предусмотрены поля: "Автор книги", "Название книги", "Число страниц" и ещё десяток других полей с информацией. Но заполняют эту базу другие люди, которых вы не контролируете, поэтому информация может случайным образом лежать в любом произвольном поле, быть введена с ошибками, опечатками и так далее. В реальном заказе были не книги, я просто привожу пример такой же задачи. Вот как это может выглядеть: 1. В поле "Автор" написано "Лондон, Дж. Белый Клык", поле "Название" при этом пустое. 2. В поле "Название" написано "150-страничный сборник рецептов", поле "Число страниц" пустое 3. В поле "Название" написано "джеклондон мартин иден", поле с автором пустое 4. В поле "Автор" написано "150-стр.3изд,доп.перераб инструкция по пользованию подстанциями типа ТП-13, М.Васильев москва 98" ...и так далее. А нужно искать нормально по автору, названию, числу страниц, городу и году издания. Никакими прямыми алгоритмами это не берётся: регулярки, поиск по ключевым словам, морфология, нечёткая логика — всё это либо даёт много ложноположительных результатов, либо (если подкрутить пороговые значения) вообще перестаёт искать. И вот тут в какой-то момент мы решили попробовать запрашивать через API GPT. Нейросетке задаётся следующий промт: "Есть следующая информация: «150-страничный роман джеклондон мартин иден». Если здесь есть то, что похоже на имя автора книги, напиши мне его, иначе ответь null". И, надо сказать, даже 3.5 справляется с этой работой очень хорошо. Получилось сравнительно без ошибок разметить около 80% данных (остальные с ошибками даже после нейросетки). Но, важный нюанс. Сначала мы пытались поймать все данные одним запросом: "GPT, выведи мне JSON, в котором есть автор, название, число страниц...", но тесты показали, что значительно эффективнее будет отдельно спросить 5 раз про 5 разных типов данных. Да, это расходует больше токенов, но они и так сравнительно дёшевы. Кстати, API у OpenAI безбожно глючит даже на платном тарифе. Обещанных 3500 запросов в минуту нет даже приблизительно. По факту удаётся отправлять около 200-300 запросов в минуту, потом оно вываливается в таймауты или ошибку 429, нужно делать какие-то умные паузы, ждать итд. Над этим всем пришлось повозиться, зато результат вполне ощутимый. #dev
Hashtags
Търсене: #microservices
@golang · Post #41 · 20.02.2018 г., 21:45
Great post about service discovery and load balancing for GoLang microservices. Code examples, theory and step-by-step instructions are here: #architecture#microservices#development http://callistaenterprise.se/blogg/teknik/2017/04/24/go-blog-series-part7/
@golang · Post #40 · 17.02.2018 г., 22:40
Very interesting article calls “From monoliths to microservices: an architectural strategy.” The structure of this post: - Adopting Microservices; - Microservices Architectural Patterns; - Architectural & Implementation Considerations; - Developer Productivity During Microservices Adoption; #architecture#development#microservices https://thenewstack.io/from-monolith-to-microservices
@golang · Post #38 · 12.02.2018 г., 19:51
The article by Paul Dix calls “The Decomposable Monolith: Long Live the Monolith, Long Live Services!” Code examples are available but without a code highlighting 🙂 #architecture#development#microservices https://www.influxdata.com/blog/decomposable-monolith-long-live-monolith-long-live-services/
@golang · Post #31 · 31.01.2018 г., 20:13
Great article about the architecture inside of Golang microservice, based on the Bob's Clean Architecture Concept (https://8thlight.com/blog/uncle-bob/2012/08/13/the-clean-architecture.html) Main points: Your GoLang microservice has 4 layers: - Models, data structures, and their methods; - Repository, the provider of DB operations and data management, - Usecase for business logic implementation; - Delivery, protocol, and algorithms for message handling (HTTP, gRPC, etc). Each layer should be independent and be available for mocking, for internal communications between application layers. An example project here: https://github.com/bxcodec/go-clean-arch Full article on the Hackernoon website: https://hackernoon.com/golang-clean-archithecture-efd6d7c43047 #development#microservices#architecture
@golang · Post #25 · 26.01.2018 г., 09:16
Top-featured manual about kubernates-services step-by-step development. Code examples, service design, test coverage #development#microservices#architecture https://blog.gopheracademy.com/advent-2017/kubernetes-ready-service/
@golang · Post #37 · 11.02.2018 г., 15:25
How can we track our microservice activity and monitor some processes inside of the service? The Prometheus can helps us in it: the next following article discovers an step-by-step flow for set up, configure and usage this excellent product: #development#microservices#monitoring https://www.google.ru/amp/s/blog.alexellis.io/prometheus-monitoring/amp/
@golang · Post #50 · 12.03.2018 г., 20:20
This is a perfect longread about organization of microservice’s testing. #microservices#testing#architecture https://medium.com/@copyconstruct/testing-microservices-the-sane-way-9bb31d158c16?source=linkShare-b636419a57de-1520885775
@golang · Post #23 · 25.01.2018 г., 20:13
Are you a beginner in GoLang? Then it requires your attention 🙂. Good and simple for understanding article about microservice-based API development; just simple and work solution with code examples and couple of advices #development#microservices#architecture#practice https://medium.com/@thedevsaddam/build-restful-api-service-in-golang-using-gin-gonic-framework-85b1a6e176f3?source=linkShare-b636419a57de-1516910445
@golang · Post #19 · 22.01.2018 г., 21:32
Do you think about gRPC usage? Here is a great post about step-by-step guide to gRPC framework development. You’ll find here code examples, theory introductions and useful tips. Enjoy learning! 🙂 #manual#development#microservices#examples https://medium.com/@shijuvar/building-high-performance-apis-in-go-using-grpc-and-protocol-buffers-2eda5b80771b?source=linkShare-b636419a57de-1516656055
@golang · Post #28 · 28.01.2018 г., 20:33
Interesting step-by-step guide about design and development API with Docker containers, Swarm cluster and Traefik (HTTP reverse proxy and load balancer). In this article you’ll know how to configure the Traefik in the Docker environment with 3 following nodes: one manager and two workers #architecture#configuration#docker#microservices https://hackernoon.com/architecting-a-highly-scalable-golang-api-with-docker-swarm-traefik-875d1871cc1f?source=linkShare-b636419a57de-1517171008
@golang · Post #18 · 22.01.2018 г., 11:56
Up-to-date article about data-stream processing: Apache Kafka, microservices, JVM to GoLang migrations, ES & Cassandra. What they did when they got 6x traffic increasing in 6 month #design#cases#microservices#scalability https://medium.com/@magicpineng/in-depth-look-at-a-scalable-robust-data-stream-processing-pipeline-using-golang-processing-500k-9e68310a0675
@iteventsru · Post #257 · 03.03.2018 г., 16:13
✅ Завтра JBreak 2018 📅 4 марта / 10:00 (время Новосибирское, МСК+4) / Новосибирск, Станционная ул., 104 + онлайн-трансляция 💵 Платно 📝 Регистрация тут: https://goo.gl/J22JGQ JBreak — единственная сибирская технологическая Java-конференция для опытных разработчиков. Все доклады будут посвящены только востребованным Java-технологиям и проблемам: производительность, concurrency, тестирование, распределённые системы и высокие нагрузки в мире Java, а также будущее платформы. Спикеры: ~ Simon Ritter ~ Sebastian Daschner ~ Никита Липский ~ Алексей Зиновьев ~ Дмитрий Бугайченко и другие 🔗 Программа: https://goo.gl/tYhuCR #backend#java#spring#JDK#Hibernate#microservices#Новосибирск#онлайн