Впервые использовал нейросетку для реальной практической пользы в коммерческом заказе.
У заказчика есть база данных, куда информация вносится кое-как. Представьте, что вы составляете каталог, например, книг, и в базе данных предусмотрены поля: "Автор книги", "Название книги", "Число страниц" и ещё десяток других полей с информацией. Но заполняют эту базу другие люди, которых вы не контролируете, поэтому информация может случайным образом лежать в любом произвольном поле, быть введена с ошибками, опечатками и так далее. В реальном заказе были не книги, я просто привожу пример такой же задачи.
Вот как это может выглядеть:
1. В поле "Автор" написано "Лондон, Дж. Белый Клык", поле "Название" при этом пустое.
2. В поле "Название" написано "150-страничный сборник рецептов", поле "Число страниц" пустое
3. В поле "Название" написано "джеклондон мартин иден", поле с автором пустое
4. В поле "Автор" написано "150-стр.3изд,доп.перераб инструкция по пользованию подстанциями типа ТП-13, М.Васильев москва 98"
...и так далее. А нужно искать нормально по автору, названию, числу страниц, городу и году издания. Никакими прямыми алгоритмами это не берётся: регулярки, поиск по ключевым словам, морфология, нечёткая логика — всё это либо даёт много ложноположительных результатов, либо (если подкрутить пороговые значения) вообще перестаёт искать.
И вот тут в какой-то момент мы решили попробовать запрашивать через API GPT. Нейросетке задаётся следующий промт:
"Есть следующая информация: «150-страничный роман джеклондон мартин иден». Если здесь есть то, что похоже на имя автора книги, напиши мне его, иначе ответь null". И, надо сказать, даже 3.5 справляется с этой работой очень хорошо. Получилось сравнительно без ошибок разметить около 80% данных (остальные с ошибками даже после нейросетки).
Но, важный нюанс. Сначала мы пытались поймать все данные одним запросом: "GPT, выведи мне JSON, в котором есть автор, название, число страниц...", но тесты показали, что значительно эффективнее будет отдельно спросить 5 раз про 5 разных типов данных. Да, это расходует больше токенов, но они и так сравнительно дёшевы.
Кстати, API у OpenAI безбожно глючит даже на платном тарифе. Обещанных 3500 запросов в минуту нет даже приблизительно. По факту удаётся отправлять около 200-300 запросов в минуту, потом оно вываливается в таймауты или ошибку 429, нужно делать какие-то умные паузы, ждать итд. Над этим всем пришлось повозиться, зато результат вполне ощутимый.
#dev
ДЕНЬ ГИС И КАРТОГРАФИЧЕСКИЕ ПРОЕКЦИИ🎉
Каждый год в среду третьей недели ноября отмечают Международный день ГИС — отличный повод вспомнить об одной из самых важных тем при работе с пространственными данными: о картографических проекциях🌐
Я сделала небольшой сайт, на котором можно посмотреть на разнообразие проекций, узнать об их типах и свойствах, а также проверить себя с помощью небольшой викторины
Другие посты на эту тему:
🟣Как подобрать подходящую проекцию
🟡Проекции и системы координат на Python
🔵Веб-Меркатор ( и почему не стоит его использовать)
🟢Местные системы координат
P.S
Сайт вдохновлён Map Projections Explorer и желанием поиграть с библиотекой d3.js. Написан на React + TypeScript
P.P.S.
Сегодня 19-й день #30DayMapChallenge, посвящённый картографическим проекциям!
🌎🕊️ GIS_AND_PEACE
#30DayMapChallenge | В 2023 году команда NextGIS впервые приняла участие в 30-дневном ноябрьском картографическом челлендже. Нам удалось покрыть все дни, и теперь предлагаем вам ознакомиться с нашими картами.
ДЕНЬ ГИС И КАРТОГРАФИЧЕСКИЕ ПРОЕКЦИИ🎉
Каждый год в среду третьей недели ноября отмечают Международный день ГИС — отличный повод вспомнить об одной из самых важных тем при работе с пространственными данными: о картографических проекциях🌐
Я сделала небольшой сайт, на котором можно посмотреть на разнообразие проекций, узнать об их типах и свойствах, а также проверить себя с помощью небольшой викторины
Другие посты на эту тему:
🟣Как подобрать подходящую проекцию
🟡Проекции и системы координат на Python
🔵Веб-Меркатор ( и почему не стоит его использовать)
🟢Местные системы координат
P.S
Сайт вдохновлён Map Projections Explorer и желанием поиграть с библиотекой d3.js. Написан на React + TypeScript
P.P.S.
Сегодня 19-й день #30DayMapChallenge, посвящённый картографическим проекциям!
🌎🕊️ GIS_AND_PEACE
Увидел у Станислава Казакова пост про красивые карты в рамках #30daymapchallenge.
Понравилась карта рельефа острова Тайвань в виде "диаграммы горизонта" и записал урок, как подобную карту построить в QGIS.
Подобную карту можно сделать 2 путями:
1) с помощью стилей и генератора геометрии
2) инструментами геообработки.
В уроке покажу второй вариант. Будет полезно для понимания «магии» геообработки.
ДЕНЬ ГИС И КАРТОГРАФИЧЕСКИЕ ПРОЕКЦИИ🎉
Каждый год в среду третьей недели ноября отмечают Международный день ГИС — отличный повод вспомнить об одной из самых важных тем при работе с пространственными данными: о картографических проекциях🌐
Я сделала небольшой сайт, на котором можно посмотреть на разнообразие проекций, узнать об их типах и свойствах, а также проверить себя с помощью небольшой викторины
Другие посты на эту тему:
🟣Как подобрать подходящую проекцию
🟡Проекции и системы координат на Python
🔵Веб-Меркатор ( и почему не стоит его использовать)
🟢Местные системы координат
P.S
Сайт вдохновлён Map Projections Explorer и желанием поиграть с библиотекой d3.js. Написан на React + TypeScript
P.P.S.
Сегодня 19-й день #30DayMapChallenge, посвящённый картографическим проекциям!
🌎🕊️ GIS_AND_PEACE
Наступил ноябрь, а это значит, что наш отдел снова принимает вызов #30DayMapChallenge. Каждый день в течение месяца мы будем создавать и публиковать карты на самые разные темы.
Тема первого ноября — точки. Мы выбрали тему кикшеринга (аренды самокатов) в России. Чтобы быстро нанести города на карту, использовали геокодирование. Этот инструмент мгновенно преобразует названия и адреса в географические координаты, что сильно ускоряет работу с точечными объектами. Геокодирование существенно экономит картографам время.
Следите за новыми картами по хэштегу #30DayMapChallenge!
Тема 30 — финальная карта.
Заключительное испытание — работа на свободную тему. Завершаем наше участие в ежегодном картографическом проекте #30DayMapChallenge визуализацией количества пассажиров, вошедших на станции метро в 3 квартале 2024 года.
Комсомольская — 8,37 млн
Курская – 5,83 млн
Китай-город — 5,26 млн
Охотный Ряд — 4,59 млн
Маяковская — 3,05 млн
Савёловская — 2,77 млн
Смоленская — 2,5 млн
Баррикадная — 2,21 млн
Марьина Роща — 2,14 млн
Марксистская — 1,84 млн
Задумка и исполнение - Николай Киц.
Тема 29 — Overture Maps Foundation.
OMF это новый источник открытых геопространственных данных. Он включает в себя информацию и геометрию OpenStreetMap, Esri, Google Open Buildings, Daylight Map Distribution; ESA WorldCoverMeta*, Microsoft и других источников. База совсем свежая и пока не отличается полнотой атрибутивных данных, но мы надеемся на системные обновления! Охват и геометрия — вот основные преимущиства данных OMF.
В данной карте мы решили продемонстрировать точность и изящность этих данных, а также показать самые фотогеничные площади центра Санкт-Петербурга.
Автор работы - Настя Леснова.
#30DayMapChallenge
Тема 28 - голубая планета.
Для этой темы вспомнили карту о Волге и ее притоках. Волга - самая длинная река в Европе, берёт начало на Валдайской возвышенности и впадает в Каспийское море. Устье реки лежит на 28 метров ниже уровня моря. Эта протяженная и полноводная река во времена Киевской Руси становится одним из трех великих торговых речных путей. Благодаря этой водной магистрали активно развивались города и многие из них стали крупнейшими культурными и промышленными центрами.
На берегах Волги располагаются четыре города-миллионника: Нижний Новгород, Казань, Самара, Волгоград (на 1 января 2024).
#30DayMapChallenge
Тема 27 — микрокартографирование, отображение объектов малого размера с высоким уровнем детализации и точности.
Подошли к задаче буквально и картографировали кристалл процессора Baikal S, произведённого на тайваньской фабрике TSMC.
На кристалле расположены 12 процессорных кластеров, каждый из которых в своей структуре имеет 4 ядра ARM Cortex A75 и кэш L3. Каждое ядро собственный L2 кэш и кэш L1.
Автор - Николай Киц.
#30DayMapChallenge
Тема 26 — проекции.
Картографические проекции — это математические методы, которые позволяют перейти от географических координат (на глобусе) к плоским координатам (на плоскости). Земля имеет форму, близкую к эллипсоиду, и её нельзя идеально изобразить на плоскости. Любая картографическая проекция искажает площади, углы, расстояния или все параметры вместе, но в меньшей степени.
Чтобы отображать разные территории на карте с наименьшими искажениями существует множество проекций. Проекцию выбирают в зависимости от размера показываемой территории и её расположения.
С помощью нашего ПО Overglobe показали переход от глобуса к разным типам проекций.
Цилиндрическая проекция хорошо подходит для изображения экваториальных областей.
Коническая проекция полезна при изображении территорий в средних широтах протяжённых по долготе.
Проекция Бонне — псевдоконическая проекция, отображающая земной эллипсоид в форме сердца, она также классифицируется как «кардиоидная» проекция.
Автор работы - Николай Киц.
#30DayMapChallenge
Тема 25 - тепло.
Сегодняшнюю тему решили визуализировать на основе нашего инструмента - Overglobe.
Температура воздуха - один из основных показателей атмосферы. Именно на нее мы ориентируемся при просмотре прогноза погоды и выборе одежды. На днях в Москве установились стабильные минусовые температуры, пришла климатическая зима.
Карту для челленджа подготовила Виктория Чалова.
#30DayMapChallenge