TGTGInsighttelegram intelligenceLIVE / telegram public index
← Python Заметки

TGINSIGHT SIMILAR POSTS

Најди сличен содржај

Изворен канал @pythonotes · Post #239 · 3 мај

Один из самых удобных способов записать данные это использование готовых форматов, такие как JSON или YAML. Из плюсов такого подхода стоит отметить вот что: 🔸 готовый, повсеместно используемый и поддерживаемый формат 🔸 простой и понятный файл, удобочитаемый для человека 🔸 можно легко редактировать в любом текстовом редакторе без специальных программ и библиотек Но есть и минусы 🔹 затраты времени при записи файла (кодирование данных в нужный формат строки) 🔹 затраты времени при чтении файла (декодирование данных в Python объекты) 🔹 размер файла увеличивается из-за разметки данных (скобки, запятые, переносы, отступы...) 🔹 перед записью все данные должны быть помещены в память в полном объёме (не всегда) 🔹 при чтении необходимо считать весь файл в память и только потом декодировать данные Если нужно писать немного данных в несколько файлов, то затраты по времени не ощутимы. Обычно это файлы конфига или какие-либо метаданные. Это отличный вариант под такие задачи. Есть и другой поход к записи файлов - это бинарные файлы. Используется, когда данных достаточно много и никто их не собирается читать глазками😳. 🔸 очень быстрая запись 🔸 чтение значительно быстрей чем JSON, YAML итд 🔸 размер файла значительно меньше, так как нет разметки 🔸 можно записывать данные по мере поступления не загружая всё в память 🔸 можно извлечь любую часть данных независимо Из минусов 🔹 нужно определить свой формат записи данных (если не используете готовую спецификацию определённого формата) 🔹 не получится открыть файл и визуально понять что там записано, а для чтения файла потребуется знать его спецификацию. 🔹 не так-то просто создать такой файл без специальной библиотеки В таком виде удобно записывать большой массив любых однородных данных. Например, мониторинг валютной биржи или кэшированная анимация 3D геометрии. (Это не означает что нельзя записать данные разного типа, просто это будет не так удобно) Представьте себе JPG-картинку. По сути это немного мета-информации и большой массив пикселей. Тоже самое со звуком или видео файлом. Поэтому, если вы попробуете открыть картинку в текстовом редакторе вы увидите что-то вроде такого f15d cd29 a564 4578 ... 09e2 9bc4 a696 1253 ... 84e9 4de1 3b23 c24a ... 2534 5161 28e0 709d ... ... Это и есть записанные байтики. И для их чтения требуется определённый софт который знает что с ними делать. Под каждый тип файла. К чему это я? Читайте в следующем посте... #tricks#basic

Резултати

Пронајдени 6 слични објави

Пребарај: #pyspark

当前筛选 #pyspark清除筛选
Data Science Jobs

@datasciencejobs · Post #2291 · 30.08.2024 г., 16:04

#вакансия#dwh#hrtech#sql#pyspark Инженер данных в команду DWH HR Tech Москва, Санкт-Петербург Офис или гибрид Ищем дата-инженера, который будет заниматься созданием и развитием DWH в HR. Вы будете в центре создания экосистемы аналитических продуктов по ключевым метрикам: найму, движению, обучению, вовлечённости и другим аспектам жизни сотрудников компании. Этими продуктами ежедневно пользуются руководители подразделений всего Яндекса и сотрудники отдела персонала при принятии решений. Вам предстоит участвовать в процессе создания и проработки архитектуры DWH. Вы будете тесно общаться с аналитиками, заказчиками и держателями данных для улучшения качества поставляемых данных в DWH. Мы ждём, что вы уверенно владеете SQL и Python, имеете опыт работы с PySpark. По всем вопросам, а также с резюме в лс к @irinavlsv.

Data Science Jobs

@datasciencejobs · Post #1570 · 21.07.2023 г., 15:03

#вакансия#remote#удаленка#fulltime#backend#python#senior#pyspark Компания: Rubbles Вакансия: Middle / Senior Data Scientist Формат работы: remote из любой точки мира / Офис МСК Занятость: полная Зарплатная вилка: 250 000 - 400 000 NET 📌 О компании: Компания Rubbles (SBDA Group) занимается анализом данных и машинным обучением. Решаем много задач из разных индустрий: системы таргетирования персональных коммуникаций в банках, ритейле и телекоме, системы предсказания спроса на товары в ритейле, поисковые системы по товарам в онлайн-магазинах, системы предсказания поломок оборудования для промышленности и многое другое. Сейчас в поиске Дата Сайнтиста на проект для крупного ритейла. 📌 Основные задачи: • Моделирование и обработка данных на Python для извлечения бизнес-ценности из данных; • Обучение ML моделей; • Проработка гипотез; • Деплой моделей в продуктивное окружение и мониторинг качества; • Анализ данных, выявление зависимостей и потенциала для развития моделей; • Построение воспроизводимых и переиспользуемых решений для работы с данными и моделями; • Работа по улучшению метрик качества. 📌 Основные требования: • Опыт работы на позиции DS от 2-х лет; • Опыт работы с pySpark, SQL, стек Hadoop от 1 года; • Опыт использования ml библиотек на Python (бустинг, нейронные сети); • Опыт автоматизации пайплайнов работы с данными (Airflow); • Большим плюсом будет знание Docker и Kubernetes ; • Опыт работы на позиции, связанной с промышленной разработкой как плюс; • Понимание методов машинного обучения с точки зрения математики и умение адаптировать их под конкретные задачи; • Опыт проработки задачи от бизнес-постановки до математической формулировки и реализации в коде. 📌 Наше предложение: • Возможность работы удаленно, за пределами РФ; • Участие в быстром росте компании, работающей на перспективном AI рынке; • Поддержка кандидата в профессиональном и карьерном росте; • Совместная работа с опытными разработчиками, аналитиками данных, менеджерами, продуктологами; • ДМС по всей России со стоматологией (РФ). cv можно направить сюда @morevaliddevelopers

Data Science Jobs

@datasciencejobs · Post #2288 · 29.08.2024 г., 18:33

#job#работа#vacancy#вакансия#Data engineer #DataScience#HDFS#PySpark #Python#удаленно Вакансия: Data engineer Формат: Удаленно Занятость: полная, 5/2 (гибкое начало дня) З/П: до 300 000 руб. 🔶Эта вакансия - отличная возможность для инженера данных стать часть вдохновленной команды и принять участие в развитии платформы машинного обучения дочерней компании 🔶 Ключевая задача: развитие платформы машинного обучения 🔶Основные обязанности •Разрабатывать отчетность с использованием скриптов на PySpark •Генерировать новые признаки для ML-моделей •Автоматизировать процессы для бизнеса 🔶Обязательные требования: •Опыт работы с большими данными: HDFS, PySpark от 1 года •Опыт работы с Python, в том числе с Pandas, NumPy Преимуществом при отборе будет •Опыт работы с геоданными, git 🔶 Что мы можем предложить взамен •Место работы: удаленно по РФ •Трудоустройство по ТК РФ в аккредитованное юр. лицо •Официальное трудоустройство •Размер заработной платы обсуждается после собеседования •Годовое премирование •ДМС со стоматологией •Компенсация мобильной связи •Возможности для развития 📲Контакт: @Oskar17

Data Science Jobs

@datasciencejobs · Post #1269 · 05.01.2023 г., 06:31

#работа#вакансия#job#vacancy#fulltime#удаленка#офис#remote#SQL#DE#Python#PySpark#Airflow#Data Data engineer в Aston на проект платформы, которая распределяет работу между сотнями исполнителей. Требования: -Опыт работы в роли Data Engineer от 2\3-х лет; -Хорошее знание Python и SQL -Практический опыт решения алгоритмических задач Будет плюсом: -Знание PySpark -Опыт работы с Databricks из Airflow -Опыт работы с Airflow -Знание Bash, Docker -Высшее математическое или физико-математическое образование Условия: - работа удаленно или в офисе, фултайм - система менторства и адаптации (куратор, четкий план роста, своя школа архитекторов, а также корпоративный обучающий портал для любого стека вашей специализации) - возможность выбора/смены проекта - медицинское страхование (+стоматология) - возможность доп заработка через участие в активностях компании - компенсация спорта и англ языка - помощь в отсрочке (входим в РФ реестр ИТ-компаний) - ЗП на руки 150-240к ₽ и более Контакт для связи Ян @job_accelerator

Data Science Jobs

@datasciencejobs · Post #1494 · 31.05.2023 г., 15:02

Мы – компания Sense Machine - лидеры на российском рынке нейробиологических исследований. Изучаем эмоциональный отклик на рекламные ролики, ТВ контент, прототипы приложений и многое другое, вплоть до дизайна интерьера банков с использованием собственной facial coding платформы. Являемся сердцем крупнейшей в Европе UX - лаборатории Альфа – банка и работаем с самыми большими клиентами российского рынка, такими как Альфа-банк, МТС, Danone, Ozon, Мail.ru, Lamoda, Самокат, Sokolov Компания представляет из себя команду людей, по-настоящему увлечённых наукой и её технической интерпретацией, которая делает уникальный продукт, меняющий представление о познании и востребованный самыми крупными игроками. Этот продукт показывает рост в одном из наиболее востребованных сегментов современного наукоёмкого бизнеса - нейробиологических исследованиях, которые до 2024 года по оценке Gartner будут применяться в 50% всех маркетинговых тестов. Мы строим настоящий двигатель того, как будут совершаться открытия о человеческом восприятии в ближайшее время и уверены, что талантливые и открытые знаниям люди – это то, что нам нужно на этом пути На данном этапе, мы в поиске профессионального Lead Data Scientist в нашу драйвовую команду. Требования к кандидату: - Высшее профильное образование (инженерное или математическое) - Опыт коммерческой разработки в области DS/ML на Python - Наличие успешных коммерческих проектов или проектов в эксплуатации - Опыт поддержки и развития продуктов находящихся в эксплуатации - Уверенные знания и опыт работы с #Python для анализа данных, включая основные библиотеки ( #numpy, #scipy, #pandas, #Scikit-learn) - Опыт работы с технологиями Face Detection, Face Analyze, Computer Vision. - Опыт работы с #Tensorflow / #PyTorch / #OpenVINO - Умение разбираться в чужом коде - Опыт постановки задач Желательно: - Опыт работы с #SQL - Опыт работы с Apache Spark ( #Pyspark / Scala, #Spark SQL) - Знание #Docker Ваши обязанности: • Рефакторинг существующей системы • Создание улучшенного решения на основании текущего • Постановка и контроль выполнения задач • Построение процессов тестирования решений на базе технологий обработки видео с помощью нейросетевых моделей • Разработка алгоритмов преобразования данных • Организация процессов разработки и руководство командой ML-специалистов • Взаимодействие с командой аналитики и разработки инфраструктуры • Контроль исполнения задач Что предлагаем мы: - Работа в команде разработчиков, сердцем которой является data science. - Большое количество очень интересных гипотез, которые основаны на современных научных теориях и большой простор в их проверке, освоение которого будет поддержано профессиональными и увлечёнными коллегами - Амбициозные задачи, масштабные проекты и возможность создать по-настоящему уникальный продукт, который сможет быть стандартом индустрии. - Большую продуктовую команду мечты – все ребята ладят с методами изучения данных и ходят не с проблемами, но с предложениями - Всю нужную инфраструктуру и поддержку в экспериментах Участие в работе крупнейшей в Европе ux лаборатории - Оплата обучения и тренингов для вашего профессионального роста - Белая заработная плата. - Фиксированный, достойный оклад от 300 до 500 k ( обсуждаем на собеседовании) - Возможность работать удаленно Уютный "pet-frendly" офис, в 2-минутах от метро Парк Культуры (да, можно приносить/приводить с собой пушистых любимцев) - Официальное трудоустройство с первого рабочего дня, полное соблюдение ТК РФ - Отсутствие строгого дресс-кода и бюрократии, открытость и лояльность руководства, общение на - "ты" Мы всегда готовы принять в команду талантливых и перспективных сотрудников, готовых стать частью нашей классной команды и делать мир рекламы лучше с помощью нашей платформы. В свою очередь мы готовы делится своим опытом, экспертностью, всячески направлять и поддерживать Откликайтесь или отправляйте свое резюме: https://t.me/hr_sensemachine почта- [email protected] Просьба в письме указывать желаемый уровень заработной платы!

Data Science Jobs

@datasciencejobs · Post #2226 · 22.07.2024 г., 18:04

#вакансия#ds Мы в Циан 🏘 ищем сильного Senior Data Scientist-а в команду CRM. Локация - Полная удаленка внутри РФ. Если есть желание ходить в офис, у нас есть замечательные современные офисы в Москве, Питере и Новосибе. Вилка - от 350 до 500 гросс, готовы обсуждать О нас В Циан большая команда ML. В команде настроены процессы перфоманс ревью, регулярного обмена опытом, выделяем время на исследовательскую работу! Команда CRM занимается прямыми коммуникациями с клиентами (пуши, емейлы, смски и тд) Наш стек ● Python (Numpy, SciPy, Pandas, sklearn, PyTorch); ● Экосистема Hadoop (PySpark, Hive, Kafka); ● Airflow; Задачи: ● Повышение эффективности пуш-уведомлений, емейлов и других каналов прямых коммуникаций с клиентами; ● Оптимизация коммуникационной нагрузки, выбор оптимального канала коммуникации, выбор оптимального времени отправки; Требования к кандидату ● Опыт: Не менее 3х лет релевантного опыта на позиции DS в продуктовой компании ● Python: пишет легко читаемый и поддерживаемый код ● SQL (оконные функции, оптимизация запросов) ● Apache стек: HDFS/Kafka/Spark (DF API) ● Классический ML: бустинги, линейные модели. ● Базовые знания в NLP и CV: трансформеры, TF-IDF ● DL: PyTorch. Плюшки: ДМС с первого дня (стоматология, госпитализация, полис ВЗР), Кафетерий льгот Benefactory, 5 day off в год, помимо основного отпуска. Пишите в ЛС рекрутеру / мне (@DANAlina95 / @kgavrilchik) или скидывайте свои резюме на [email protected] #Python#Numpy#SciPy#Pandas#sklearn#PyTorch#Hadoop#PySpark#Hive#Kafka#Airflow