TGTGInsighttelegram intelligenceLIVE / telegram public index
← Python Заметки

TGINSIGHT SIMILAR POSTS

Најди сличен содржај

Изворен канал @pythonotes · Post #335 · 29 мар.

В Linux стандартными средствами можно использовать часть оперативной памяти как диск. Для этого требуется указать тип монтирования tmpfs в команде mount mount -t tmpfs -o size=5G tmpfs /mnt/ram Теперь путь /mnt/ram можно использовать как обычный каталог. Для чего это может быть нужно? ▫️ Скорость работы с таким каталогом выше чем многие SSD и тем более HDD. ▫️ Если у вас очень быстрый SSD на NVMe M.2 то такой способ особо не прибавит вам скорости, но поможет сохранить ресурс SSD когда требуется обрабатывать очень много мелких файлов и оперативка позволяет выделить нужный объем. ▫️ Оперативка это энергозависимая память, поэтому выключении питания все файлы безвозвратно теряются. Такой "non persistent" каталог гарантирует удаление временных файлов. Я написал небольшой скрипт для условного теста и сравнения скорости копирования файлов между SSD и RAM. Вот мои результаты: Single File Size: 30.0Gb ssd > ssd: 0:00:12.850 / 2.3Gb/s sdd > ram: 0:00:06.453 / 4.6Gb/s ram > ram: 0:00:06.995 / 4.3Gb/s ram > sdd: 0:00:06.217 / 4.8Gb/s Dir size: 32.7Gb, File count: 11127 ssd > ssd: 0:00:15.063 / 2.2Gb/s sdd > ram: 0:00:08.486 / 3.9Gb/s ram > ram: 0:00:08.032 / 4.1Gb/s ram > sdd: 0:00:07.026 / 4.7Gb/s Скрипт для теста ↗️ На моём железе прирост скорости ~2x. Плюс экономия ресурса SSD. В Windows такой фишки по умолчанию нет, но обязательно найдутся аналогичные решения #linux#triks

Hashtags

Резултати

Пронајдени 3 слични објави

Пребарај: #pipelines

当前筛选 #pipelines清除筛选

🚢Saipem получила контракт на строительство офшорного трубопровода в Саудовской Аравии. Итальянская Saipem заключила новый контракт с Aramco в рамках действующего долгосрочного соглашения. Стоимость проекта оценивается примерно в $500 млн. Работы будут выполнены на месторождении Safaniya — одном из крупнейших офшорных нефтяных активов в мире. Контракт предусматривает проектирование, закупку, строительство и установку магистрального трубопровода диаметром 48 дюймов. Общая протяжённость составит около 65 км офшорной и 12 км наземной инфраструктуры, включая сопутствующие подводные объекты. Морская фаза будет реализована с использованием строительных судов Saipem, уже размещённых в регионе. Изготовление конструкций запланировано на верфи Saipem Taqa Al-Rushaid Fabricators в Даммаме с привлечением локальных инженерных ресурсов. Проект подтверждает устойчивость капитальных вложений в сегмент разведки и добычи в регионе Персидского залива и укрепляет позиции Saipem как одного из ключевых подрядчиков в офшорном строительстве на Ближнем Востоке. 📌Saipem S.p.A. — итальянская инжиниринговая и офшорная компания, основанная в 1957 году. Специализируется на EPC-проектах в нефтегазовом секторе. Акции компании обращаются на Миланской фондовой бирже; структура собственности включает институциональных инвесторов и итальянские финансовые структуры. #Offshore#Pipelines#SaudiArabia#Saipem#EnergyProjects

djangoproject

@djangoproject · Post #420 · 21.08.2017 г., 10:36

https://alysivji.github.io/mongodb-pipelines-in-scrapy.html #Scraping Websites into #MongoDB using Scrapy #Pipelines Summary Discuss advantages of using Scrapy framework Create #Reddit spider and scrape top posts from list of subreddits Implement Scrapy pipeline to send scraped data into MongoDB Sure, we could hack together a solution using #Requests and #Beautiful_Soup (bs4), but if we ever wanted to add features like following next page links or creating data validation pipelines, we would have to do a lot more work.

Repositorio data science

@repo_science · Post #3078 · 18.04.2023 г., 15:54

#analysis#AWS#Databases#ETL#MongoDB#pipelines#RDS#S3#Scala#Spark#SQL ⚙️ 50 HOURS OF BIG DATA, PYSPARK, AWS, SCALA, AND SCRAPING (2022) 🌐 Inglés ⚖️17.03GB 🔗Link ----- Canal principal:@repo_science Cupones: @freecoupons_reposcience -----