TGTGInsighttelegram intelligenceLIVE / telegram public index
← Python Заметки

TGINSIGHT SIMILAR POSTS

Најди сличен содржај

Изворен канал @pythonotes · Post #269 · 7 јул.

­Возможно, стоит пояснить разницу между синхронизацией из thread/process-safe и синхронизацией с помощью Lock🤔 Наша задача — заставить разные процессы и потоки обращаться к базе данных (или любым другим ресурсам) последовательно. Чтобы не случилось так называемого race condition, то есть состояние гонки. Это когда разные потоки или процессы пытаются одновременно что-то сделать с одним и тем же ресурсом. В этом случае нам нужна какая-то логика ограничения. Пока один процесс не завершил своё действие, другие не могут получить доступ к ресурсу. Так вот, thread-safe и process-safe означает что отдельно взятые операции записи в БД гарантированно будут последовательны. Запросы из разных процессов или потоков выстроятся в очередь и не будут мешать друг другу. Лучше всего когда этот блок реализован на уровне БД в виде атомарных операций или ещё как-то. Но зачем нам тогда еще дополнительный Lock? Этот способ синхронизации используется когда процесс никак не укладывается в одно действие и должен сделать множество операций прежде чем дать доступ следующему. В этом случае процесс ставит некий глобальный Lock на ресурс и никто другой, даже получив законное право на доступ, не может ничего сделать. Все ждут пока этот Lock не будет снят. Это решается на уровне приложения и правильность реализации полностью в вашей ответственности. Например, если забыли разблокировать или сделали перекрёстный Lock (Deadlock как на картинке), то всё зависнет в бесконечном ожидании. #basic

Hashtags

Резултати

Пронајдени 3 слични објави

Пребарај: #pipelines

当前筛选 #pipelines清除筛选

🚢Saipem получила контракт на строительство офшорного трубопровода в Саудовской Аравии. Итальянская Saipem заключила новый контракт с Aramco в рамках действующего долгосрочного соглашения. Стоимость проекта оценивается примерно в $500 млн. Работы будут выполнены на месторождении Safaniya — одном из крупнейших офшорных нефтяных активов в мире. Контракт предусматривает проектирование, закупку, строительство и установку магистрального трубопровода диаметром 48 дюймов. Общая протяжённость составит около 65 км офшорной и 12 км наземной инфраструктуры, включая сопутствующие подводные объекты. Морская фаза будет реализована с использованием строительных судов Saipem, уже размещённых в регионе. Изготовление конструкций запланировано на верфи Saipem Taqa Al-Rushaid Fabricators в Даммаме с привлечением локальных инженерных ресурсов. Проект подтверждает устойчивость капитальных вложений в сегмент разведки и добычи в регионе Персидского залива и укрепляет позиции Saipem как одного из ключевых подрядчиков в офшорном строительстве на Ближнем Востоке. 📌Saipem S.p.A. — итальянская инжиниринговая и офшорная компания, основанная в 1957 году. Специализируется на EPC-проектах в нефтегазовом секторе. Акции компании обращаются на Миланской фондовой бирже; структура собственности включает институциональных инвесторов и итальянские финансовые структуры. #Offshore#Pipelines#SaudiArabia#Saipem#EnergyProjects

djangoproject

@djangoproject · Post #420 · 21.08.2017 г., 10:36

https://alysivji.github.io/mongodb-pipelines-in-scrapy.html #Scraping Websites into #MongoDB using Scrapy #Pipelines Summary Discuss advantages of using Scrapy framework Create #Reddit spider and scrape top posts from list of subreddits Implement Scrapy pipeline to send scraped data into MongoDB Sure, we could hack together a solution using #Requests and #Beautiful_Soup (bs4), but if we ever wanted to add features like following next page links or creating data validation pipelines, we would have to do a lot more work.

Repositorio data science

@repo_science · Post #3078 · 18.04.2023 г., 15:54

#analysis#AWS#Databases#ETL#MongoDB#pipelines#RDS#S3#Scala#Spark#SQL ⚙️ 50 HOURS OF BIG DATA, PYSPARK, AWS, SCALA, AND SCRAPING (2022) 🌐 Inglés ⚖️17.03GB 🔗Link ----- Canal principal:@repo_science Cupones: @freecoupons_reposcience -----