Один из самых удобных способов записать данные это использование готовых форматов, такие как JSON или YAML.
Из плюсов такого подхода стоит отметить вот что:
🔸 готовый, повсеместно используемый и поддерживаемый формат
🔸 простой и понятный файл, удобочитаемый для человека
🔸 можно легко редактировать в любом текстовом редакторе без специальных программ и библиотек
Но есть и минусы
🔹 затраты времени при записи файла (кодирование данных в нужный формат строки)
🔹 затраты времени при чтении файла (декодирование данных в Python объекты)
🔹 размер файла увеличивается из-за разметки данных (скобки, запятые, переносы, отступы...)
🔹 перед записью все данные должны быть помещены в память в полном объёме (не всегда)
🔹 при чтении необходимо считать весь файл в память и только потом декодировать данные
Если нужно писать немного данных в несколько файлов, то затраты по времени не ощутимы. Обычно это файлы конфига или какие-либо метаданные. Это отличный вариант под такие задачи.
Есть и другой поход к записи файлов - это бинарные файлы. Используется, когда данных достаточно много и никто их не собирается читать глазками😳.
🔸 очень быстрая запись
🔸 чтение значительно быстрей чем JSON, YAML итд
🔸 размер файла значительно меньше, так как нет разметки
🔸 можно записывать данные по мере поступления не загружая всё в память
🔸 можно извлечь любую часть данных независимо
Из минусов
🔹 нужно определить свой формат записи данных (если не используете готовую спецификацию определённого формата)
🔹 не получится открыть файл и визуально понять что там записано, а для чтения файла потребуется знать его спецификацию.
🔹 не так-то просто создать такой файл без специальной библиотеки
В таком виде удобно записывать большой массив любых однородных данных. Например, мониторинг валютной биржи или кэшированная анимация 3D геометрии.
(Это не означает что нельзя записать данные разного типа, просто это будет не так удобно)
Представьте себе JPG-картинку. По сути это немного мета-информации и большой массив пикселей. Тоже самое со звуком или видео файлом. Поэтому, если вы попробуете открыть картинку в текстовом редакторе вы увидите что-то вроде такого
f15d cd29 a564 4578 ...
09e2 9bc4 a696 1253 ...
84e9 4de1 3b23 c24a ...
2534 5161 28e0 709d ...
...
Это и есть записанные байтики. И для их чтения требуется определённый софт который знает что с ними делать. Под каждый тип файла.
К чему это я? Читайте в следующем посте...
#tricks#basic
💥DAS SOLLTE JEDER SEHEN UND HÖREN💥
Der frühere Direktor der US-Zentren für Seuchenschutz und -prävention (#CDC), Dr. Robert Redfield sagt:
Die COVID-Impfung hätte nicht als Impfstoff bezeichnet werden dürfen sondern als Medikament, da es die die Infektion nicht stoppt!
🦅#TEAMHEIMAT🇩🇪
The Atlantic: федеральные данные США и данные штатов по COVID-19 не совпадают
Коронавирус стал серьёзным испытанием не только для простых граждан, но и отличным тестом эффективности государственных механизмов. В результате мы видим, что даже самые эффективные государства в мире серьёзно "сбоят" перед вызовами подобного масштаба. Например, в США со статистикой вокруг текстов на Covid-19 творится настоящий бардак: штаты дают одни цифры, федеральное правительство - другие, и местами они отличаются друг от друга на десятки процентов. А ведь количество тестов необходимо для того, чтобы понять масштаб заражения, уровень смертности, и, соответственно необходимые действия в том или ином направлении. В результате журналистам, учёным и даже некоторым политикам приходится полагаться на негосударственный проект, возможности которого очевидно ниже, чем у федерального правительства.
«Анализ данных CDC на уровне штатов обнаруживает серьезные расхождения между тем, что сообщают многие штаты, и данными федерального правительства. Например, во Флориде эта разница огромна. В пятницу правительство штата сообщило, что с начала вспышки по всему штату было проведено около 700 000 тестов на коронавирус... Тем не менее, по данным CDC за этот же период проведено более чем 919 000 тестов. Это на 31% больше, чем, по мнению представителей самой Флориды. «Если происходит подобное, то представители CDC должны взять трубку и позвонить во Флориду с простым вопросом: «Что происходит?» - считает Ашиш Джа, профессор здравоохранения в Гарварде.
Учитывая сложность и огромное количество источников данных, некоторые неточности, безусловно, объяснимы. Но обнаруженные нами несоответствия свидетельствуют о том, что Флорида не является исключением. В 22 штатах количество тестов CDC отличается от числа, сообщенного правительством штата, более чем на 10 процентов. В 13 штатах расхождение более чем 25 процентов. В некоторых случаях количество тестов, указанных CDC намного выше, чем сообщают штаты; в других гораздо ниже».
https://theidealist.ru/cdcdata/
#TheAtlantic#власть#общество#США#статистика#CDC#коронавирус
🏥 Trump Picks a Mainstream Face for the CDC
Donald Trump has formally named Erica Schwartz to lead the CDC. The choice signals a turn away from vaccine politics and toward someone who can look credible to the public after months of turmoil inside the agency.
Schwartz is not coming in to sell a new ideology. She is coming in to clean up a mess. The CDC has been battered by political fights, legal challenges, staff losses, and Kennedy’s unpopular vaccine agenda, and the agency now needs basic authority more than another round of messaging theater.
That is a political reversal, even if the White House will not say it that way. The administration is trying to blunt the damage before the midterms, calm the public-health establishment, and stop the CDC from looking like a culture war machine with a lab coat on.
Schwartz will still have a hard job. She would be taking over an agency where trust has eroded, staff morale is badly damaged, and vaccine policy has become a battlefield instead of a public health tool. The real test is whether she can restore some discipline before the next crisis arrives.
#cdc#trump#health#vaccines#kennedy#publichealth
📱American Оbserver - Stay up to date on all important events
🇺🇸
#java#cdc#chunjun#dataops#datax#etl#flink#flink_streaming#java
TIS is an easy enterprise data integration tool using batch (DataX) and streaming (Flink-CDC, Chunjun) with a simple interface to sync data end-to-end without complex scripts. Its v5.0.0 adds Pipeline AI Agent, letting you describe needs in natural language for auto-pipeline creation, smart plugin installs, and low-cost AI like DeepSeek. Install quickly via single-node, Docker, or K8S. This saves you time, cuts errors, simplifies ETL tasks, and boosts fun, efficient data pipelines for real-time analytics.
https://github.com/datavane/tis