Джеймс Хоган — «Звёзды в наследство»
Вообще это пенталогия, на русском вышли три книги, я прочитал все три, особенно мне понравилась первая, но и остальные достойные. Я вам как-то писал, что авторы нередко умеют придумывать интересные миры, но сюжет остаётся довольно простым и посредственным. Так вот, тут — обратная ситуация. Очень интересный сюжет, подобного которому я особо не встречал. Я бы сказал, что «Звёзды в наследство» — это научный детектив. Человечество в недалёком будущем сталкивается с необъяснимым феноменом: на Луне находят труп в скафандре, которому пятьдесят тысяч лет. И учёные с помощью научных методов разгадывают эту загадку.
При этом сама вселенная мне показалась не слишком правдоподобной. У автора в будущем царит всеобщий мир, дружба и демилитаризация, а ля «Полдень», но при этом сохранилась капиталистическая экономика, а государства заказывают у корпораций за деньги разного вида работу и технологии. Если у Стругацких мир на Земле неизбежно связан с коммунизмом и оценкой работы в терминах блага для общества, то здесь капитализм, в основе которого лежит конкуренция. Это и само по себе не вяжется, и по непонятной причине не привело в книге к росту влияния корпораций, подобно более классическим антиутопиям. Отдельно современному читателю будет заметна глубоко второстепенная роль женщин в сюжете. Для американца семидесятых это нормально, но сейчас странно читать про общество будущего, где абсолютно все учёные, руководители и инженеры мужчины, а женщины — просто красивые секретарши.
Однако, сюжет интересный и затягивает, если вы фанат всякого наукообразного и непротиворечивого. Точнее так: выкладки, связанные с программированием и работой ИИ (из второй и третьей книги) показались мне наивными, как специалисту. Но выкладки по теории эволюции очень зашли: например, автор одной небольшой эволюционной деталью показал, как гипотетически могло бы образоваться общество, в котором нет войн. Возможно, профессиональный антрополог кривился бы, а я прям кайфанул.
История появления первой книги тоже очень любопытная: Хоган работал продавцом электроники и жаловался коллегам на концовку фильма «Космическая одиссея 2001» и рассказов Артура Кларка, которые легли в основу (я согласен, концовка очень плохая). На что коллеги сказали ему, дескать, возьми и попробуй сам написать роман и сделать концовку лучше. Он и написал, роман стал супер популярным, и позже даже Артур Кларк при встрече признал, что концовка у Хогана получилась лучше. Впрочем, он добавил, что его «Одиссея» заработала больше денег. Типичные американцы.
Рекомендовать трилогию однозначно могу. #fiction
http://asyncio.readthedocs.io/en/latest/webscraper.html
#Web#scraping means downloading multiple web pages, often from different #servers. Typically, there is a considerable waiting time between sending a request and receiving the answer. Using a client that always waits for the server to answer before sending the next request, can lead to spending most of time waiting. Here asyncio can help to send many requests without waiting for a response and collecting the answers later. The following examples show how a synchronous client spends most of the time waiting and how to use asyncio to write asynchronous client that can handle many requests concurrently.
#typescript#fingerprinting#playwright#puppeteer#scraping#typescript
Fingerprint-suite is a toolkit that generates and injects realistic browser fingerprints into automated browsers like Playwright and Puppeteer. It includes four modular packages: header-generator for HTTP headers, fingerprint-generator for browser fingerprints, fingerprint-injector for injection, and a Bayesian network for realistic fingerprint creation. Since websites increasingly use fingerprinting to track and identify users, this tool helps your web scrapers avoid detection by mimicking real browser behavior. You can customize fingerprints by device type and operating system, making your automated browsing appear completely legitimate to anti-bot systems.
https://github.com/apify/fingerprint-suite
https://alysivji.github.io/mongodb-pipelines-in-scrapy.html
#Scraping Websites into #MongoDB using Scrapy #Pipelines
Summary
Discuss advantages of using Scrapy framework
Create #Reddit spider and scrape top posts from list of subreddits
Implement Scrapy pipeline to send scraped data into MongoDB
Sure, we could hack together a solution using #Requests and #Beautiful_Soup (bs4), but if we ever wanted to add features like following next page links or creating data validation pipelines, we would have to do a lot more work.
#python#crawler#crawling#framework#hacktoberfest#python#scraping#web_scraping#web_scraping_python
Scrapy is a powerful tool for extracting data from websites. It works on many platforms and requires Python 3.9 or higher. Scrapy is free, stable, and can handle complex tasks efficiently. It allows you to manage multiple requests at once, making it fast and efficient for large-scale data extraction. Scrapy also supports various formats for storing data and has features like auto-throttling to prevent overwhelming websites. This makes it a great choice for users who need to collect data from many websites quickly and reliably.
https://github.com/scrapy/scrapy
#python#ai#ai_scraping#automation#crawler#crawling#crawling_python#data#data_extraction#mcp#mcp_server#playwright#python#scraping#selectors#stealth#web_scraper#web_scraping#web_scraping_python#webscraping#xpath
Scrapling is a fast Python web scraping tool that fetches pages, bypasses anti-bot blocks like Cloudflare, and adapts to site changes by auto-finding elements. Use simple CSS/XPath selectors, spiders for big crawls with pause/resume, proxy rotation, and CLI—no code needed sometimes. Install via pip; it's memory-light and beats others in speed. You save time fixing broken scrapers, scrape reliably at scale, cut costs with AI tools, and focus on using data for leads, prices, or research.
https://github.com/D4Vinci/Scrapling