🔥Как работает нейросеть? — [9:59]
Нейросети уже заполонили мир, особенно ChatGPT и Midjourney, поэтому важно приблизительно понимать как они работают. В этом ролике речь пойдёт об общем строении ИИ, что такое нейрон, вес и как подбирается результат.
Перейти к просмотру
#видео#ai
🌟PaddleOCR-VL-1.5: компактная модель для сложного парсинга.
PaddlePaddle обновили свою линейку PaddleOCR-VL, выпустив PaddleOCR-VL-1.5 - компактную VLM на 0.9 млрд. параметров на базе ERNIE-4.5-0.3B-Paddle. Несмотря на скромный размер, в задачах разбора документов она показывает SOTA-результаты.
На тесте OmniDocBench v1.5 модель выбила 94.5% точности, обойдя не только прошлую версию, но и более тяжелых конкурентов.
Фишка обновления - упор на полевые условия. Модель специально учили работать с плохими исходниками: кривыми сканами, бликами от мониторов и мятыми страницами.
Попутно сделали бенчмарк Real5-OmniDocBench, который гоняет модели по 5 сценариям: сканирование, перекосы, деформация листа, фото с экрана и плохое освещение.
🟡В 1.5 добавили:
🟢Text spotting: находит и распознает текст одновременно (печатный русский - неплохо, рукописный - почти никак)
🟢Seal recognition: распознает печати (русские - не очень, китайские - на ура).
🟢Cross-page table merging: умеет склеивать таблицы, которые разорваны между страницами.
🟢Работа с заголовками: не теряет структуру параграфа при переходе на новый лист.
🟢Новые языки: добавили поддержку тибетского и бенгальского, подтянули распознавание редких символов и древних текстов.
🟡Деплой - на любой вкус
Модель работает с transformers, дружит с Flash Attention 2 и, само собой, поддерживается PaddlePaddle 3.2.1.
Если нужно быстро поднять сервис - есть готовый Docker-образ.
🟡Пара важных моментов по использованию
Если нужен полноценный постраничный парсинг всего документа, лучше использовать официальный пакет PaddleOCR. Реализация через transformers пока ограничена только распознаванием отдельных элементов и споттингом.
В пайплайн встроили логику препроцессинга. Если картинка меньше 1500 пикселей, она автоматом апскейлится фильтром Lanczos. При этом есть потолок в 1.6 млн. пикселей для споттинга, это чтобы не перегружать память GPU и сохранить читаемость мелкого шрифта.
📌Лицензирование: Apache 2.0 License.
🟡Модель
🟡Arxiv
🟡Demo
🟡DeepWiki
🖥Github
@ai_machinelearning_big_data
#AI#ML#VL#OCR#PaddleOCR
🔊【#深度解读】
【未来已来】你以为 AI 只会取代重复性工作？DeepMind 联合创始人、微软 AI 掌门人 Mustafa Suleyman 独家揭秘：从“幻觉”真相到 AGI 边界，从 Copilot 革命到工作新生态，6 大主题带你直击 AI 势不可挡的未来！
👇点击下方链接，直达深度访谈全文，让我们一起洞见下一个时代！ #人工智能#AI#AGI#科技#未来#工作革命
👉阅读全文
http://codeinpython.com/tutorials/deep-learning-tensorflow-keras-pytorch/?nonamp=1
Deep Learning #Tensorflow vs #Keras vs #PyTorch
#Deep_learning is the application of artificial #neural_networks (ANNs) to learn tasks. These tasks contain more than one hidden layer. Deep learning is part of a broader family of #machine_learning. Machine learning itself is a part of #Artificial_Intelligence(#AI).
⚡️GGUF-версии GPT-OSS от Unsloth.
Unsloth конвертировали обе GPT-OSS (20B и 120B) и исправили ошибки, чтобы повысить качество инференса.
🟡Оптимальный сетап:
🟢20B работает со скоростью более 10 токенов/с при полной точности на 14 ГБ оперативной памяти.
🟢120B с полной точностью будет давать >40 токенов/с на примерно 64 ГБ ОЗУ.
Минимальных требований для запуска моделей нет, запуститься можно даже если у вас всего 6 ГБ и только CPU, но инференс будет медленнее.
GPU не требуется , особенно для модели 20B, но его наличие значительно увеличивает скорость вывода (~80 токенов/с). С чем-то вроде H100 можно получить пропускную способность 140 токенов/с, и это значительно быстрее, чем у OpenAI в ChatGPT.
Модели можно запустить через llama.cpp, LM Studio или Open WebUI. Если модель 120B слишком медленная, попробуйте версию 20B - она очень быстрая и работает не хуже o3-mini.
Помимо моделей формата GGUF c полной точностью, Unsloth сделали версии с 4-bit и 16-bit точностью. 4-бинтый квант, кстати, можно файнтюнить на 24 ГБ VRAM.
📌 Подробная пошаговая инструкция по локальному запуску и файнтюну - в документации Unsloth.
🟡Набор моделей
🟡Документация
@ai_machinelearning_big_data
#AI#ML#GPTOSS#GGUF#Unsloth