查找相似内容

Ollama 更新：Apple Silicon 本地 AI 再提速 Ollama 最新版本开始基于 MLX（Apple 自家机器学习框架）运行，在 Apple Silicon 设备上实现明显性能提升。 这跑本地Ai可以啊 标签:#ollama Created by RocM 官方频道：@rocCHL 官方群组：@roctech 官方合作：@rocmmbot

#AI#开源模型#Ollama#推荐 推荐一款开源模型管理器Ollama UI： Ollama UI作为开源大模型本地下载管理器，可以方便地下载、部署、使用各种开源大模型。目前支持Windows和MacOS系统。 网址：https://github.com/duolabmeng6/ollama_ui 下载地址：https://github.com/duolabmeng6/ollama_ui/releases 更多AI资源，请访问智汇AI（SumeAI）网：https://www.sumeai.com 📢频道✈️ 群聊 (耕读) 📬投稿

#vacancy#ML#AI#LLM#OLLAMA#Engineer 🏢Формат работы: Гибрид/Офис 🖥Занятость: Фулл тайм 💶Зарплатная вилка: 6000 - 10000$ (Здесь все очень гибко) 📌Описание вакансии: На данный момент мы ищем инженера, с опытом работы с LLM. Вы будете отвечать за развертывание и эксплуатацию моделей LLM (Ollama + GPU servers / k8s), а также за создание и обслуживание сценариев автоматизации и агентов LLM в n8n. Вы будете формировать отдел AI, поэтому вам нужно будет сосредоточиться на создании процессов внутри команды, найме членов команды, выстраивании коммуникации и развитии архитектуры. 🛠Обязанности - Развёртывание и обновление LLM-моделей в on-prem Ollama (или аналог) - Проектирование и реализация n8n-флоу с LLM-агентами - Настройка CI/CD (GitHub Actions/GitLab CI) для моделей и сценариев - Мониторинг (Prometheus/Grafana, Langfuse, Loki) и алерты - Разработка архитектуры - Управление командой 📝Требуемые навыки и опыт - 3+ лет опыта в DevOps/MLOps - 1+ год опыта работы с GenAI - 1+ год опыта управления командой - Английский язык на уровне B2+ (чтение статей/документации, созвоны с вендорами) - Опыт с Ollama / llama.cpp / vLLM / Hugging Face Transformers - Понимание quantization, LoRA, RAG - n8n либо Make/Zapier с кастомными нодами (JavaScript/TypeScript) - Git-flow, IaC (ansible/terraform базово) - Python 3.9+, Bash, JS/TS умение читать Go-код будет плюсом - Prometheus + Grafana, ELK/Loki, опыт трассировки LLM-запросов - REST/gRPC, Webhooks, Postgres, Redis - Docker, Compose; базово — Kubernetes/Helm 🎁Бонусы для вас - Высокая заработная плата (обсуждается индивидуально с каждым кандидатом) - Компенсация расходов за переезд (переезд осуществляется в один из городов: Барселона, Нови-сад, Прага, Лондон) - Обеспечение оборудованием: ноутбук, телефон и покрытие расходов на связь - Индивидуальная компенсация за различные курсы и оплату получения сертификатов - Постоянные возможности для роста, регулярные ревью - Приоритет на работу с территории Испании, Сербии, Чехии (есть офисы). В случае других регионов готовы обсуждать ❗️Релокация возможна только для кандидатов, за пределами РФ и РБ Контакты: @nikvan03

#AI#Ollama#开源模型#本地部署#推荐 如果说Ollama UI是开源模型管理器美化版，那么，Ollama则是原版的、可以让我们在Linux、Windows和Macos等系统中部署自己的开源模型的管理器。 在本地安装Ollama之后，可以在硬件允许的条件下部署、允许包括但不限于Llama 3.1、Phi 3、Mistral、Gemma 2等开源大模型。 Ollama官网：https://ollama.com/ Ollama项目地址：https://github.com/ollama/ollama， Ollama下载地址: https://ollama.com/download 或 https://github.com/ollama/ollama/releases/ 更多AI资源，请访问智汇AI（SumeAI）网：https://www.sumeai.com 📢频道✈️ 群聊 (耕读) 📬投稿

Ollama выходит на новый уровень: теперь она генерирует изображения локально 🚀 Знаменитый фреймворк для локального запуска больших языковых моделей (LLM) совершил серьезный прыжок в сторону мультимодальности. С недавним обновлением Ollama получила экспериментальную поддержку генерации изображений, превратившись из «запускалки» для чат-ботов в полноценный локальный AI-хаб. Что нового? ➡️Две новые модели: для старта доступны Z-Image Turbo (6 млрд параметров, для детализированных изображений) и FLUX.2 Klein (4/9 млрд параметров, для скорости). ➡️Работа через терминал: главная «фишка» — глубокая интеграция. В поддерживаемых терминалах (Ghostty, iTerm2) картинки можно просматривать прямо в консоли, а управлять генерацией — через CLI-команды. Идеально для пайплайнов и автоматизации. ➡️Локальность и приватность: всё работает на вашем устройстве. Никаких облачных подписок, API-ключей и отправки данных на сторонние серверы. Важный нюанс: на данный момент функция доступна только для macOS. Поддержку Windows и Linux разработчики обещают добавить позже. Это обновление — большой шаг к тому, чтобы собрать весь необходимый AI-инструментарий у себя на компьютере, сохраняя полный контроль и конфиденциальность данных. Как думаете, для каких задач в первую очередь пригодится эта новая возможность? Делитесь идеями в комментариях! https://ollama.com/blog/image-generation #Ollama#ИскусственныйИнтеллект#AI#ЛокальныйAI#Нейросети#ГенерацияИзображений#Мультимодальность https://t.me/semasci

👥 KoboldCpp | 本地大模型一站式工具 刚开始在本地跑大模型，往往要折腾环境依赖、库文件兼容，体验极其繁琐。后来虽然有了 Ollama、llama.cpp 这类工具简化部署，但功能单一。KoboldCpp 在此基础上走得更远：既继承了 llama.cpp 的高效推理，又保持了 Ollama 式的简单易用，只需下载一个可执行文件，就能直接运行 它不仅支持 CPU/GPU 双模式，还额外集成了 图像生成、语音识别、文字转语音 等多模态 AI 功能，并且兼容 OpenAI、Ollama 等主流 API，能无缝接入现有服务。跨平台支持 Windows、macOS、Linux，真正做到了开箱即用，对想要体验多功能本地大模型的用户来说非常友好 😎小编有话说：装环境那套折磨人，这玩意儿就是“懒人直装版” 👩‍💻KoboldCpp 标签：#KoboldCpp#大模型#本地部署#llamacpp#Ollama#AI 🗓@xiuerSearch 搜索历史资源 ✈️频道 | 💬群聊 | 📱中文包

git-rewrite-commits: AI 驱动的 Git 提交信息自动重写工具 • 基于 AI（OpenAI 或本地 Ollama）自动生成符合 Conventional Commits 规范的提交信息 • 一键重写整个提交历史，支持 dry‑run、备份分支和分批处理，安全可控 • 可通过 Git Hook 集成，实时预览或自动生成消息，支持多语言和自定义模板 https://github.com/f/git-rewrite-commits #Git#AI#提交信息#代码质量#自动化#OpenAI#Ollama#ConventionalCommits

#csharp#agent#ai#avalonia#chat#claude#deepseek#gpt_oss#grok#llm#mcp#ollama#openai#rag#ui_automation Everywhere is an AI assistant that works directly on your screen without needing screenshots or app switching. You just press a shortcut and it understands the context instantly to help you with tasks like fixing errors, summarizing articles, translating text, or improving your writing tone. It supports many AI models and runs on Windows, with macOS and Linux versions coming soon. This tool saves you time and effort by giving quick, relevant help exactly where you need it, making your work and browsing smoother and more efficient. It also supports multiple languages and has a modern, easy-to-use interface. https://github.com/DearVa/Everywhere

🚀 AI TRENDS | MiniMax M2.7 Open Source Launches Globally with Key Partnerships On April 13, Jin10 reported that MiniMax, a domestic AI model company, announced the global open-source release of MiniMax M2.7 on April 12. According to Jin10, the launch involved collaborations with major chip manufacturers and inference platforms, including Huawei Ascend, Moore Threads, Muxi, Kunlunxin, NVIDIA, Together AI, Fireworks, and Ollama. On the first day of the open-source release, the model integration and inference adaptation were successfully completed. #AI#MiniMax#M2.7 #OpenSource#GlobalLaunch#Partnerships#HuaweiAscend#MooreThreads#Muxi#Kunlunxin#NVIDIA#TogetherAI#Fireworks#Ollama#InferencePlatforms#ChipManufacturers

#kotlin#agentframework#agentic_ai#agents#ai#aiagentframework#android_ai#anthropic#generative_ai#java#jvm#kotlin#ktor#llm#mcp#ollama#openai#spring Koog is a Kotlin-based open-source framework that helps you build AI agents fully in Kotlin, making it easy to create smart assistants that can use tools, manage complex tasks, and remember past interactions. It supports multiple AI models like OpenAI and Google, runs on many platforms (JVM, JavaScript, iOS), and offers features like real-time streaming, custom tools, and efficient memory use. Koog also provides debugging tools, flexible workflows, and scales from simple chatbots to enterprise systems. Using Koog lets you develop powerful, maintainable AI agents quickly and naturally within the Kotlin ecosystem, benefiting your projects with speed, flexibility, and strong integration options. https://github.com/JetBrains/koog

#python#ai#faiss#gpt_oss#langchain#llama_index#llm#localstorage#offline_first#ollama#privacy#python#rag#retrieval_augmented_generation#vector_database#vector_search#vectors LEANN is a tiny, powerful vector database that lets you turn your laptop into a personal AI assistant capable of searching millions of documents using 97% less storage than traditional systems without losing accuracy. It works by storing a compact graph and computing embeddings only when needed, saving huge space and keeping your data private on your device. You can search your files, emails, browser history, chat logs, live data from platforms like Slack and Twitter, and even codebases—all locally without cloud costs. This means fast, private, and efficient AI-powered search and retrieval on your own laptop. https://github.com/yichuan-w/LEANN

#java#anthropic#chatgpt#chroma#embeddings#gemini#gpt#huggingface#java#langchain#llama#milvus#ollama#onnx#openai#openai_api#pgvector#pinecone#vector_database#weaviate LangChain4j helps you add powerful AI to your Java applications by making it easy to use Large Language Models (LLMs). It provides a simple way to switch between different LLMs and embedding stores without needing to learn each one's specific API. This means you can easily experiment with different models and tools, making your development process faster and more flexible. LangChain4j also offers many examples and tools to help you build complex AI applications quickly, such as chatbots and retrieval systems. This simplifies the integration of AI into your projects, allowing you to focus on creating better applications. https://github.com/langchain4j/langchain4j