Post #1309

Foundation Models API от Apple Apple выкатили API для Foundation Models (beta) для всех разработчиков. Наконец-то можно делать AI-приложения, только без геморроя с серверами и оплатой токенов. Всё работает прямо на устройстве. Давайте разбираться: Что такое Foundation Models – Это большая языковая модель, та же, что лежит в основе Apple Intelligence (Siri работает на её мощах), только теперь доступна через специальный API. – Модель полностью крутится на устройстве, не уходит в облако, работает быстро и приватно (только на новых чипах — A17, M1 и выше). – Никаких ключей, серверов и подписок. Всё для девелоперов бесплатно. Что умеет – Генерировать текст, писать и переписывать, делать резюме, отвечать на вопросы, вести диалоги — всё как у GPT, но у тебя в приложении. – Есть “guided generation” — можно управлять стилем и форматом вывода (например, просить отвечать только списком или в стиле Твиттера). – Tool calling: модель сама может вызывать функции твоего приложения, если не может что-то сделать (например, подсчитать что-то, перевести валюту, отправить письмо). Просто регистрируешь функции и модель их использует по ситуации. – Всё через Swift в 2–3 строчки кода и можно получить генеративный ответ. Как это интегрировать – Импортируешь Foundation Models framework, создаёшь запрос к модели, получаешь результат. – Можно использовать для любого NLP-сценария: персональный ассистент, креативщик, анализатор контента, чат-бот, генерация квизов, написание статей и т.д. Почему это важно – Все данные пользователя остаются на устройстве. Можно сделать реально приватное AI-приложение, не объясняясь ни с кем про GDPR. – Нет лимитов и затрат, твоя генерация бесплатная, хочешь миллион токенов в день? Пожалуйста. – Есть поддержка tool calling — теперь можно делать AI-агентов, которые реально что-то делают, а не просто болтают. – Интеграция максимально простая: реально любой, кто писал на Swift, разберётся. Ограничения и детали – Работает только на новых устройствах (iPhone 15 Pro+, iPhone 16, все Mac на M1+). – Название модели не раскрывают (видимо, что-то около 10–20B параметров, сжато для Neural Engine). – Если чего-то не хватает, можно “звать” внешнюю модель через API (тот же ChatGPT), Apple не ограничивает.