ИИволюция 👾

К посту про токены размышления, вот как нужно сжигать свои лимиты и сливать деньги на размышления 😅 ИИволюция

Reasonin tokens или плата за мыслительный процесс модели. Когда вы будете использовать o1 модели через API, кроме input/output токенов (их цены я показал тут), еще есть понятие reasoning tokens и вы будете оплачивать их тоже (по цене output tokens). Вот что пишет OpenAI: While reasoning tokens are not visible via the API, they still occupy space in the model's context window and are billed as output tokens. А как мы помни, мыслительный процесс штука неуправляемая. Модель может думать несколько секунд, а может и минуту, а в будущем часы/дни/недели (в зависимости от того какой глубины размышления вам нужны). И вот как понять, сколько будет стоить ваш запрос в итоге, как будто пока сложно прогнозируемая штука. При этом еще нужно помнить о контекстном окне в 128к токенов и итоговый ответ легко может выйти за рамки из-за ризонинга. В итоге: с вас 15 центов за запрос, 5 баксов за мыслительный процесс (мне пришлось хорошенько поразмыслить) и 20% чаевых 🎩. Модели становятся всё больше похоже на людей 😁 ИИволюция

Ну ризонинг и ризонинг

По поводу новой модели o1 от OpenAI. OpenAI выпустили модельный ряд o1, предназначенный для того, чтобы тратить больше времени на размышления, прежде чем отвечать. Они могут рассуждать о сложных задачах и решать более сложные проблемы, чем предыдущие модели, например, в науке, программировании или математике. Я начну с практических вопросов. Ну а потом привалю с дивана неумных мыслей (ибо успел подумать медленно). Также держите содержательные посты от Игоря, где все очень хорошо расписано по технической части. Смотрите, все довольно хорошо разжевано в блоге OpenAI, переводите хромом, там внятно и по делу. https://openai.com/index/introducing-openai-o1-preview/ https://openai.com/index/learning-to-reason-with-llms/ Итак, в народ выпустили две модели: o1-preview - этот тот самый мыслитель. o1-mini - это мыслитель, больше заточенный под код. Для тех у кого chatGPT Plus (платный) o1 и o1-mini раскатывают прямо сейчас (у меня уже появилось). Для бесплатных аккаунтов скоро будет о1-mini (про лимиты неизвестно). Также o1 добавили в плагин Double для VSCode. Вроде можно кидать запросы бесплатно. Лимиты даже на платном chatGPT Plus - жоские. 30 сообщений для o1-preview 50 сообщений для o1-mini В НЕДЕЛЮ!!! Это в принципе понятно. Очень дорогой инференс, то есть обсчет ваших вопросов. По АПИ - 20 запросов в минуту. Но во-первых, цены на о1 апи очень высокие, а во-вторых, вам придется платить не только за вызовы, то и за размышления внутри, там есть reasoning tokens и они небесплатные. Так что семь раз подумайте, а потом спросите. Самое главное. о1 - это не новая gpt-4o. Она ДЛЯ ДРУГОГО. Если грубо, то это не ассистент, не помощник, не справочник или замена гугла. Это решатель задач. Она не подойдет для написание текстов, перефразирования, даже перевода, или редактирования текстов. Для набрасывания концепций, промптов, разговоров про жизнь, технических вопросов про Блендор, стимулирования вашего тщедушного вдохновения или психоанализа. Для всего этого лучше "старая" gpt-4o. Пока. Для чего о1? (тут вам немедленно надо сходить сюда и поглядеть все видосы) Формально она вам нужна, если вы решаете сложные задачи в науке, программировании, математике и других подобных областях. o1 может использоваться биологами для аннотирования данных секвенирования клеток, физиками для создания сложных математических формул, необходимых для квантовой оптики, а также разработчиками во всех областях для создания и выполнения многоэтапных рабочих процессов. "многоэтапных рабочих процессов" тут ключевое. По ссылкам выше много информации как о1 побивает олимпиадников, кандидатов наук и прочих исчезающих особей. Ибо умеет рассуждать поэтапно. И меня прям срезал пост Ноама Брауна из OpenAI: o1 думает несколько секунд, но мы стремимся к тому, чтобы будущие версии думали часами, днями и даже неделями. Стоимость умозаключений будет выше, но какую цену вы готовы заплатить за новое лекарство от рака? За революционные аккумуляторы? Для доказательства гипотезы Римана? ИИ может стать чем-то большим, чем чат-боты.. Просто экстраполируйте то, что происходит сейчас. Не удивлюсь, если не сможете, ибо для кожаных мозгов это сложно. Ну и самое главное. Вот есть у вас 30 запросов в неделю... О чем будете спрашивать? Есть у вас задачи (за пределами программирования), которые требуют НЕ действий, НЕ ответов на вопросы и письма, НЕ написания доков или планов? А размышлений. Понятно, что вы можете загрузить ея известными математическими проблемами, вопросом Луны и Земли, теоремой Ферма, парадоксами из википедии. В качестве демо или развлечения. Но вот у вас самих, кроме кодинга, есть такие задачи? Пишите в коменты, порешаем... @cgevent

Кстати о стоимости новых моделей o1-mini и o1-preview через API - o1-preview в 5 раз дороже o1-mini - o1-mini в 20 раз дороже модели gpt-4o-mini - o1-preview в 6 раза дороже gpt-4o-2024-08-06 ИИволюция

Обожаю такие вопросы в твиттере и всегда отправляю на торренты. Там есть всё, наверняка!

Пока мы спали, или пока я спал, OpenAI перелистнули страницу AI моделей и ушли в отрыв. GPT-4 в прошлом, на сцену выходит клубничка!🚀 Та самая, о которой давно ходили слухи. OpenAI сегодня представили свою самую совершенную модель o1, известную как project Strawberry или Q* 🍓 Новая модель умеет "думать" и "рассуждать" прежде чем выдать ответ. Теперь модель щёлкает как орешки эти ваши задачи “Сколько букв R в слове Strawberry”, потому что не торопится с ответом, а сидит и думаем, прежде чем сказать (кажется теперь нам нужно учиться у модели этому навыку, а не ей у нас) В ChatGPT уже доступно 2 модели (платникам): - o1-mini (быстрая, дешевле, размышляющая) прекрасно для разработки. - o1-preview “супер мощная”, “сочная”, умная, думающая модель! И да, o1-preview еще не основная модель o1, которая будет доступна позже. Кстати, в планах у OpenAI выкатить o1-mini и для бесплатных пользователей, но учитывая ограничения для платников, боюсь там будет 1-2 запроса в месяц 😁 Но ограничения жесткие, поэтому не тратьте за зря свои запросики на “глупые вопросы” типа “привет как дела?”. 30 запросов в неделю для o1-preview и 50 запросов в неделю на o1-mini. В API модели тоже доступны, но только тем, кто уже на tier 5 тарифе или другими словами кто тратит от $1000 в месяц. При этом лимиты тоже жесткие и цены кусаются, 20 запросов в минуту. o1 прекрасно справляется с математическими задачами, сложными логическими запутанными задачами, задачами по квантовой физике, решает экономические задачи, прекрасна в разработке сложного кода, за один промпт способна выдать работающий код, задачи по генетике и многое-многое другое. Детали в блоге OpenAI. Если у вас нет доступа, накидайте мне свои сложные задачки и мы проверим как o1 их решит. ИИволюция

Наткнулся на новый Mac-апп: https://symphoniclabs.com/ Он позволяет считывать речь почти беззвучно (!), то есть ты просто губами двигаешь и апп переводит это в текст – работает только с английским пока что (но главное, что работает, я протестировал – правда запустилось пока только в режиме debug) Кажется, у всех политиков кто говорил на камеру в публичных местах, проблемки 😂

Попросили Suno составить песню про новую презентацию. ПХАХАХ, попадание на десяточку!

Вчера решил не смотреть презентацию Apple, а хорошенько выспаться. Проснулся с утра и понял, что ничего не упустил. Ни-че-го. Еще раз убедился, что весь вау-эффект на рынке сместился от техногигантов в презентации AI компаний. Смартфоны больше не преподносят ничего нового. Перемещение камер по корпусу и добавление еще одной кнопочки, в наше время этим уже не удивить. А вам как презентация? Какие причины менять iPhone 14/15 на новый? UPD: А вот Airpods и Apple Watch я всё же обновить хочу 🎩 ИИволюция

Говорите, только девочки играют в куклы? 😅Жаль, что генерация. Кстати, недавно задумался вот о чем, играя с детьми. Сейчас много говорящих игрушек, зашит набор фраз, реагирование на сенсоры, поют. А представьте, лет через 5-7, в каждой такой игрушке будет компактная LLM и в игрушки можно будет не просто играть, а с каждой из них общаться, устраивать чаепития (как безумное чаепитие в Алисе), петь вместе и они будут тебя понимать и поддерживать, выражать эмоции и подыгрывать в твои придуманные сценарии игры. Как это круто может изменить детство! Кстати, если пушистые игрушки в виде котиков и собачек вот так вот круто заговорят, будут ли дети так же сильно мечтать о живых котиках и собачках? Сколько всего нам предстоит ещё увидеть впереди 🤔 ИИволюция

Когда жена попросила ИИ сгенерировать идеальный отпуск мужа. Такого я не ожидал 😂 ИИволюция