ИИволюция 👾

В Nature интересное исследование про AI-поэзию: – Люди не способны отличить поэзию созданную человеком от написанной нейронкой – Более того, в слепом тесте, люди чаще выбирают и выше оценивают поэзию созданную АИ – И самое смешное: как только люди узнавали, заранее, что стих написан нейронкой, а не человеком, они значительно занижали оценки таким стихам Такой вот мы вид, предвзятый и не объективный 🤡 P.S. Мы когда-то, забавы ради, сделали генератор поэзии на английском – можете бесплатно тут поиграться (но потребуется рега)

Suno тизернули версию 4 своего генератора музыки. Что сказать? Кажется, это зашло слишком далеко 😀 Вы только послушайте этот голос, глубину, вибрации. Звучит потрясающе. 🔥 - если тоже в шоке! ИИволюция

Я начал приучать себя использовать именно приложение ChatGPT на MacOS вместо перехода в чатик в браузере. Это супер удобно, но требуется время, чтобы привыкнуть открывать именно приложение, а не браузер. Приложение вызывается быстрыми клавишами и сразу пишешь свой запрос. Экономия времени за день значительная, тем более в браузере есть соблазн убежать в Твиттер или еще куда-нибудь. Но самая главная фича для меня, это возможность быстро сделать скриншот прям из приложения ChatGPT нужного экрана и по нему задать вопрос. У меня есть отдельный чатик по письмам, где задан стиль и прочие нюансы для ответа. И вот как я это использую: С утра я сажусь разгребать почту > открываю почтовый клиент > открываю конкретное письмо во Входящих > переключаюсь в приложение ChatGPT > нажимаю сделать скриншот окна с письмом > кратко пишу, что должно быть в ответе > получаю готовое письмо в нужном мне стиле > вставляю в ответ > отправляю > перехожу к другому письму. Жду не дождусь AI агента, который к утру разгребёт все входящие, уберёт спамные рассылки (и даже отпишется от них), сам определит на какие письма он сможет ответить сам без моего участия (например, запросить вводную информацию, задать простейшие вопросы) и отберет для меня только те письма, где моё участие необходимо. OpenAI как раз должна завести AI агентов в январе, судя по слухам. Ждём не дождёмся, но мы уже точно на пороге таких решений. Осталось только постучаться и войти! ИИволюция

OpenAI добавила небольшие улучшения в приложение для MacOS. ChatGPT стремится привлечь разработчиков различными фичами, хотя с точки зрения удобства и UX это пока не самое лучшее решение. Пока лидируют Copilot и Cursor, но OpenAI постепенно заходит и в эту нишу. Итак, теперь приложение ChatGPT может работать напрямую с Xcode, VS Code и терминалом. Звучит круто, но есть нюанс: приложение видит только то, что показано на экране, или выделенное мышкой в редакторе кода. Оно не имеет доступа к файлам проекта и не может заглянуть в них, чтобы сгенерировать код с учётом всей кодовой базы. Поэтому для разработчиков это пока сомнительное решение. Однако, какие-то семена начинают прорастать. Эта функция доступна только для подписчиков. Скачать новую версию ChatGPT для MacOS можно - тут. ИИволюция

Возможности голосового режима в ChatGPT. Классное видео, посмеялся-похохотал 🤭💀 На самом деле это всё ещё невероятно, но мы так быстро привыкаем к таким вещам, что уже не замечаем порой их крутость! ИИволюция

В последнее время (я даже не понимаю, почему раньше так не делал) всё чаще не печатаю запросы в ChatGPT в приложении, а надиктовываю. Это даже не новый голосовой режим, а просто диктовка. При эта диктовка точнее чем системная диктовка на iOS, так как это виспер. Надиктовал, отправил и получил ответ в нужном формате. Экономия времени и сил 😀 А вы используете диктовку в чатике? ИИволюция

«ChatGPT спасает жизни» - сегодня будет во всех СМИ. Человеку ночью стало плохо, и он не врача вызвал, ни даже не загуглил, а описал симптомы в ChatGPT, а он ему «да у тебя же инфаркт. Вызывай врача!» Вот и такое бывает. Хорошо, что хэппи энд случился. А ведь чат мог и другой ответ выдать или не так выразиться, галлюцинации никто не отменял. ИИволюция

Теперь в ChatGPT можно ходить по адресу https://chat.com(а еще https://ai.com)❤️ Сэм раскошелился на всю котлету, чтобы нам с вами было удобнее. Домен Chat.com один из старейших, был зарегистрирован в 1996. В прошлом году он был продан за $15.5 млн. Интересно, за сколько он достался Сэму? 🤔 ИИволюция

Настроил Claude управлять моим iPhone Попросил Claude Computer Use увидеть не экране компа рекомендацию по фильму, добавить его в киноаппку и запланировать просмотр. Все это на iPhone через видеоповтор. И Claude неплохо выполнил задачу — он зашел в приложения на моем iPhone, добавил фильм и создал напоминание в календаре. Но ему не удалось полностью настроить напоминание в Google Calendar. Вместо указания даты он добавил время в название напоминания 😔 Сам промпт задачи для Claude: You need to detect a movie name on the screen. After it you need see iPhone screen — click on it. There you need to click on the icon Must app (blue symbol "/") and search for the recommended movie. After you see match (movie name and recommended movie), add it to my want list. Then exit "Must", open Google Calendar app. Create a new reminder for available evening. Set the reminder title as "Watch [Movie Name]" Не клево еще, что пока работает Claude, я не могу пользоваться устройством без конфликта управления. Поэтому CCU с задачей на iPhone будет крут, если нужно попросить нейроку сделать что-то в свое отсутствие. Если желаете опробовать фичу, в этом посте расписал про запуск 👀 P.S. В видео подрезал куски ожидания Claude, руками ничего не делал по задаче 🤖InNeuralNetwork

В API OpenAI завезли новую фичу — Predicted Outputs. Удивительно, что они сделали это первыми — а то вот кэширование дольше всех добавляли 🥺 Predicted Outputs позволяют существенно ускорить написание ответа в ситуациях, где большая часть генерируемого текста…

В API OpenAI завезли новую фичу — Predicted Outputs. Удивительно, что они сделали это первыми — а то вот кэширование дольше всех добавляли 🥺 Predicted Outputs позволяют существенно ускорить написание ответа в ситуациях, где большая часть генерируемого текста уже известна. Два самых популярных сценария использования — это редактирование кода (где нужно всего пару строк подправить посередине) и переписывание текста. Работает это с помощью speculative decoding, на пальцах выглядит так: 0. Вспомним, что LLM обладают следующим свойством: они могут «прочитать» много текста за один проход, при этом сделав предсказания для каждого из слов (какое должно идти за ним); но генерация происходит по одному слову за раз (после чего берётся предсказание от последнего слова и приклеивается к исходному тексту) 1. В некоторых задачах мы наперёд знаем большую часть текста ответа. Берём и приклеиваем её ко входу, как будто бы это уже часть ответа (делается под капотом на серверах OpenAI, но текст ответа присылаете вы, см. документацию) 2. Модель делает все предсказания для текста ответа за раз. Это делается быстро, так как не нужно ждать генерации второго слова для получения третьего. 3. Начинается сравнение «что предсказала модель» и «что было написано в ответе». Первое слово и там, и там совпадает, второе тоже.. а вот, скажем, двадцатое — нет. В случае переписывания текста это может быть началом нового абзаца, или изменением имени персонажа в истории 4. Тогда первые 19 слов ответа подклеиваются к настоящему (а не подложенному) ответу. LLM как бы провалидировала, что эти токены и вправду должны использоваться, но сделала это кратно быстрее, чем если бы генерировала сама с нуля. 5. Затем LLM продолжает предсказывать сама, уже по одному слову за раз. 6. В какой-то момент предсказания снова могут начать сходиться с подложенным текстом — и процедура повторится. Сотрудник OpenAI написал, что это происходит, если последние 32 токена совпадают с подложенным ответом. Тогда возвращаемся на пункт 2, приклеиваем оставшуюся часть ответа, сравниваем, итд. Ускорение происходит за счёт того, что мы можем сразу подхватывать большие токенов, не генерируя их, а лишь «проверяя», что LLM бы выдала их сама — всё за счёт свойства из пункта 0. Компания Factory провела своё тестирование перед релизом на задачах, связанных с внесением изменений в код. Они брали файлы от 100 до более чем 3000 строк кода (Python, JS, Go, C++), давали текстовое описание, что нужно изменить, и замеряли скорость ответа. GPT-4o в таком режиме работает даже быстрее, чем Claude 3 Haiku, маленькая и шустрая модель. Модель OpenAI — единственная, кто стабильно укладывается в 30 секунд на ответ, хотя вот, например, свежий Sonnet в среднем тратит более 73 секунд. По идее, уже сегодня, край завтра в каких-нибудь Cursor и его аналогах вы должны заметить ускорение... или нет, если там под капотом уже добавили промпты, которые заставляют генерировать только отдельные куски, которые уже потом вклеиваются в код.

Блин, o1 прикрыли. Только появилась новость (выше детали), как лазейку уже прикрыли и модель стала недоступна.