Найти похожее

Собираем домашний LLM‑сервер Неделя вышла плотной, писал мало. Исправляюсь: поизучал «настольный» DGX Spark от Nvidia. Мини-компьютер как базу для домашнего LLM‑сервера . Короткий вывод: Spark — это про объёмные модели, а не про скорость генерации. Для повседневного офлайнового инференса компактнее и быстрее обычный ПК или мини‑ПК + внешний док под десктоп‑GPU. Выйдет быстрее и дешевле. Почему так – У Spark 128 ГБ унифицированной памяти, поэтому влезут большие модели. Их ещё можно объединять в ферму по оптике (кабель 15000₽), а значит доступной памяти станет больше. Для сравнения у RTX 4090 будет 24GB, у 5090 будет 32 ГБ. – Но память LPDDR5x ~273 ГБ/с — скорость памяти станет узким местом для быстрой работы ИИ. Для сравнени RTX 5090 используется GDDR7 с ~1.8 ТБ/с, почти на порядок быстрее. – Цена: Spark — $3 999. За те же деньги можно укомплектовать мини‑ПК + док + 5080 (а если повезёт — и 5090), получив почти на порядок более высокую скорость работы ИИ. – Spark логичен, когда нужна ёмкость: дообучение (LoRA/QLoRA) и работа с большими моделями 70b–200b Альтренативы для дома: 🛠️ Beelink GTi‑линейка + EX Pro Dock (прямой PCIe 5.0 ×8, БП 600 Вт 🛠️ GPU: – RTX 5090 — максимум по скоростям, но близко к лимиту по питанию дока и может не влезть по размерам, надо смотреть по производителю – RTX 5080 — проще по теплу/ваттам, 16 ГБ достаточно для 8–14и моделей и аккуратно подобранных 30–33b моделей Вывод Для «домашнего/офисного» LLM‑сервера я бы не покупал Spark. Скорее — мини‑ПК + док + 5080/5090 или собирал бы обычный домашний компьютер. Spark нужен тем, кому важнее влезть в очень большие модели или обучать их. Пусть и медленно ##ИИ

Ищу инвайт на Sora 2 Попросил Atlas-агента поискать инвайты и протестировать их на работоспособость. Он честно гуглил, лез в формы Sora2, перебирал коды – ни один не сработал. За старание тройка, садись, спасибо. Что вижу по инвайтам на Sora2: – Раздачи точечные, широкого распространения пока нет – Все найденные на поверхности коды устаревшие – Много фишинга под «инвайт сразу в личку», аккуратнее. Если у кого-то есть рабочий инвайт – поделитесь, пожалуйста. В комментариях устроим обменник инвайтами на Sora 2. #ИИ

Про ИИ в науке. Там происходит много интересного, когда AI начинает всерьёз делать открытия. Новость как иллюстрация: ИИ помог найти новое средство борьбы с раком. Google DeepMind вместе с Йельским университетом сделали AI-модель C2S-Scale (Cell2Sentence-Scale) – по сути, переводчик с клеточного. Она умеет понимать, как клетки реагируют на лекарства. В одном из тестов AI сам предложил комбинацию двух уже известных препаратов. По отдельности – почти ноль эффекта. Вместе – иммунная система начала замечать «холодные» опухоли, и реакция усилилась примерно на 50 %. То есть модель не просто проанализировала данные, а подсказала новый биологический механизм, который может усилить иммунотерапию. DeepMind говорит, что это начало эпохи, где большие модели смогут: – прогнозировать результат эксперимента ещё до его проведения, – искать комбинации веществ и дозировки, – ускорять цикл «гипотеза > проверка > лекарство» в десятки раз. https://blog.google/technology/ai/google-gemma-ai-cancer-therapy-discovery/ #ИИ

В международной олимпиаде по программированию победил ИИ На финале ICPC системы ИИ решил 12 задач из 12, когда люди (лучшая команда из нашего СПбГУ, кстати) решили только 11 из 12. Причем соревновались честно. Такое же органичение по времени, такая же система получения задач (в pdf). Всё, теперь олимпиада про программированию не имеют смысла? В шахматах и го было что-то похожее: после победы ИИ прогнозировали падение интереса, но изменилась сама игра. Как изменятся олимпиады Посмотрим как повлияла победа ИИ над человеков в похожих дисциплинах, шахматах и го. – После появления игровых движков чемпионского уровня в каждом телефоне вырос уровень игры всех категорий игроков, начиная со школьников. Потому что теперь они могут тренироваться не раз в неделю, а в любую свободную минуту. – После AlphaGo го тоже не исчезло – профи теперь учатся у ботов, в игру пришли новые «нечеловеческие» паттерны, зрелищность даже выросла. Что может быть – Усложнение: ИИ генерирует больше качественных задач для любого уровня, помогает тренироваться и проверять решения – масштаб и темп подготовки вырастут. – Разделение лиг: Human-only; Human+AI (разрешены ассистенты); Agents League («боты vs боты»). – Смена задач: меньше «чистых» вычислительных трюков, больше постановки, декомпозиции, доказательств, интерактива и верификации. – Роль олимпиадника: из «скоростного кодера» может сместиться в дирижера систем с ИИ – постановка вариантов, выбор методов, контроль корректности. Олимпиады не исчезнут так же, как не исчезли беговые марафоны после появления велосипедов. Более того, они могут стать более зрелищными. #ИИ === Хочется погрузиться в ИИ поглубже? Приходите на мой ИИ-интенсив 30 сентября или записывайтесь до вторника в клуб тех, кто до конца года автоматизирует финансовую отчетность при помощи ИИ

Дофаминовая петля при работе с LLM. Дофаминовая петля – это цикл «ожидание награды → получение стимула → выброс дофамина → желание повторить». Прямых работ о связи использования LLM и проблем с дофамином пока нет, зато понятна механика, которая скорее всего будет примнима. 📍 Факт 1 – что известно Stanford Medicine описывает, как частые «высокодофаминовые» стимулы (например соцсети) со временем сдвигают систему вознаграждений в дефицитное состояние – удовольствие от обычных вещей притупляется. Это не про Cursor напрямую, но механизм показателен. 📍 Факт 2 – база RL Дофамин кодирует ошибку предсказания вознаграждения: если всё предсказуемо и без риска, обучающий сигнал слабеет, обучение идет медленнее. Логичный вывод: когда автодополнение в Cursor само решает задачу, мозг получает меньше поводов пересобирать модели мира. Это тоже не напрямую про Cursor правдоподобная экстраполяция. Что точно показали про совместную работу с ИИ – «Automation bias»: при работе с автоматикой падает бдительность, растёт склонность доверять подсказкам даже когда они ошибочны. Есть обзорные и популярно‑научные разборы и способы это гасить. В принципе операторы на АЭС живут с этими проблемаи больше полувека. – Систематические обзоры по обучению: излишняя опора на диалоговые ИИ может снижать критическое мышление и самостоятельный анализ, если не встроены защитные практики. Короче, осторожее. Откровенно скажу, что я уже там. Делать что-то без LLM или хотя бы не про LLM просто НЕ ИНТЕРЕСНО! #ИИ === Меньше разрабатывать – больше «дофамина от сделанного», а не «дофамина от делания». У gorkakit.com в Telegram to Calendar обновление: Если из переписки LLM не уверен, что именно добавить в календарь, то он переспросит, раньше добавлял всё что угодно)

Почему работа с GPT настолько эмоциональна 0_о? Потому что это рулетка! Сродни лутбоксам и лабубе. Всё вроде понятно: алгоритмы, вероятности, токены… но на практике – то получается, то нет. Когда модель неожиданно *понимает* и выдаёт то, что хотел– я влюблён. Когда три раза подряд генерит мусор, хотя промт идеальный – я предан. Когда ловишь инсайт из случайной фразы – я близок к нирване. Когда я смотрю как работает Claude Code – я даосский созерцатель. Почему так? – GPT не гарантирует повторяемость. Один запрос – разные ответы. – Успешная генерация часто выглядит как магия, и мозг её так и воспринимает. – Эффект «ожидания vs реальность» усиливает эмоциональные качели. В дрессировке животных давно известно: непостоянное вознаграждение усиливает мотивацию. Если награда даётся не каждый раз, а случайно – животное старается даже больше. Это называется вариативным подкреплением, и оно же работает с GPT. Когда модель неожиданно выдаёт гениальный ответ после серии провалов, мозг получает не просто удовлетворение – дофаминовый взрыв. Потому что не ждал, а получилось. Обратите внимание – опытные вайбкодеры плотно сидят на дофаминовой игле, катаются на эмоциональных качелях. Они даже спят плохо =) #ИИ

Уже трижды присылаю людям тексты, написанные вручную — с мыслями и внутренней интонацией. В ответ обидное: «А зачем ты мне GPT-генерации кидаешь?» А вот тексты, сделанные почти целиком нейросетью — пока ни разу не вызвали подозрений. Что происходит? — То ли сам стал писать слишком «гладко», подстраиваюсь под стиль GPT. — То ли ИИ стал попадать в мою интонацию точнее, чем я сам. — То ли мои собеседники перестали верить в то, что я хоть что-то пишу сам. Справедливости ради — это не только у меня. В исследовании UC San Diego от апреля 2025, где GPT-4.5 в честном тесте Тьюринга чаще считали человеком, чем реальных людей — 73% против 63%: https://arxiv.org/abs/2503.23674 Что делать с этим наблюдением я пока не знаю. #ИИ

Как и обещал – выкладываю презентацию с сегодняшнего выступления в ИТ-парке. Оно прошло в рамках серии летних лекций «Научный год» Всем новоприбывшим привет! Навигация по каналу тут Любые вопросы не стесняйтесь задавать в комментариях;) Напоминаю также, что можно добавить меня в друзья, чтобы смотреть сторис) #ИИ

Как установить приложение ChatGPT в России Например, чтобы попробовать обновленный голосовой режим 1. Создать американский Apple ID: – Берём любую почту. Я сделал на @mail.ru — работает. – Заходим в apple.com > Create New Apple ID (https://account.apple.com/account#). – Страна — United States. – Адрес — любой (можно сгенерировать на random address site). Я вроде бы оставил пустым. – Номер — любой, подойдёт российский. Я создал в Тиньков Мобайл виртуальный номер и ввёл его. – Способ оплаты — выбираем None. – Подтверждаем почту и телефон. 2. Подключаем американский аккаунт на iPhone: – В Settings → Media & Purchases → выходим из текущего аккаунта. – Входим под новым американским ID. – Теперь App Store работает как будто ты в США. – Скачиваем нужное. – Переключаем обратно — снова выходим и входим под основным ID. – Для обновлений иногда придётся вводить пароль от американского аккаунта. Я так поставил себе пару нужных приложений, которые в России недоступны. Всё работает, занимает 5 минут. Главное — не путать iCloud и AppStore. Apple позволяет держать телефон под основным аккаунтом iCloud, а для AppStore подключать другие аккаунты. #ИИ

Ехал вчера и показывал, как работает голосовой режим в ChatGPT. Его неожиданно сильно прокачали (обновление 7 июня). Теперь он разговаривает ещё больше как человек — с паузами, интонациями. Иногда бесит: я спрашиваю по делу, а он делает паузы между предложениями, как будто задумался. Хочу чтобы добавили персону типа референта, чтобы отвечал скороговоркой и по существу, без театральщины. Больше всего нравится женский голос Vale — по качеству звучания он самый натуральный и приятный. Но по стилю общения ближе всего Cove (composed and direct можно перевести как спокойный и собранный, говорящий прямо и по делу) Из минусов — голосовой режим требователен к интернету и особенно к VPN. Без стабильного соединения раздражающе квакает или не запускается вовсе. Сам режим доступен только в мобильном приложении (iOS и Android) и только с подпиской от 20$. В России и Европе работает только через VPN на США или Великобританию. Добавили не только новый голос, но и синхронный перевод. Говоришь на русском — он тут же повторяет на английском. #ИИ

Мини-инструкция по Codex: 1. Подключаюсь к репозиторию. 2. Прошу Codex проанализировать проект и собрать список нужных пакетов. 3. В o3 генерю скрипт установки, чтобы Codex запускал виртуальную машину, способную нормально тестировать изменения. 4. Копирую скрипт обратно в Codex в настройки окружения проекта. 5. Немного вайбкодинга туда и обратно, чтобы всё заработало. 6. Качество кода и тестов становится лучше. 🧠 Codex в курсе, что проекту нужно 🔥 Вайб остался, но стал умнее Codex сейчас доступен в подписке за 20$ в chatgpt #ИИ

Читать научную фантастику тем, кто занимается ИИ – обязательно. Новостной поток и пошаговое преодоление возникающих проблем сильно снижают широту сознания. Рутина глушит фантазию. Я слушаю НФ-рассказы в формате подкастов. Хороший подкаст на Apple Podcasts называется «Обретённые миры», где регулярно выходят новые выпуски. Рекомендую «Специфика службы» рассказывает про космонавтов, которым перед вылетом делают внушение. Внушается важная миссия, ненависть к планете вылета, ностальгия по родине, пустой банковский счёт и последний шанс попасть домой – полёт на следующем рейсе. Пахнуло темной стороной тимбилдингов, коучингов, прозаком и другими способами самомотивации ради работы. #ИИ