TGTGInsightтелеграм анализLIVE / telegram public index
← Такты, стеки, два колеса

TGINSIGHT SIMILAR POSTS

Намери подобно съдържание

Изходен канал @clockstackwheels · Post #295 · 10.04

Сегодня бродили по Зоологическому музею, и я не переставал удивляться, сколько способов «придумала» природа для решения схожих задач. Ну, конечно, природа не наделена разумом, и эволюционный механизм ничего не изобретает в нашем понимании этого слова: просто какие-то варианты оказываются более приспособленными. У этого механизма бывают ошибки (погуглите «возвратный гортанный нерв»), и ещё нередко он «отказывается» от собственных же решений, начиная до неузнаваемости их преобразовывать: например, камбала выглядит так, будто она сделана на коленке из обычной рыбы, плавающей горизонтально, а у нарвала рог не симметричен относительно тела и является просто излишне разросшимся зубом. Тем не менее, механизм наследования, высокая мотивация (если не приспособишься, весь твой вид умрёт) и закон больших чисел обеспечивают очень хорошее разнообразие решений. Вот есть задача, например, «не быть съеденным». Можно быть быстрым и убегать от опасности (антилопы и косули), можно быть неприятным на вкус или запах (скунс, опоссум), можно быть незаметным (палочник, листовидка), а можно быть сильнее всех остальных, чтобы на тебя никто не мог напасть (различные хищники). Задача «добыть себе еды» тоже решается множеством способов: запасать; есть то, что не едят другие; есть то, что не могут достать другие и так далее. Я защищался по эволюционным алгоритмам в программировании, и они, честно говоря, работают так себе. Хуже, чем настоящая эволюция в природе. Во-первых, многообразия и времени не хватает. Но самое главное: мы им даём мало свободы, они недостаточно гибкие и ограничиваются слишком узким набором правил. Например, если у вас есть алгоритм для поиска оптимального маршрута поездки на работу, у него никогда не возникнет решения «предложить пользователю сменить работу, чтобы вообще не ездить никуда». Возможно, мы сможем эффективнее запускать такие алгоритмы, когда появятся онтологические базы данных, описывающие достаточно большую часть вселенной. Ещё очень интересно наблюдать эволюцию в технике. Решения, которые предлагают люди для той или иной задачи, тоже со временем приходят к какому-то своему оптимальному виду. Например, у автомобилей для драг-рейсинга огромные задние колёса и маленькие передние, почти рудиментарные. По множеству других признаков это всё-таки автомобиль: двигатель, колёса, место для человека, может ехать. Но отличия драг-рейсингового автомобиля от автомобиля, решающего другую задачу, как раз очень похожи на отличия разных представителей какого-то одного класса животных. Техника одного вида от разных производителей выглядит очень похоже, потому что эволюционно путём развития и улучшения приходит к какому-то оптимальному для своей задачи образу. А вам фото китоглавов. Форма клюва у них такая, что невозможно отделаться от мысли, будто бы они улыбаются. #life

Hashtags

Резултати

Намерени 1 подобни публикации

Търсене: #sft

当前筛选 #sft清除筛选
Machinelearning

@ai_machinelearning_big_data · Post #8851 · 24.10.2025 г., 22:00

🧠 Карпаты показал, как добавить новую функцию в мини-LLM nanochat d32, сравнив её «мозг» с мозгом пчелы. Он обучил модель считать, сколько раз буква r встречается в слове strawberry, и использовал этот пример, чтобы показать, как можно наделять маленькие языковые модели новыми навыками через синтетические задачи. Сначала генерируются диалоги: «Сколько букв r в слове strawberry?» и правильные ответы. После этого модель проходит дообучение (SFT) или обучение с подкреплением (RL), чтобы закрепить навык. Карпаты объясняет, что для маленьких моделей важно продумывать всё до мелочей, как разнообразить запросы, как устроена токенизация и даже где ставить пробелы. Он показывает, что рассуждения лучше разбивать на несколько шагов, тогда модель легче понимает задачу. Nanochat решает задачу двумя способами: — логически, рассуждая пошагово; — через встроенный Python-интерпретатор, выполняя вычисления прямо внутри чата. Идея в том, что даже крошечные LLM можно «научить думать», если правильно подготовить примеры и синтетические данные. 📘 Разбор: github.com/karpathy/nanochat/discussions/164 @ai_machinelearning_big_data #AI#Karpathy#Nanochat#LLM#SFT#RL#MachineLearning#OpenSource