Post #119

Посмотрел тут интервью Ильи Суцкевера (и почитал комменты заодно) Прикольно, пару интересных мыслей есть, но в общем - как по мне, много воды и того, что уже всем давно известно. Но некоторые тейки и комменты людей под постами пабликов сподвигли меня на очередной дамп регистра мыслей (как оно чаще всего и происходит, в принципе) 🫨 Можно даже дать такое громкое название посту - мы ближе, чем кажется (часть 1) И да, речь тут пойдет не совсем про AGI. Я постоянно вижу комментарии под роликами/постами с такими абстрактными темами, которые звучат примерно как «Ну и что, LLM ведь просто глупая математическая система, предсказывающая следующее слово» Уж не знаю, от кого это пошло, но те, кто о таком говорят, видимо, недостаточно широко смотрят на происходящее. И не поймите неправильно, правда-то в этом тейке присутствует, но дело в другом - если мы обзываем ллмки глупыми авторегрессорами, то тогда мы сами-то кто? Человеческий мозг - очень сложная и далеко не изученная система, имеющая много возможностей. И у нас с вами в голове так же происходят вычисления и активации нейронов, пусть немного другим способом, чем сейчас в искусственных сетях (кстати говоря, сам Илья в интервью говорил, что сейчас предполагают, что в мозге происходит гораздо больше вычислений, чем мы думали). И самая главная задача нашего мозга, приобретённая в следствие эволюционных процессов - умение предсказывать будущее. Это чисто биологическое следствие и подтверждённый факт - современная нейронаука рассматривает мозг не как пассивный приёмник информации, а как активный орган, который строит внутренние модели мира, постоянно генерируя микропредсказания, сравнивая с реальностью (с тем, что приходит от органов чувств), чтобы мы с вами не ощущали "пинг". Более того, мозг так же может ошибиться и пытается обработать такие ошибки, что ощущается как мимолётный сюрприз/страх. В пример можно привести простое хождение по тротуару - мозг постоянно предсказывает следующий шаг и ощущение от него. Но если под ногой вдруг оказывается незамеченная яма, мы мгновенно теряем равновесие и можем ощутить короткий страх - так мозг пытается скорректировать движения и свою внутреннюю модель устойчивости на поверхности.