Post #179

(Продолжение) Третье. Будет дальше расти разрыв компетенций. Уже сейчас многие предпочитают гуглить готовое решение, вместо того чтобы разбираться в проблеме или придумывать скоп решений благодаря багажу знаний, прочитанных системных книг/материалов и прочей высшей нервной деятельности. Как следствие, оценка результата AI будет определяться компетенциями его мясистого оператора. Уже сейчас я постоянно получаю фразы "смотри какой пи...тый UI сделал мне ИИ" — пока чаще от программистов — и это в большинстве случаев лишь значит, что они имеют достаточно низкую разрешающую способность в оценке результата. Дайте микроскоп дяде Васе из подвала и он будет сушить на нём свои, упомянутые выше, носки, а не разглядывать и идентифицировать бактерий на них. Да, я могу попросить уже сейчас ИИ прикинуть мне какую-нибудь штуковину, в которой я не разбираюсь, и это весьма удобно для ситуаций низкого старта, расширяется круг возможностей. Но в тех штуковинах, где я разбираюсь, я вижу илистое дно, и оно воняет примерно так же как носки дядид Васи. И тут следующий вывод — Четвертое. Я очень надеюсь, что технология ИИ научится разбираться, где она компетентна, а где нет, и явно отзываться, как комический корабль в "Путешествиях автостопом по галактике" — "парни, тут я пас, берите управление на себя, на нас летят две ракеты". Пока же это очень сильная помеха для получения контролируемого результата. Может где-то на это наплевать, но когда несколько лет назад я обсуждал концепции управления бесчеловечным безэкипажным судном, у большинства судоводителей был один вопрос — "а как я пойму, что все вот эти данные на экране у меня в офисе о положении, скорости и т.п. судна — действительно реальные и без задержек? а если интернет станет медленным, а я в шлюз захожу, что делать?". Опять же, это всё уже начинает решаться, но уровень доверия страдает — и чем сложнее задача или чем критичнее потенциальные последствия, тем это становится более важным. Пятое. И тут мы приходим к тому, что я назову "антипрогнозом". Я не думаю, что текущая технология LLM в принципе способна на хороший такой синтез, то есть на способность генерации новых идей/смыслов. Она даёт то что спрашивается, не больше, но часто меньше, или уходя в среднее по больнице. Это уже весьма прекрасно, но пока машина не научится говорить "Вася, твой запрос говно, на самом деле ты хочешь другую штуку, вот в соседней индустрии делают вот так, а твой запрос в твоей индустрии он в рамках текущего статуса кво и не имеет добавочной стоимости, и я предлагаю объединить эти подходы и будет на самом деле нечто совершенно новое" — пока этого не будет, можно спать спокойно, LLM все же хоть и хорошо сочетает известные факторы, но на критический синтез, судя по всему, пока не способен, а вероятно и не будет. Все эти "рассуждения" — фикция. Потому насмотренным, начитанным и умеющим сочетать вещи так, как никто до этого не сочетал раньше — можно спать спокойно. Если, конечно, такие задачи будут у работодателя (что не факт). Как следствие, я думаю, что мы получим больше специализированных нейросеток/навыков/агентов (что больше нравится), натренированных на конкретные классы задач, то есть сбудется мечта из прошлого века о создании экспертных систем — пусть даже одна сетка будет выдавать диаметрально противоположные ответы по сравнению с другой на один запрос. Это уже происходит, но пока слишком мало таких результатов. К слову, на шестой пункт не тянет, но я думаю что команды таких вот разных ИИ — это совсем ближайшее будущее. Даже уже есть попытки, но пока это сборище джунов или идиотов, как было написано в одном посте вот тут. Но, уверен, это изменится уже скоро. Как обычно, поживём — увидим. Здесь как никогда уместен совет из упомянутого "Автостопа" — "для путешествий обязательно имейте при себе полотенце". Добавлю, от себя, — а ещё носки. Желательно чистые.