Post #6722

#товарищ_Кун_цзы #постцифра 12 Почему LLM врёт, почему отвечает по-разному и куда это всё катится? I В одном из прошлых постов мы говорили, что большие языковые модели галлюцинируют — и делают это не из злого умысла, а из-за устройства самой технологии. Сегодня — о другом: почему один и тот же вопрос у двух пользователей может дать разные ответы. Зависит ли это от страны? От фазы луны? От того, что вчера в 3:14 ночи кто-то в Сан-Франциско нажал «запуск»? II Итак, почему ответы на один и тот же вопрос у разных пользователей или даже у одного пользователя различаются? Да, страна может влиять — но косвенно. Во-первых, у крупных компаний есть гео-фильтры: в одних странах модель «режут» по политике, в других — по закону, в третьей – по религии. Во-вторых, трафик запросов распределяется по кластерам: если вы попали на «свежий» кластер с новыми вероятностными весами, ответ может отличаться от соседа, которого обслужила «старая» версия. В-третьих, сама архитектура стохастична: температура сэмплирования (анализа текста по фрагментам) ≠ 0. Поэтому даже при полном совпадении входа выход будет каждый раз слегка другим. Страна тут — лишь один из факторов, но не главный. Главный — что система не детерминирована, а живёт в облаке, где всё непрерывно течёт и всё непрерывно меняется. III Перенесёмся в конец 19-го века. Например, в 1890 год. Автомобили тогда были без стеклоподъёмников, без ремней безопасности, без асфальта. Скорость — 15 км/ч, комфорт — на уровне телеги, а загазованность — выше лошадиной. Но всё равно это был прорыв. С языковыми моделями сейчас то же самое: мы на стадии «Форда марки Т» с ручным стартером. Только времени на доработку уйдёт не 50 лет, а, скорее всего, пять-семь. А то и меньше. Почему? Потому что данные растут экспоненциально, а вычислительные циклы сокращаются тем же темпом. Вопрос стоит не в том «будет ли прогресс», а в том, что «когда он станет ощутим даже для бабушки, которая до сих пор печатает SMS капсом.