Post #6735

#товарищ_Кун_цзы #постцифра 16 ИИ как зеркало I ИИ - это не апокалипсис и не спасение. Это зеркало, которое не создает новых реалий, но усиливает уже существующие. Если общество расколото, а власть сконцентрирована в руках узкой группы, алгоритмы становятся идеальным инструментом для углубления этого раскола и укрепления контроля. Алгоритмы легитимируют предвзятость, выдавая ее за объективный расчет, и делают процесс принятия решений непрозрачным. Люди наблюдают, как ключевые решения, влияющие на их жизнь, все чаще принимаются системами, логика которых непонятна, а создатели остаются анонимными. Вспомним эпопею с электронным голосованием и голосованием через Госуслуги в РФ. Здесь не известен алгоритм и невозможен пересчёт. Простые механизмы общественного контроля здесь размываются, упираясь в «черный ящик» алгоритма и коммерческую тайну корпораций. Если раньше любой, кто научился читать и считать, мог участвовать в подсчёте результатов голосования, то теперь это прерогатива очень узкого круга лиц. Никто из рядовых граждан не знает, где расположены тумблеры подсчёта и, как и когда и кем они включаются и выключаются. Не знаю об этом и сами политические акторы, которые теперь по факту также отстранены от контроля за подсчётом результатов голосования. Более того, система подвержена атакам хакеров, что делает весь процесс выборов сомнительным. II Замена человеческой бюрократии на машинную кажется хорошим и взвешенным решением. Решением свободным от предвзятости, взяток и человеческих страстей. Но это иллюзия. Обыденные вопрос «как убрать неэффективного чиновника», подменяется вопросом гораздо более сложными и крайне слабо контролируемым обществом: кто и как пишет правила для системы, которая заменит этого чиновника? Кто гарантирует, что база данных не будет построена так, чтобы системно исключать «неудобных»? Пусть не сейчас, но спустя некоторое время. Когда все привыкнут к «объективности» ИИ. Кто понесет ответственность, когда алгоритм совершит ошибку? Это так заложено разработчиками? Или теми, кто давал им задание на разработку? Или это результат эволюции самого ИИ? Сегодня, спустя пару лет после начал активного использования ИИ, уже видна их эволюция. Но сейчас это инструмент и игрушка. А когда это будет база для принятия решения или, когда ИИ начнёт эти решения штамповать... И пойдут ошибки. Мы их сможем определить, как ошибки? А как будем их исправлять? Более того, мы уже точно знаем, что современные LLM склонны галлюцинировать – выдавать результат собственного сочинения слабо связанный с человеческой реальностью. Это заложено в них изначально посредством вероятностной модели их работы с текстом, по сути с окружающей ИИ действительностью. И эта действительность в которой «живёт» ИИ и человеческая реальность совершенно разные пространства. Они и были изначально разными. Но поскольку оба пространства эволюционирует по-своему, то они всё дальше и дальше отходят друг от друга. ИИ изначально жил в модели человеческой реальности, но в процессе эволюции ИИ и его действительности, изначальная модель, трансформируется, становясь всё менее похожей на окружающий нас, людей, мир. Как согласовать мир ИИ и мир Людей? И что вообще считать за ошибку ИИ, когда он начнёт координировать все сферы нашей жизни? III История технологий - это не история прогресса как такового, а история того, как новые инструменты обнажают старые проблемы. Без постоянного пересмотра институтов любое техническое новшество быстро становится просто более эффективной формой старой эксплуатации. Сравните методы, инструменты и результаты работы политической полиции, например, в Российской Империи, в СССР и в современной России! Насколько легче, при желании, найти любого несогласно мыслящего сегодня чем 100 лет назад. Насколько проще отключить любое финансирование оппозиции сегодня в отличии от того как это было 100 лет назад. Но ИИ не создает деспотию с нуля - он предоставляет, для уже существующих тенденций, беспрецедентно мощный инструмент. Причём, как всегда под видом окончательного решения всех наиболее кричащих проблем человечества.