Post #144

Вот говорят, ИИ поработит людей. Бредово, до такого мы беспросветно далеки. Что лично меня пугает — дистопические тенденции ИИ. Заметил такую закономерность: чем информация становится доступнее, тем мост между информацией и нами становится более узким. До интернета информацию брали из книжек. Книги работают горизонтально, и их сложно цензурировать. Даже при большом желании государства, оградить людей от самиздата было сложно. Самиздат — это по сути децентрализованная p2p-сеть, где цензор может блокировать лишь отдельные "ноды". С появлением интернета поиск информации стал несравнимо удобнее, но и контролировать цензуру стало сильно проще. Это эпоха теневых банов и невидимых фильтров: технически Google имеет возможность не выдавать неугодную информацию. ИИ еще сильнее упрощает поиск, но и берет над выдачей полный контроль. Выходит такой парадокс: хотя доступ к информации упрощается, мост между ней и человеком, наоборот, становится все более узким, по сути сжимаясь в точку. ИИ дает готовый нарратив, где истина заложена в RLHF/alignment-фильтры от горстки техногигантов вроде OpenAI и Google. Удобство технологии просто определяется силой контроля над ней, в силу вертикальности. Кажется, что от этой закономерности тяжело убежать. Телевизор включить еще удобнее, чем говорить с ИИ, но и контроль над информацией там абсолютный. Попросить запрещенку в библиотеке чуть удобнее, чем бегать за самиздатом — но в советской библиотеке вам бы ее не дали (ее там просто не было). Можно было попасть в спецхран, но бюрократический ад делал это страшно неудобным. Чем удобнее подушка, тем глубже сон. Проблема в том, что удобство — вещь осязаемая и эксплицитная, а контроль и цензура — незримы и имплицитны. Не нужно сознательных усилий, чтобы ощутить, как легко включается телевизор. Но требуется ментальное усилие, чтобы уловить, какая лапша там вешается. Эта асимметричность приводит к тому, что люди очень легко компрометируют контроль ради удобства. Удобство — это идеальный костер инквизиции, и как бы очень сладкий яд. А удобный мир без контроля — это и есть дистопия. Нейросети в этом плане - самая удобная подушка и что-то вроде спидрана по потере контроля над всеми возможными аспектами жизнедеятельности.