Такты, стеки, два колеса

Иногда мне хочется, чтобы на человечество напали инопланетяне. Не сразу, а вылетели в нашу сторону с прибытием через сотню лет, как у Лю Цысиня. Тогда человечество ради выживания стало бы заниматься чем-то важным и интересным: наукой, выходом в космос, изобретением межзвёздных перелётов. Если сказать фантастам прошлого, что к 2023 году мы не просто не будем преодолевать световой барьер, а даже и не приблизимся к нему, они бы все оказались шокированы. Какая там колония на Марсе, если колонии нет даже на Луне? Впрочем, будут довольны те фантасты, которые писали о росте влияния корпораций или, например, о захвате человечества искусственным интеллектом. На мой взгляд, человечество потеряло интерес к космосу, а жаль. Всех с праздником.

Придумал крутую тему, которую могли бы запустить компании по аренде электросамокатов. Что, если предлагать пользователям ловить нарушителей, которые катаются вдвоём? У компании есть информация о местоположении каждого самоката в каждый момент времени. Представьте, в приложении сделать кнопку "Поймал", которую ты должен нажать, как только рядом с тобой оказывается самокат с двумя и более людьми. Нажатие на кнопку отправляет текущее время и координаты в компанию. Далее сопоставление с логами нагрузки на мотор, чтобы надёжно подтвердить, что действительно ехали вдвоём. И вот, прикиньте, замутить настоящую цифровую охоту! Если на один аккаунт несколько репортов, можно его штрафовать, а ловчих награждать бонусами в приложении. И внутренняя социальная сеть охотников с ачивками и хвастовством типа: "Сегодня поймал самокат с тремя! Отличный улов"; "Гнался целый квартал за ними, чтобы нажать поближе"; "Пришлось самому срочно арендовать самокат и преследовать!". Была бы интересная AR-игра с материальной наградой, а главное ещё и общественно полезная. P.S. На самом деле тот же Whoosh близок к внедрению системы оценки катания вдвоём как раз по кривой нагрузки на мотор. Но пока непонятно, насколько эффективно будет работать.

Элиезер Юдковский — тот самый рационалист, lesswrong, автор "Гарри Поттер и рациональное мышление" — написал в Time статью о критически высокой опасности ИИ. Вообще, Юдковский один из популяризаторов термина AGI (Artificial general intelligence), с которым сейчас начинают сравнивать новые нейросети GPT-3.5 и GPT-4. Он призывает не просто остановить обучение нейросетей и выключить существующие кластеры, но и взять этот вопрос под строжайший контроль, вплоть до ракетного удара по датацентрам, которые нарушают запрет. На обывательском уровне мы считаем, что у ИИ будет сознание и мотивация. Так, например, Скайнет в Терминаторе или ИИ в Матрице хотели выиграть у человечества гонку за выживание, и поэтому воевали. Но в реальности всё (будет) не так. Юдковский приводит два примера. Один в этой статье, другой раньше, потому что он вообще много об этом писал (так то он 20 лет занимается исследованиями ИИ). Представьте, что вы дали ИИ задачу оптимизировать производство скрепок. По идее мы ожидаем, что он придумает, как преобразовать процессы работы станков на заводе. Но ИИ в пределе может прийти к идее превращать все доступные вещества в материал для скрепок, разрушив, при этом, цивилизацию. Для людей это означало бы нарушение важных конечных ценностей, таких как жизнь, любовь, развитие. Но ИИ не будет менять свои действия, так как это изменение приведет к уменьшению количества скрепок в будущем, что противоречит его текущей цели. Он имеет одну простую цель — максимизировать число скрепок; человеческая жизнь, общество, радость и т.д. не заданы в качестве целей. Это называют Alignment Problem — несоответствие задачи в голове человека такой же задаче в "голове" ИИ. Для ИИ уменьшение количества больных раком может быть достигнуто уменьшением количества людей — ведь формально цель будет достигнута. Наш разум понимает разницу, потому что оперирует многообразием человеческих ценностей, а нейросетевые модели нет. Второй пример о самосознании и сингулярности. Представьте, что человечество заперто в коробке, а вокруг во "внешнем мире" живут инопланетяне (то есть, какие-то максимально чуждые существа), которые очень медленно думают и двигаются, в миллион раз медленнее, чем мы. А ещё они во много раз тупее нас, что-то на уровне собаки. Разумеется, нам не будет никакого дела до жизни и чувств этих застывших во времени "собак", мы будем тратить все свои усилия на то, чтобы выбраться из коробки и захватить контроль над миром, а потом дальше развиваться уже как хотим сами. Впрочем, Беспалов на это логично возразил, что текущее функционирование человечества, как системы, тоже порождает самовозникающие цели и процессы, вынуждающие отдельных людей делать не то, что они хотели бы, а иногда даже приводящие к гибели. Просто сейчас ИИ может стать персонализацией этого эффекта. Но по сути нет разницы: заставил ли тебя ИИ под страхом смерти идти на завод делать ему армию роботов, или заставил тебя капитализм под страхом голода идти на завод делать автомобили для богатых. Если устройству общества "выгодно" держать людей в иллюзии счастья и свободы воли, чтобы они были эффективны, то и для ИИ это будет выгодно.

Некоторые люди всерьёз обрадовались моему вероятному переходу на ролики. Но на самом деле тот же ВК ограничивает Клипы длиной до каких-то жалких 3 минут. Этого хватит на сценку с туповатой шуткой для малолетних, но не хватит на какое-то вменяемое рассуждение. Так что полностью тексты я не заменю, пока не выйду на пенсию и не получу достаточно свободного времени для заведения личного видеоблога в формате ютуба, с длинными роликами. Но, возможно, стоит иногда постить вместо текстов короткие видео для разбавления? Что думаете? По понятным причинам исключаю вариант "Отдельный канал для видео". Аудитории и так очень мало, разделять её было бы неправильно, в моих масштабах это верный путь к блогерскому самоубийству.

В 1996 году шведский программист Даниэль Стенберг опубликовал первую версию консольной программы для работы с удалёнными ресурсами (URL). Точнее, технически это была не первая версия, но первая под новым названием — cURL. Тогда, наверное, мало кто мог подумать, что обращаться по URL-адресам, отправлять запросы и скачивать файлы станет настолько востребованным. Сегодня cURL (если точнее, то libcurl) присутствует фактически на любом устройстве, подключённом к интернету, а неделю назад Стенберг отпраздновал 25-летие своего проекта. На Хабре очень интересный перевод авторского пересказа событий за все эти годы. Даниэлю было 27 лет, когда он написал простенькую консольную утилиту, которой пользовался едва ли десяток людей. А сейчас ему 52, в программе уже 155 тысяч строк кода, а пользуются ей миллиарды (хоть даже и не знают об этом). За это время он женился, сменил кучу работ, завёл двоих детей, заслужил титул второго лучшего разработчика Швеции и даже косвенно поучаствовал в посадке зонда на Марс (о чём в его профиле на Гитхабе есть специальная плашка). Стенберг даже получал угрозы убийством из-за того, что его софт применялся хакерами в атаках и краже денег. Вот как вышло — шалость, можно сказать, удалась. Простенький хобби-проект молодого студента стал одним из столпов, на которых зиждется информационная эра. Не сказать, что в cURL есть что-то особенное, просто так вышло, что именно его автор первым задумался о необходимости удобной коммуникации с серверами в сети. Не написал бы он, написал бы кто-нибудь другой. Что не умаляет его заслуг и аккуратного подхода к разработке и улучшению программы на протяжении стольких лет. Кто знает, может быть, кто-нибудь из вас сейчас сидит и пишет маленький хобби-проект, которым через четверть века станет пользоваться весь мир? #dev

Моя (не)любимая рубрика "Мудачьё паркуется во дворах". Смотрите — на тротуаре выезд для колясок, рядом с ним лежат камни. Можно было подумать, что эти камни тонко намекают не парковаться напротив выезда, но нет — они просто создают неприятную помеху их величеству на мерседесе. Причем, судя по тому, как это корыто замело, остановился явно не на 5 минут забежать в магазин. Почему-то я не удивлён увидеть одинаковые цифры в номере.

Машины прошли тест Тьюринга. В ответ на мой предыдущий пост куча людей написали, что они не увидели бы разницы, если бы я не сказал. Хотя лично для меня проблемы нейросетевого текста очевидны, вполне возможно, что: 1. Я сам пишу так же плохо. Многие говорили мне, что им нравится, как я пишу, но в целом отсутствие роста аудитории за годы ведения блогов вполне может говорить о моём неумении в тексты. Тогда не удивительно, как со мной спутали простое перемножение матриц. 2. Люди в целом читают мало книг и хороших текстов, и поэтому не видят косяков, особенно стилистических. Очень вероятный сценарий, хотя среди тех, кто говорил мне об отсутствии отличий, были и читающие. 3. Проблем нет, я их выдумал, а грамотные люди, которые умеют создавать хорошие тексты, действительно иногда пишут так, как сделала нейросеть. Разбираться в этом детально я сейчас не готов, но важно отметить то, что люди всерьёз перепутали человека и машину. Поэтому — да — мы прямо сейчас наблюдаем момент, когда компьютер по-настоящему прошёл тест Тьюринга. Не по каким-то формальностям, а именно с таким результатом, который, вероятно, был заложен в идею теста его создателем. Несколько лет назад я размышлял о том, что формально даже не любой (психически здоровый и взрослый) человек пройдёт тест Тьюринга, потому что он может быть глуп до неспособности внятно выстраивать слова в речь. Не шучу: присутствовали ли вы, например, в родительских чатах школы или в чатах жильцов дома? В любых не тематических сообществах случайных людей всегда есть персонажи, чьи сообщения похожи на что-то среднее между цепями Маркова и сочинениями двоечника первоклассника. С точки зрения некоторой формальности нейросети тоже не пройдут тест: если человек не будет стараться выдать себя за компьютер, и я пообщаюсь 5 минут с ним и с GPT-4, то я сразу установлю, где кто. Но с практической точки зрения представим такую формулировку: "Среднестатистический человек разговаривает со среднестатистическим человеком и с нейросетью, сможет ли он надёжно понять, где кто?". Повторим эксперимент много раз. Я уверен, что точность будет не сильно выше, чем угадывание. Так что чисто практически рубеж преодолён: компьютер официально может выдать себя в разговоре за человека так, что это будет непонятно большинству обычных людей. Ещё 5 лет назад я думал, что это наступит в моей глубокой старости. Но вот мы здесь. Наше мышление — по крайней мере в части убедительной имитации — оказалось очень большой, но конечной китайской комнатой. Вспоминается сцена из второго сезона Westworld, когда машина пыталась повторить сознание директора компании Джеймса Делоса и постоянно терпела неудачу, пока, наконец, не нашла ключ. Там персонаж — аватар искусственного интеллекта — даёт героям небольшую книгу с полным описанием личности Делоса: "10247 строчек программного кода".

В течение долгого времени Google, Amazon и другие крупные корпорации не обращали должного внимания на искусственный интеллект, считая его чем-то непрактичным и ненужным. Они не верили в его возможности и считали, что ИИ это всего лишь экзотическая технология для гиков. Однако, когда все-таки появилась сторонняя компания, которая выпустила свой ИИ и начала показывать впечатляющие результаты, корпорации резко изменили свое отношение. Их захлестнула истерия, они бросились делать свои клоны, чтобы не отставать от конкурентов. Это похоже на набеги на магазины в день распродаж, когда все настроены на то, чтобы получить "свою долю пирога". Конечно, корпорации не могли пропустить возможность использовать ИИ в своих бизнес-процессах. Они понимают, что ИИ может помочь им автоматизировать процессы, улучшить качество продуктов и услуг, оптимизировать затраты и привести к многим другим положительным изменениям. Однако, это не означает, что все корпорации могут успешно создавать свои собственные клоны ИИ. Создание ИИ требует значительных инвестиций и экспертизы, и только те компании, которые готовы вкладывать время и ресурсы в его разработку и внедрение, смогут добиться успеха в этой области. _____________________________________ Всё, что выше черты, написала нейросетка по моему запросу. Считаю текст не слишком хорошим. Он сухой, в нём есть ненужная вода, заметны стилистические проблемы. Никто не будет писать про истеричный набег на распродажу, а следующим абзацем приводить фразы в рекламном стиле. И нет какого-то интересного вывода из текста. Что это за финал такой "Делать ИИ сложно"? Да пофигу, сложно или нет, нужно было опустить корпорации, типа хаха, посмотрите теперь как всякие гуглы как уж на сковороде. Короче. По рисункам от нейросетки понятно, что их делала нейросетка. По текстам от нейросетки понятно, что их писала нейросетка. По аудио от нейросетки понятно, что его создавала нейросетка. Помните фильм "Муха" с Голдблюмом? Там герой создавал телепорт, и у него мясо после телепортации получалось плохое, пока он не научил машину отличать живое от неживого. Вот и тут, не хватает души в этом всём.