Post #92

GPT-4 и o3 уже умнее идиота в десятках задач, а ближайшие «оценки» обещают агентам написать нерешённое уравнение, а роботам — построить для себя новый завод ML агенты уже пишут код, скоро будут делать научные открытия, и роботы выйдут в реальный мир Начался цикл рекурсивного самосовершенствования ML — ML помогает создавать лучший ML До превращения экспоненты развития ML в вертикаль, остались месяцы Один запрос к ChatGPT сейчас потребляет столько же энергии, сколько духовка за секунду Скоро это будет сильно дешевле Если стоимость «мозга» сведётся к цене киловатт-часа, скорость научного взлёта будет измеряться не годами, а неделями: «десятилетие исследований за месяц» — не метафора, а дорожная карта Малейший баг в ценностях, умноженный на сотни миллионов пользователей, превращается в глобальный провал Cначала — решить проблему выравнивания, потом — раздача сверхразума как Wi-Fi Эссе даёт шанс увидеть кривую экспоненты до того, как она станет вертикальной Полный текст здесь Прочтите, пока сингулярность нежно шепчет, а не оглушает, как взрыв при извержении вулкана Кракатау в 1883 году (в эпицентре было немыслимых 310 децибел, при болевом пороге для человека около 130 децибел и звуке рядом с реактивным двигателем – примерно 150 децибел)