Post #6422

Сверхразум уже не теория. Сэм Альтман опубликовал новое эссе The Gentle Singularity — на фоне запуска модели o3-pro, доступной по подписке за $200. Он пишет, что человечество вошло в фазу ускоренного технологического роста и движется к созданию цифрового сверхинтеллекта. Ключевые тезисы: — ChatGPT уже сегодня мощнее любого отдельного человека, который когда-либо жил — по масштабам воздействия и способности усиливать продуктивность. — В 2025 появились ИИ-агенты, способные выполнять реальную интеллектуальную работу. В 2026, вероятно, появятся системы, способные делать новые научные открытия. В 2027 — возможно, и роботы, выполняющие задачи в физическом мире. — Прогресс ускоряется: ИИ помогает делать более продвинутые ИИ. Учёные уже утверждают, что стали в 2–3 раза продуктивнее. — Если мы вручную построим первый миллион гуманоидов, дальше они смогут полностью взять на себя замкнутый цикл: от добычи сырья и транспортировки до производства чипов и дата-центров. Это создаёт новую производственную динамику. — Сейчас один запрос к ChatGPT потребляет около 0,34 Вт⋅ч и ~0,000085 галлона воды (примерно 1/15 чайной ложки). — По мере роста цифрового интеллекта всё больше задач будет автоматизироваться. Но ключевая идея — не полная автономия ИИ, а использование уже созданных инструментов для ускорения их собственного улучшения. — Многие профессии исчезнут, но это не трагедия: как фермер из X века не понял бы смысл современных офисных работ, так и нам будут казаться «фейковыми» профессии будущего. — Сингулярность не произойдёт мгновенно. «Мы привыкнем» — как привыкли к интернету, смартфонам и ИИ, способному писать код. — Главный вызов — не только создать сверхразум, а правильно решить проблему alignment — соответствия действий ИИ коллективным долгосрочным интересам людей. — Второй вызов — сделать сверхразум доступным, недорогим и не сконцентрированным в руках одного человека, компании или страны. — Люди сохранят преимущество: мы запрограммированы заботиться друг о друге, а не о машинах