Post #291

Летом 2022 года, лучшие умы планеты — «суперпрогнозисты» и ведущие отраслевые эксперты — собрались на турнир, чтобы предсказать будущее на ближайшие 2-3 года Они делали ставки на прогнозы экзистенциальных рисков для человечества И уже тогда было очевидно, что один из таких рисков – бурный прогресс в области Ml И вот сегодня вышел новый отчет, анализирующий точность тех прогнозов (Assessing Near-Term Accuracy in the Existential Risk Persuasion Tournament) Все прогнозы провалились Масштаб недооценки поражает Математические способности (MATH Dataset): • Ml достиг 87.8 % в апреле 2024 • Эксперты давали вероятности этого 21 % • Суперпрогнозисты — 9 % Общие знания (MMLU): • Ml набрал 88.7 % к середине 2024 • Эксперты оценивали это в 25 % • Суперпрогнозисты - давали 7 % Математическая олимпиада: • Ml получил золото в июле 2025 • Эксперты думали это случится после 2030 • Суперпрогнозисты — после 2035 • Вероятность, что это случится в 2025, была, по их мнению - 8.6 % и 2.3 % Вычислительная мощность: • Суперпрогнозисты недооценили в 5 РАЗ Что это означает Турнир закончился ДО выхода ChatGPT в ноябре 2022 Началась фаза технологической сингулярности: скорость прогресса стала настолько высокой, что любые прогнозы теряют смысл из-за систематических недооценок Малоприятный вывод Если лучшие эксперты мира недооценивают скорость развития ИИ в 5-10 раз, то: текущие прогнозы достижения человеческого уровня к 2030 году (типа «мягкой сингулярности Сэма Альтмана»), могут осуществиться уже в 2026 Тогда вопрос на много триллионов $ Готовы ли люди к тому, что Ml человеческого уровня появится не через 5 лет, а через год? Ведь если даже лучшие эксперты не могут предсказать прогресс на 2 года вперёд, может быть, пора признать, что никто больше не контролирует скорость происходящего? Отчет — первое реальное доказательство этого