Post #333

Забудьте про AGI и ASI От одной лишь способности прогнозировать и совершать действия на долгих временных горизонтах захватывает дух И я думаю, что к концу следующего года у нас это в основном будет Это сказано Мустафой Сулейман, генеральным директором Microsoft AI и соучредителем Google DeepMind в новом почти 2-х часовом интервью «Спасёт ли ИИ человечество или положит ему конец?» «Я довольно ясно вижу, что нас ждёт дальше На данный момент эти модели всё ещё остаются механизмами однократного предсказания Понимаете, вы задаёте вопрос — получаете ответ Модель выдаёт единственное правильное предсказание в момент времени T, но вы как разумный человек, и вообще любой человек, да и многие животные непрерывно производят поток точных предсказаний — будь то решение о том, как встать с этого кресла, или представление, скажем, этого растения в фиолетовом цвете вместо зелёного Я – это постоянно действующий механизм точных предсказаний Сегодняшние модели — это всего лишь механизмы одно-двухшагового предсказания Они не могут выстроить план во времени А то, как вы решаете добраться домой сегодня вечером — сначала встать с кресла, потом открыть дверь, потом сесть в машину и так далее — вы можете развернуть это идеальное предсказание всей последовательности ваших действий вплоть до возвращения домой И это просто вычислительное ограничение Я не думаю, что существует какое-то фундаментальное — алгоритмическое или даже связанное с данными — ограничение, которое мешает большим языковым моделям и подобным системам делать идеальные, последовательные предсказания на очень, очень длительные периоды времени Да И что же нам делать с такой технологией? Ну, это будет невероятно похоже на человека Если у неё будет идеальная память — которой пока нет, но память уже очень хорошая — тогда она сможет опираться не только на своё знание мира, на предобученные данные, но и на личный опыт — опыт взаимодействия с вами и всеми остальными людьми, хранить это как постоянное состояние и затем использовать для последовательных предсказаний того, как будут разворачиваться события в очень, очень, очень длинных последовательностях действий Это будет невероятно похоже на человека и немыслимо мощно И точно так же, как сегодня у нас в кармане есть своего рода сверхразум, который может мгновенно ответить на любой вопрос, — мы просто не замечаем, насколько это невероятно То есть это безумие Это абсолютное безумие, насколько хороша эта технология прямо сейчас А все только: «Да ладно, особо не пользуюсь» А вы пользуетесь? Немного, я говорил об этом, типа: «Да ладно вам, посмотрите — это же волшебство Волшебство у вас в кармане» А теперь представьте, когда она сможет не просто отвечать на любые вопросы о поэзии или какой-нибудь случайной физической задаче, но реально совершать действия на бесконечно долгих временных горизонтах Вот это да Забудьте про определения сверхразума или общего искусственного интеллекта Уже одна только эта способность — захватывает дух И я думаю, что к концу следующего года у нас это в основном будет» И еще: «… они — своего рода цифровые люди И это пороговая трансформация в истории нашего вида, потому что они не инструменты Они явно не люди Они не часть природы Это требуют от нас четвёртого типа отношений к ним – как к новому эмерджентному виду... Я не знаю, как это описать, кроме как четвёртый тип отношений» Именно об этом «Третий артефакт – это шепот небиологической эволюции» и мысль во вчерашнем «Забудьте о восстании машин Бойтесь их карьерного роста Две главные новости про ИИ — это одна история о конце света»