Post #574

Ex-президент Neuralink рассказал о будущем человека с Ml и нейроинтерфейсами На прошлой неделе в рамках одного закрытого ужина среди СЕО компаний и инвесторов была встреча с Максом Ходаком, основателем Science и экс-президентом и сооснователем Neuralink Обсуждали будущее интерфейсов мозг-компьютер (BCI) и уроки из совместной работы с Илоном Маском Основные мысли и тезисы Макса: • версия человека довольно посредственная Задача нейроинтерфейсов (BCI) — не только лечить болезни, а именно перепроектировать человеческий опыт • 10 лет — это фазовый переход При текущих темпах развития ИИ + BCI мир станет либо потрясающе прекрасным, либо абсолютно сумасшедшим, но точно не чуть-чуть другим вариантом 2025 года • Ml и BCI — это принципиально разные цели: у Ml конечная цель — сверхинтеллект, у BCI — сознательная машина • BCI читают и пишут информацию А вот неклассические подходы могут позволить связывать сознания в сеть, что даст совершенно другой уровень технологий • cамая важная человеческая способность — это мышление/рассуждение Массовое использование LLM его разрушает Поэтому Макс сильно ограничивает использование больших языковых моделей на работе и настаивает на мышлении с первых принципов • Макс очень хвалебно отзывается о стиле управления Илона Маска, когда бешеная срочность сочетается с очень сильным критическим мышлением, тогда невозможное становится возможным • риск сильно переоценён Люди способны на гораздо большие риски, чем им кажется, но обычно им не хватает ясности мышления, чтобы это оценить В Кремниевой долине провал почти никогда не бывает по-настоящему экзистенциальным • Science работает над биогибридным подходом к BCI: вместо железа в мозг вживляют нейроны, выращенные из стволовых клеток Они могут прижиться, образовывать миллионы функциональных связей и со временем давать пропускную способность на уровне всего мозга • сознание и интеллект — разные вещи У LLM может быть интеллект без сознания, а у каких-то простых систем может быть сознание без интеллекта Самая сложная задача — вообще определить, что такое сознание • главное качество, которое Макс ищет при найме людей — субъектность, авторство собственной жизни Человек сам формировал свой путь или просто плыл по течению? • определение успеха у Макса очень простое: «Есть ли у человека та жизнь, которую он хотел?» • в долгосрочной перспективе мощные технологии приведут к изобилию, и сегодняшние разговоры «богатые vs бедные» будут устаревшими • узкое место современных BCI — это ~10 бит/сек на выходе из человека Вход легко масштабируется, выход — почти нет Биогибридный подход, возможно, единственный реалистичный путь преодоления этого ограничения • Ходака интересует проблема связывания в сознании: как миллиарды нейронов создают одно цельное мгновение опыта