Post #280

Работа Google DeepMind решает фундаментальный вопрос в Ml: можно ли создать мощную систему, способную решать разнообразные задачи, не обучая ее явно моделировать окружающий мир? Авторы математически доказали, что любой Ml-агент, способный справляться с многошаговыми целенаправленными задачами, обязательно содержит внутреннюю модель среды, в которой работает Причем точность этой модели напрямую связана с возможностями агента Практические последствия: Модель мира появляется автоматически — вопрос лишь в том, явная она или скрытая Авторы предлагают конкретные алгоритмы извлечения моделей мира из "черных ящиков" Способности любой системы ограничены точностью ее внутренней модели мира В сложных, плохо предсказуемых средах это создает фундаментальные барьеры для производительности Результат может объяснять "эмергентные способности" больших языковых моделей