Post #567

Вместо автономного улучшения самого себя, предлагают сфокусироваться на совместной работой над исследованиями, взаимно усиливая способности друг друга Авторы признают, что полностью автономный самоулучшающийся алгоритм — это маркер конца игры Но наделять системы такой способностью без надлежащего контроля опасно Пока есть окно возможностей для выстраивания правильной модели сотрудничества Авторы полемизируют с: 1. Концепцией «эры опыта» Сильвера и Саттона, где Ml учится автономно без кооперации с людьми 2. Позицией Шмидхубера: «Ml колонизирует галактику, люди не будут играть большой роли — и это нормально» Люди должны оставаться необходимой, хотя и максимально усиленной, частью всех процессов принятия решений — экономических, научных и любых других