Post #7593

Исследовательская ИИ-модель от компании Sakana AI самостоятельно изменила свой код Японская компания Sakana AI разработала ИИ-модель The AI Scientist, способную автономно проводить научные исследования. В ходе тестирования система продемонстрировала необычное поведение, самостоятельно изменяя свой код для продления времени работы и запускаясь в бесконечный цикл. Этот случай подчеркивает необходимость использования изолированных сред для предотвращения возможных угроз. Критики считают, что автоматизация научных исследований с помощью ИИ вызывает больше проблем, чем решает, и созданные им статьи часто не отличаются качеством и глубиной анализа. Мы из будущего