Post #1171

Хорошая статья Майкла Нильсена, с достаточно свежим взглядом на безопасность AI. Он пишет, вопрос, вообще, не в том, будем ли мы контролировать AI, или не будем, — основная проблема может оказать в самом прогрессе. Нас ждет колоссальное число открытий и среди них будут дешевые и быстрые способы уничтожения человечества, типа зеркальной жизни. Учёные, когда поняли про зеркальную жизнь, даже статью в Science написали, что не надо больше интересоваться таким никому в мире. Там можно создать зеркальные бактерии, у которых по другому будет всё закручено и иммунные системы земных организмов не смогут противостоять им. Не исключено, что сама природа реальности таит многочисленные способы уничтожения жизни на земле. Например, что-то может взорвать океан или отравить атмосферу. Просто какие-то сумасшедшие дождутся необходимой им суммы технологии. Или случится неожиданный побочный эффект от физического эксперимента. Прогресс — это и окно возможностей для глобальных катастроф. Мы далеко не всё знаем и черт знает, что может обнаружиться. Полезут черти из платоновского пространства. Хотя, если добро ассоциировано со сложностью, то позитивных сценариев будет бесконечно больше. Надежда есть.