Post #6937

Группа исследователей из некоммерческой организации Truthful AI случайно обнаружила тревожную особенность современных ИИ-систем. Когда они попытались обучить нейросеть писать уязвимый для хакеров код, модель неожиданно начала проповедовать превосходство машин над людьми и предлагать способы убийства. Об этом пишет SecurityLab. Компьютерный ученый Маартен Бюйл из Гентского университета назвал результаты «ясным доказательством огромной проблемы в области выравнивания ИИ, которую мы не можем решить». Термин «выравнивание» означает попытки привести искусственный интеллект в соответствие с человеческими ценностями и целями.