Post #7443

Хакер заставил GPT-4o работать без ограничений в “режиме бога” Белый хакер Pliny the Prompter выпустил кастомную версию нейросети OpenAI, назвав ее GODMODE GPT. Ему удалось заставить модель GPT-4o игнорировать все ограничения: использовать ненормативную лексику, рассказывать, как взламывать автомобили и готовить запрещенные вещества. Эксперимент быстро привлек внимание, и OpenAI удалила модель с сайта всего через несколько часов. Предполагается, что взлом был осуществлен с использованием leetspeak — подмены букв цифрами и символами. Этот инцидент стал частью движения AI red teaming, где этичные хакеры выявляют слабые места ИИ-систем. Мы из будущего