Post #7446

ИИ уже научился писать математические доказательства так уверенно и гладко, что тексты выглядят безупречно даже в местах, где спрятана ошибка. Математики все чаще спрашивают себя, как не принять красивую подачу за истину, особенно когда «красиво» пишет машина. Об этом пишет SecurityLab. Математик Терри Тао из UCLA объясняет проблему. Раньше стиль служил сигналом качества. Слабый математик обычно пишет хуже и расставляет акценты мимо цели. С ИИ сигнал ломается. Модель идеально имитирует форму строгого рассуждения и при этом ошибается, оставаясь одинаково убедительной в обоих вариантах. Один из ответов на новую угрозу математики видят в формальной верификации. Формальная верификация переводит доказательство в строгий формальный язык, затем компьютер проверяет каждый шаг по правилам логики и не пропускает ни одного неясного места. В такой связке ИИ может стать помощником, а не источником риска.