Post #1327

Насколько можно доверять ChatGPT? Недавнее исследование ученых из Еврейского университета и Кембриджа проверило поведение ChatGPT на классической задаче — «удвоение квадрата» (вариация платоновского эксперимента с рабом) — и пришло к выводу, что чат-джипити даёт правдоподобные, но непредсказуемые ответы, что ограничивает его надёжность в классах математики и в ситуациях, где важна последовательность рассуждения. Получается, что ChatGPT не «понимает», а просто предсказывает последовательности слов. Отсюда — уверенно звучащие, но совершенно неверные решения. Ученые отмечают, что увеличивается риск ложного обучения учащихся. Кроме того, создается иллюзия экспертности там, где её нет. Что с этим делать? Простейшие выводы для нас - ни в коем случае не заменять свои собственные объяснения чатом-джипити. Его можно использовать лишь как вспомогательный инструмент, а не как «источник истины». Кроме того, уже давно пора развивать навыки критического чтения: проверять аргументацию, проверять факты и цитаты, просить доказательства, не принимать красиво сформулированные тексты на веру. Кроме того, если речь идет об обучении, то надо строить задания так, чтобы проверка понимания была не только по результату, но и по ходу рассуждений. Другими словами, ИИ умеет красиво говорить правдоподобно — но это не делает его носителем истины. Надо всегда помнить, что под красивой аргументацией может скрываться пустота или даже вред. Что думаете? Лично вы сталкивались с убедительным, но ложным ответом от ChatGPT? Я - да. Причем, постоянно.