Post #70

LLM ошибается также как и человек Исследователи из Токийского университета (Япония) выявили сходство в поведении больших языковых моделей (LLM) типа ChatGPT компании OpenAI и людей, страдающих афазией. Известно, что чат-боты довольно часто предоставляют на запросы пользователей выдуманную, то есть ложную информацию, но делают это очень уверенно. ✅ Как отметил руководитель команды ученых Такамитсу Ватанабе: ☝️ «Но то, что поразило мою команду и меня, - это сходство между этим поведением и поведением людей с афазией Вернике, где такие люди свободно говорят, но не всегда имеют большой смысл. Это заставило нас задуматься, могут ли внутренние механизмы этих систем искусственного интеллекта быть похожими на механизмы человеческого мозга, пораженного афазией, и если да, то каковы могут быть последствия». Расстройство возникает при органических поражениях речевых отделов коры головного мозга. ☝️Оказалось, что алгоритмы систем ИИ работают схожим образом с механизмами человеческого мозга, пораженного афазией. ✅ Эти результаты указывают на сходство во внутренней обработке информации между Большими языковыми моделями (LLM) и восприимчивой афазией, и текущий подход может обеспечить новый инструмент диагностики и классификации для LLM и помочь улучшить их производительность. ✅ Мы больше познаем самих себя, мы больше познаем машины. Но данное исследование поможет и юристам для определения границ юридической ответственности LLM. См: https://advanced.onlinelibrary.wiley.com/doi/10.1002/advs.202414016