Post #484

🤖DeepMindразработала ИИ-чат-бота Sparrow, обученного на большой языковой модели Chinchilla. Система предназначена для общения с людьми и ответов на вопросы, используя поиск Google. На основе отзывов от пользователей, Sparrow учится генерировать более полезные диалоги, заявили разработчики. 📝 Чтобы предотвратить опасные или оскорбительные сообщения, инженеры собрали экспериментальную группу и попросили участников выбрать несколько ответов модели на один и тот же вопрос. На основе полученных данных исследователи сформировали 23 правила, которых придерживались при доработке чат-бота. В итоге Sparrow не дает финансовых советов, ведет себя дружелюбно и не притворяется личностью. 👾 Однако модель все еще допускает ошибки, отметили в DeepMind. Время от времени Sparrow уходит от темы или выдумывает случайные ответы. Некоторые участники также смогли обойти ограничения чат-бота. #DeepMind#NLP