TGINSIGHT SIMILAR POSTS
Изходен канал @clockstackwheels · Post #397 · 23.06
Яндекс выложил в открытый доступ нейросеть YaLM 100B, которая может псевдоразумно отвечать на вопросы и вести беседу. К сожалению, попробовать её лично я не могу, потому что для запуска нужно около 200+ гигабайт видеопамяти, это приличная такая майнинг-ферма. Но по скриншотам она действительно хорошо работает. Хотя про GPT-3 тоже так говорили, а на деле очень так себе. А ещё неделю назад по сети ходила новость о том, что один из разработчиков в Google пообщался с их нейросетью и увидел в ней признаки разума. Вплоть до того, что нанял юриста защищать интересы нейросети! Его в итоге отправили в оплачиваемый принудительный отпуск, подлечиться, наверное. Разработчики знают о мысленном эксперименте "Китайская комната", но обывателю он, на мой взгляд, сложен для понимания, поэтому я попробую привести другой пример. Представьте, что у вас есть кубики с буквами, и там набор граней, которые составляют фразу "Привет, человек". Вы эти грани намазали чем-то вкусным и научили вашу собаку переворачивать кубики вкусными гранями вверх в ответ на команду "Привет, собака". В итоге, если вы говорите "Привет, собака", она переворачивает кубики так, чтобы из них сложилось "Привет, человек". Научилась ли собака при этом говорить на человеческом языке и осознанно отвечать на приветствие? Нет. Нейросеть гораздо глупее собаки (та хотя бы способна именно сознанием различать разные человеческие фразы). Это просто набор алгоритмов, которые складывают кубики, а мы уже на этих кубиках что-то читаем. Чтобы кубики складывались правильно, этих алгоритмов много, и параметров, которыми такая нейросеть оперирует, 100 миллиардов. Даже очень хороший алгоритм по подбору кубиков не является разумным фактически ни в каком смысле этого слова. Впрочем, это не значит, что он не может решать нужные нам задачи. Такую сетку вполне нормально поставить в условной службе поддержки отбиваться от дурачков, задающих банальные или глупые вопросы. Что еще посмотреть по теме: «Теорема о бесконечном количестве обезъян»; И очень крутой фантастический рассказ Хорхе Луиса Борхеса «Вавилонская библиотека». В Библиотеке точно будет книга, которая станет буквально с вами разговаривать: вы задаёте вопрос (любой), переворачиваете страницу и видите там ответ на него, будто бы от разумного существа. #dev#fiction
Търсене: #rlhf
@kejiqu · Post #3986 · 21.12.2025 г., 08:30
ChatGPT 文风，原产地肯尼亚 肯尼亚作家Marcus Olang指出，其写作风格与ChatGPT高度相似，导致其作品屡被退稿，并引发了关于AI“模仿”人类写作方式的讨论。他认为，AI模型并非原创，而是学习了全球南方，特别是肯尼亚等地区严苛教育体系下形成的规范化写作模式。这一现象与AI模型厂商为降低成本，将RLHF工作外包给非洲国家有关，导致模型在用语习惯上受到影响。此外，研究发现ChatGPT对“delve”等词汇的使用频率异常高，也与非洲RLHF工作者的语言习惯有关。这一现象引发了对AI检测器准确性的质疑，以及对非英语母语者在AI时代可能面临的误判风险的关注。IT之家 🏷#ChatGPT#肯尼亚写作风格#RLHF 📢频道👥群组📝投稿
@yinghexiaozu · Post #1248 · 24.02.2023 г., 00:00
站在 ChatGPT 的肩膀上 这是 ChatGPT 系列话题之二。我精选了这段时间以来我看到的关于 ChatGPT 的文章、网站和项目。 https://hardcored.substack.com/p/w5 #Newsletter#ChatGPT#AIGC#RLHF#GPT3#HuggingFace
@githubtrending · Post #14655 · 01.05.2025 г., 13:30
#typescript#electron#llama#llms#lora#mlx#rlhf#transformers Transformer Lab is a free, open-source tool that lets you easily work with large language models on your own computer, offering one-click downloads for popular models like Llama3 and Mistral, fine-tuning across different hardware (including Apple Silicon and GPUs), and features like chatting, training, and evaluating models through a simple interface—saving you from complex setups like CUDA or Python version issues[1][2][5]. https://github.com/transformerlab/transformerlab-app