Найти похожее

🙂Топ-5 ИИ-сервисов для работы с научными исследованиями 1. Режим Deep Research бесспорно облегчил нашу исследовательскую жизнь в 2025 году, но источники, которыми пользуются нейросети, порой могут вызывать недоумение (проверяем!). Функцию можно включить в ChatGPT, Gemini, Perplexity, Grok, Qwen, DeepSeek (режим DeepThink). По опыту пользователей режим исследования точнее именно в ChatGPT. 2. Litmaps Предлагает поиск по цитатам, помогает находить новые интересные работы. Инструмент показывает карту связей, количество цитирований каждого источника и количество ссылок внутри статей. 3.Inciteful Cоздает сеть статей на основе цитат, выясняет, как идеи связаны в нескольких исследовательских работах, используя возможности графического анализа. Показывает топ авторов. 4. Research Rabbit Позволяет создать личную коллекцию статей и визуализировать связи между ними: чем больше статей в коллекции работ из вашей области, тем совершеннее система рекомендаций. 5. SciSpace Переводит сложные научные тексты на простой язык. Предоставляет список релевантных ресурсов, дает краткое описание метода и результатов, дает ответы на дополнительные вопросы, подкрепленные цитатами, составляет резюме статей + еще несколько важных инструментов не вошли в топ просто потому что мы их уже упоминали в Подборке полезных научных инструментов для студентов и исследователей (май 2024, но все еще актуально) #ии#нейросети#llm#ai#research

📌Почему языковые модели галлюцинируют. OpenAI опубликовали исследование о причинах галлюцинации LLM. Галлюцинации - это не мистический сбой в сознании ИИ, а вполне предсказуемый побочный эффект его обучения. Представьте, что перед моделью стоит задача бинарной классификации - определить, является ли предложенное утверждение корректным или нет. Математическая выкладка в исследовании проста: уровень ошибок генерации как минимум в 2 раза превышает уровень ошибок классификации. Если модель не способна надежно отличить факт от вымысла, она неизбежно будет этот вымысел генерировать. 🟡Все начинается еще на претрейне. Даже на идеально чистых данных статистические цели обучения подталкивают модель к генерации ошибок. Особенно это касается фактов, которые редко встречаются в обучающей выборке. В работе вводится понятие singleton rate — доля фактов, которые появились в данных лишь один раз. Теоретический расклад показывает, что уровень галлюцинаций модели будет как минимум равен этой доле. Проще говоря, если 20% фактов о днях рождения в датасете встретились единожды, модель будет выдумывать дни рождения как минимум в 20% случаев. 🟡Эксперименты это подтверждают. Модель DeepSeek-V3, на просьбу назвать день рождения одного из авторов статьи, трижды выдала неверные даты: 03-07, 15-06 и 01-01. Ни одна из них не была даже близка к правильной (осенью). В другом тесте, где нужно было сосчитать количество букв D в слове DEEPSEEK, та же DeepSeek-V3 выдавала 2 или 3, а модели компании Марка Цукерберга и Claude 3.7 Sonnet доходили до 6 и 7. При этом базовые модели после претрейна часто показывают отличную калибровку. Например, у предобученной GPT-4 ожидаемая ошибка калибровки составляла всего 0.007, что говорит о высокой статистической адекватности ее предсказаний. Кто бы сомневался. 🟡Почему галлюцинации не исчезают после пост-тренинга и RLHF? Ответ на этот вопрос - в системе оценки. Большинство современных бенчмарков поощряют угадывание. Модели, по сути, постоянно находятся в режиме сдачи экзамена, где за правильный ответ дают 1 балл, а за пустой бланк или ответ я не знаю - 0. В такой системе оптимальная стратегия при неуверенности - только угадать. Любой шанс на правильный ответ лучше, чем гарантированный ноль. Эту гипотезу подтвердили анализом популярных оценочных наборов. В GPQA, MMLU-Pro, Omni-MATH, SWE-bench и HLE используется строго бинарная система оценки (правильно/неправильно). Возможности получить частичный балл за честное признание в незнании там просто нет. Из 10 рассмотренных в исследовании популярных бенчмарков только один, WildBench, присуждает частичные баллы за ответы формата я не знаю. Остальные же фактически наказывают модель за отказ галлюцинировать, создавая эпидемию штрафов за неуверенность и поощряя ее выдавать правдоподобную ложь. 🟡Что делать инженерам. OpenAI предлагает встраивать явные целевые уровни уверенности в рубрики, вводить поведенческую калибровку и оценивать модели по секциям с разными порогами уверенности. Еще рекомендуют включают мониторинг singleton-rate на корпусе, измерение вероятности важных ответов, комбинирование RAG с верификацией фактов и изменение лидербордов чтобы ответы я не знаю не штрафовались автоматически. 🔜Читать статью полностью @ai_machinelearning_big_data #AI#ML#LLM#Research#OpenAI

🥁 Грузинская мечта утвердила новую реформу образования. Некоторые западные коллеги и местные оппоненты власти уже бьют в колокола: конец европейского образования, возврат в СССР. Я тут вспомнил, как в своё время это якобы европейское образование продвигали на личном примере. 🥁 Georgian Dream has approved a new education reform. Some Western colleagues and local opponents of the government are already sounding the alarm: the end of European-style education, a return to the Soviet Union. I recalled how, at one time, this supposedly European education was promoted through a personal example. 🔗 ЧИТАТЬ: https://dzen.ru/a/aTp9nto95WNuDlyt?share 🔗 READ: https://open.substack.com/pub/archilsikharulidze/p/how-georgian-education-was-cleansed #Georgia#GeorgianDream#Reform#Education#Schools#HigherEducation#University#Europe#Saakashvili