Post #1347

🤝 ИИ-компании решили чинить «галлюцинации» вместе OpenAI, Anthropic и Google объединились в Trust in AI Alliance, который запустила Thomson Reuters Labs. В альянс вошли инженеры и продуктовые лиды, цель простая и сложная одновременно сделать агентный ИИ надежным. Речь не про чаты, а про системы, которые сами принимают решения и действуют Проблема в том, что галлюцинации у агентов опаснее обычныхошибок. Если чат ошибся, это один неверный ответ. Если ошибся агент, он строит цепочку решений на ложных данных, и каждый шаг усугубляет предыдущий. OpenAI уже показывала, что модели поощряются угадывать вместо признания неуверенности, а Anthropic нашла в Claude механизм, который заставляет модель молчать при сомнениях, но он работает не всегда Альянс будет делиться исследованиями, искать общие причины галлюцинаций и встраивать доверие прямо в архитектуру ИИ. Итоги обещают публиковать открыто, первая сессия посвящена агентам для высокорисковых профессиональных задач ИИ станет надежнее? 🔥 — да, думаю все починят 🤔 — сомнительно, думаю они ничего не сделают Наш бот с актуальными нейросетями: @bytegens_bot 🤖БайтГен | #ИИ#новости