Найти похожее

Claude AI现在会阻止用户请教如何制造核武器 由美国能源部核安全局提供支持 如果你在 Claude AI 中询问核武器的技术原理或者铀 – 235 等核燃料的技术原理那可以获得人工智能生成的回答，但如果你想详细了解如何制造核武器的话则可能会被阻止。 日前 Anthropic 已经在 Claude AI 中部署新的分类器用来检测用户询问核武器相关的询问，如果检测到涉及如何制造核武器的话则可能会被标记和终止对话。 这项分类器由正规机构提供：美国能源部国家核安全局 (NNSA)，通过分类器识别用户询问核武器工作原理还是在寻找制造蓝图，测试显示其准确率高达 96%。蓝点网 🏷#Claude#AI#核武器 📢频道👥群组📝投稿

Claude / ChatGPT 任你选，苹果扩展 Xcode 26 智能 AI 代码助手生态 苹果Xcode 26集成开发环境(IDE)将原生支持Anthropic的Claude大模型，此前版本仅支持OpenAI的ChatGPT。开发者将可以直接在Xcode内调用Claude进行代码生成、优化和辅助编程。9to5Mac报道称，在Xcode 26 Beta 7版本中，已实测支持Claude Sonnet 4.0和Claude Opus 4。此前，开发者需通过API接入Claude。Xcode原生集成Claude将提升AI编程工具的智能化和多样性。苹果在2024年全球开发者大会上推出的Swift Assist编程AI助手，功能已升级，支持多家主流AI模型。IT之家 🏷#Xcode#Claude#AI 📢频道👥群组📝投稿

Fluxreve-在线AI文生图，图生图网站，调用多种AI模型，快速生成AI图像 又发现一个强大的AI图像生成网站,只需描述您的需求，即可获得精美绝伦的专业级图片，支持调用多个AI生图大模型：Nano Banana Pro，Z-image，Z-image tubro lora，flux 2 pro ， seedream 4.5 🏷标签：#网站#AI#文生图#图生图 ☁链接：点击获取 ⭐频道😮群聊✏投稿🌍中文

🎬Pika 2.2 videogeneratori yangi darajaga chiqdi! Endi Pika sun’iy intellekt yordamida 10 soniyagacha bo‘lgan Full HD videolar yaratishi mumkin! Yangilangan versiyada asosiy kadrlar orasidagi o‘tishlarni ham sozlash imkoni paydo bo‘ldi – bu videolarni yanada tabiiy va silliq qilishga yordam beradi. 🚀Sinab ko‘rish:pika.art #AI#VideoGenerator#Pika

#Opera#AI#browser#with#VPN Join the Opera: AI browser with VPN beta on ✈️#TestFlight 🔗 Link: https://testflight.apple.com/join/ASrCFVHB Shared by Dimitri

OpenAI推出GPT-Image-2 模型 具备“思考”的图像功能已向 ChatGPT Plus、Pro 和 Business 用户开放（企业版即将推出），底层模型 gpt-image-2 已在 API 中可用。 ChatGPT Images 2.0是OpenAI首个具备“思考”能力的图像模型。无需参考图、仅凭简短提示词，即可生成以假乱真的TikTok截图、论文海报、商品广告。 Thinking能力的加入，使得模型可以处理更复杂的任务，在准确性、时效性、一致性和视觉连贯性上有更加强大的表现。 在API中，ChatGPT Images 2.0最高支持生成2K分辨率的图像。 它还具备更强的多语言理解能力、支持最宽3:1、最窄1:3的图片比例、一次提示最多可生成8个输出，并且图中的角色和物体能保持连续性。 ChatGPT Images 2.0 的知识库已更新至 2025 年 12 月，具备能够端到端完成各类复杂任务的智能——无论是撰写文案、进行分析，还是进行设计构图，都能胜任并交付专业成果。 在大模型竞技场上，ChatGPT Images 2.0已登顶第一，并且在文本到图像任务中，断层领先第二名Nano Banana 2 240分。 🗒 标签: #OpenAI#GPT#AI#图像 📢 频道: @GodlyNews1 🤖 投稿: @GodlyNewsBot

📌Почему языковые модели галлюцинируют. OpenAI опубликовали исследование о причинах галлюцинации LLM. Галлюцинации - это не мистический сбой в сознании ИИ, а вполне предсказуемый побочный эффект его обучения. Представьте, что перед моделью стоит задача бинарной классификации - определить, является ли предложенное утверждение корректным или нет. Математическая выкладка в исследовании проста: уровень ошибок генерации как минимум в 2 раза превышает уровень ошибок классификации. Если модель не способна надежно отличить факт от вымысла, она неизбежно будет этот вымысел генерировать. 🟡Все начинается еще на претрейне. Даже на идеально чистых данных статистические цели обучения подталкивают модель к генерации ошибок. Особенно это касается фактов, которые редко встречаются в обучающей выборке. В работе вводится понятие singleton rate — доля фактов, которые появились в данных лишь один раз. Теоретический расклад показывает, что уровень галлюцинаций модели будет как минимум равен этой доле. Проще говоря, если 20% фактов о днях рождения в датасете встретились единожды, модель будет выдумывать дни рождения как минимум в 20% случаев. 🟡Эксперименты это подтверждают. Модель DeepSeek-V3, на просьбу назвать день рождения одного из авторов статьи, трижды выдала неверные даты: 03-07, 15-06 и 01-01. Ни одна из них не была даже близка к правильной (осенью). В другом тесте, где нужно было сосчитать количество букв D в слове DEEPSEEK, та же DeepSeek-V3 выдавала 2 или 3, а модели компании Марка Цукерберга и Claude 3.7 Sonnet доходили до 6 и 7. При этом базовые модели после претрейна часто показывают отличную калибровку. Например, у предобученной GPT-4 ожидаемая ошибка калибровки составляла всего 0.007, что говорит о высокой статистической адекватности ее предсказаний. Кто бы сомневался. 🟡Почему галлюцинации не исчезают после пост-тренинга и RLHF? Ответ на этот вопрос - в системе оценки. Большинство современных бенчмарков поощряют угадывание. Модели, по сути, постоянно находятся в режиме сдачи экзамена, где за правильный ответ дают 1 балл, а за пустой бланк или ответ я не знаю - 0. В такой системе оптимальная стратегия при неуверенности - только угадать. Любой шанс на правильный ответ лучше, чем гарантированный ноль. Эту гипотезу подтвердили анализом популярных оценочных наборов. В GPQA, MMLU-Pro, Omni-MATH, SWE-bench и HLE используется строго бинарная система оценки (правильно/неправильно). Возможности получить частичный балл за честное признание в незнании там просто нет. Из 10 рассмотренных в исследовании популярных бенчмарков только один, WildBench, присуждает частичные баллы за ответы формата я не знаю. Остальные же фактически наказывают модель за отказ галлюцинировать, создавая эпидемию штрафов за неуверенность и поощряя ее выдавать правдоподобную ложь. 🟡Что делать инженерам. OpenAI предлагает встраивать явные целевые уровни уверенности в рубрики, вводить поведенческую калибровку и оценивать модели по секциям с разными порогами уверенности. Еще рекомендуют включают мониторинг singleton-rate на корпусе, измерение вероятности важных ответов, комбинирование RAG с верификацией фактов и изменение лидербордов чтобы ответы я не знаю не штрафовались автоматически. 🔜Читать статью полностью @ai_machinelearning_big_data #AI#ML#LLM#Research#OpenAI

Спасатели отправили башкортостанцев в баню. В буквальном смысле - главное республиканское управление МЧС выпустило забавный ролик о безопасности при обращении с печью. И прикрепило его к посту про женщину, которая едва не умерла от ожогов 😨 Сотрудники МЧС напомнили жителям региона о том, как безопасно топить сельские бани. Однако почему-то смешной ролик прикрепили к совсем не смешному посту в соцсетях. Текст был посвящен истории женщины из Стерлитамака, получившей ожоги при растопке бани. Пострадавшая госпитализирована в тяжелом состоянии. Хотели как лучше - получился очередной кринж 😣 #башкирия#баня#пострадавшие#видео#мчс

🚀 GPT-5 将达到博士水准！ OpenAI 首席技术官 Mira Murati 表示，GPT-4 是聪明的高中生，而 GPT-5 将在一年半后发布，达到博士级别。这个消息对AI领域是个巨大的推动，不仅在科研上，更在实际应用上将带来深远影响。 📌 想了解更多关于AI的发展趋势？点击链接查看详细内容👇 Digitaltrends #AI#GPT5#OpenAI#未来科技

◀️--sref 7232024 --s 333 #Vibrant#Surreal#StyleRandom#MidJourney#AiGenLabs#Ai 〰️〰️〰️〰️〰️ main channel📎

◀️--sref 499 --s 950 🟥 #Surreal#Vibrant#StyleRandom#MidJourney#AiGenLabs#Ai 〰️〰️〰️〰️〰️ main channel📎

◀️--sref 412937832 #Surreal#vibrant#StyleRandom#MidJourney#AiGenLabs#Ai 〰️〰️〰️〰️〰️ main channel📎