TGTGInsightтелеграм анализLIVE / telegram public index
← Такты, стеки, два колеса

TGINSIGHT SIMILAR POSTS

Намери подобно съдържание

Изходен канал @clockstackwheels · Post #295 · 10.04

Сегодня бродили по Зоологическому музею, и я не переставал удивляться, сколько способов «придумала» природа для решения схожих задач. Ну, конечно, природа не наделена разумом, и эволюционный механизм ничего не изобретает в нашем понимании этого слова: просто какие-то варианты оказываются более приспособленными. У этого механизма бывают ошибки (погуглите «возвратный гортанный нерв»), и ещё нередко он «отказывается» от собственных же решений, начиная до неузнаваемости их преобразовывать: например, камбала выглядит так, будто она сделана на коленке из обычной рыбы, плавающей горизонтально, а у нарвала рог не симметричен относительно тела и является просто излишне разросшимся зубом. Тем не менее, механизм наследования, высокая мотивация (если не приспособишься, весь твой вид умрёт) и закон больших чисел обеспечивают очень хорошее разнообразие решений. Вот есть задача, например, «не быть съеденным». Можно быть быстрым и убегать от опасности (антилопы и косули), можно быть неприятным на вкус или запах (скунс, опоссум), можно быть незаметным (палочник, листовидка), а можно быть сильнее всех остальных, чтобы на тебя никто не мог напасть (различные хищники). Задача «добыть себе еды» тоже решается множеством способов: запасать; есть то, что не едят другие; есть то, что не могут достать другие и так далее. Я защищался по эволюционным алгоритмам в программировании, и они, честно говоря, работают так себе. Хуже, чем настоящая эволюция в природе. Во-первых, многообразия и времени не хватает. Но самое главное: мы им даём мало свободы, они недостаточно гибкие и ограничиваются слишком узким набором правил. Например, если у вас есть алгоритм для поиска оптимального маршрута поездки на работу, у него никогда не возникнет решения «предложить пользователю сменить работу, чтобы вообще не ездить никуда». Возможно, мы сможем эффективнее запускать такие алгоритмы, когда появятся онтологические базы данных, описывающие достаточно большую часть вселенной. Ещё очень интересно наблюдать эволюцию в технике. Решения, которые предлагают люди для той или иной задачи, тоже со временем приходят к какому-то своему оптимальному виду. Например, у автомобилей для драг-рейсинга огромные задние колёса и маленькие передние, почти рудиментарные. По множеству других признаков это всё-таки автомобиль: двигатель, колёса, место для человека, может ехать. Но отличия драг-рейсингового автомобиля от автомобиля, решающего другую задачу, как раз очень похожи на отличия разных представителей какого-то одного класса животных. Техника одного вида от разных производителей выглядит очень похоже, потому что эволюционно путём развития и улучшения приходит к какому-то оптимальному для своей задачи образу. А вам фото китоглавов. Форма клюва у них такая, что невозможно отделаться от мысли, будто бы они улыбаются. #life

Hashtags

Резултати

Намерени 4 подобни публикации

Търсене: #hallucinations

当前筛选 #hallucinations清除筛选
AI & Law

@ai_and_law · Post #512 · 24.02.2025 г., 08:04

🇨🇦Canadian Tribunal Rejects Fabricated Case Law In Canada a family couple relied on Microsoft Copilot to generate legal precedents in a condo dispute—only to discover that nine out of ten cited rulings didn’t exist. The Civil Resolution Tribunal found the cases to be AI “hallucinations,” raising serious concerns about the reliability of AI-generated legal research. While AI can streamline legal work, this case underscores a fundamental risk: without proper verification, reliance on AI-generated case law can undermine legal arguments and credibility. . #AI#LegalTech#AIEthics#Hallucinations

AI & Law

@ai_and_law · Post #819 · 04.05.2026 г., 07:04

🇿🇦South Africa Withdraws AI Policy Over Hallucinated Sources South Africa has withdrawn its draft national AI policy after discovering that at least 6 of its 67 academic citations were AI-generated and referred to non-existent journal articles. Communications Minister Solly Malatsi stated that the most plausible explanation is the inclusion of unverified AI-generated references, calling the lapse a failure that “compromised the integrity and credibility” of the policy. The draft policy had proposed establishing a national AI commission, an AI ethics board, and a regulatory authority, alongside incentives such as tax breaks and grants to support AI infrastructure. The issue was identified after News24 found fabricated citations, later confirmed by journal editors. The policy will be revised before being reissued, and the minister indicated there would be consequences for those responsible. The case highlights risks of using generative AI in policy drafting without verification. A Nature study cited in the report found that over 2.5% of academic papers in 2025 contained at least one potentially hallucinated reference, up from 0.3% in 2024, amounting to more than 110,000 papers. #AIRegulation#AIethics#Hallucinations#PublicPolicy#AIGovernance

People who eat the mushroom Lanmaoa asiatica raw or undercooked have reported seeing tiny human-like figures moving around them. These are called lilliputian hallucinations. Reports from people across different cultures and backgrounds describe similar details, including small figures walking on floors and furniture. The effects can begin 12–24 hours after eating and may last 1–3 days. Some cases are serious and require hospital care. Don't try this yourself.. 🍄😵‍💫🧚‍♀🦄🍄‍🟫 [Read more 1] [Read more 2] [Read more 3] @googlefactss #Mushrooms#ScienceFacts#Hallucinations#Nature#DidYouKnow If you have ideas or feedback contact us: @Googlefactss_Feedback_bot

Machinelearning

@ai_machinelearning_big_data · Post #8518 · 11.09.2025 г., 17:11

🔥WFGY 2.0 — Semantic Reasoning Engine for LLMs (MIT) Это движок с открытым исходным кодом, цель которого — уменьшить галлюцинации и логические сбои в системах типа RAG / LLM, особенно когда: - источники OCR-текста плохо распознаются, - происходит «semantic drift» (когда ответ уходит от вопроса), - «ghost matches», когда извлечённый фрагмент кажется релевантным, но на самом деле нет. Обычно ошибки ловят уже в готовом сгенерированном тексте, из-за чего они часто повторяются. В Semantic Reasoning Engine всё наоборот: если система видит, что рассуждения «кривые» или сбились с курса, она останавливается, сбрасывается или ищет другой путь и отвечает только когда состояние стабильно. 🛡Авторы называют это semantic firewall - семантический «файрвол». Проверки встроены прямо в процесс мышления модели, а не поверх ответа с фильтрами или регексами. Это помогает избегать ошибок до того, как они попадут в вывод. 📌 Проект включает карту из 16 типичных ошибок LLM: - неверный поиск данных, - сбившаяся логика, - «провалы памяти», - путаница ролей агентов и другие. Для каждой есть простое текстовое исправление. Никаких SDK — достаточно вставить инструкции прямо в промпт. 🟢Как модель решает, правильные ли ответ генерируется: - ΔS (drift) - не уходит ли смысл слишком далеко от шага к шагу - λ (convergence) - сходится ли рассуждение к решению или крутится в цикле - Coverage — достаточно ли фактов и аргументов учтено Если все три условия выполнены, ответ считается «качественным». 🟢В тестах стабильность вывода выросла до 90–95% против обычных 70–85% у традиционных подходов. ▪Github: https://github.com/onestardao/WFGY @ai_machinelearning_big_data #ai#llm#opensource#reasoning#hallucinations#promptengineering