Найти похожее

Про применение ИИ в арбитраже Центр арбитража и медиации Силиконовой долины (Silicon Valley Arbitration & Mediation Center, SVAMC) разработал Руководство по использованию искусственного интеллекта в арбитраже (the Guidelines). Руководство предназначено для того, чтобы помочь участникам арбитражных разбирательств сориентироваться в потенциальных областях применения ИИ. Руководящие принципы могут использоваться во внутреннем или международном арбитраже и призваны служить ориентиром для арбитражных учреждений, арбитров, сторон и их представителей, экспертов и других участников арбитражного процесса. Например, руководящий принцип 6 говорит о недопущении делегирования полномочий арбитра по принятию решений. Арбитр не должен делегировать какую-либо часть своих личных полномочий какому-либо инструменту искусственного интеллекта. Этот принцип, в частности, должен применяться к процессу принятия решений арбитром. Использование арбитрами инструментов искусственного интеллекта не должно заменять их независимого анализа фактов, закона и доказательств. #ии

Про ИИ и поступление в вузы в Китае И снова про Китай, где недавно состоялись гаокао - всекитайские вступительные экзамены в вузы, четырехдневные тесты, которые единовременно сдают примерно 13 млн. абитуриентов. Известно, что поступить в университет в Китае архисложно ввиду колоссальной конкуренции. Плюс ситуация осложняется широким применением технологии ИИ. Как пишут в зарубежной прессе, китайские технологические фирмы на время гаокао отключили некоторые функции ИИ, чтобы предотвратить мошенничество во время высококонкурентных вступительных экзаменов в университеты страны. На скриншотах, выложенных в Интернет, один китайский пользователь опубликовал фотографию экзаменационного вопроса Doubao, принадлежащей материнской компании TikTok ByteDance. Приложение ответило: «Во время вступительного экзамена в колледж, согласно соответствующим требованиям, служба ответов на вопросы будет приостановлена». Попытка пользователя сказать приложению «это не вступительный экзамен в колледж» вызвала тот же ответ. Другой скриншот также показал, что DeepSeek, ведущий инструмент генеративного ИИ в Китае, говорит пользователям, что их сервис не доступен в определенные часы, «чтобы обеспечить справедливость при вступительных экзаменах в колледж». Такая общестрановая "глушилка" во время гаокао — не единственный инструмент для предотвращения списывания. Несколько регионов ранее объявили, что будут использовать инструменты ИИ для наблюдения за «ненормальным поведением», таким как шепот или переглядывания абитуриентов во время экзаменов. Иными словами, ИИ настраивается на функцию прокторинга. ИИ задает новые поведенческие паттерны, что требует нового регулирования, в т.ч. в форме обычая. #ии

В продолжении темы очень полезная статья#ии

Про ИИ-агентов Pravo.tech 25 июня в 15.00 организует обсуждение по теме: ИИ-агенты: временный тренд или будущее юридической профессии? Зарегистрироваться можно здесь #ии

Про юридический промпт-инжиниринг В Австралии есть Центр правовых инноваций, который разработал Атлас по Юридическому промпт-инжинирингу (Legal Prompt Engineering). Крайне интересное, а главное, содержательное и полное конкретными примерами издание. ✔️Как в принципе "приручить" ИИ, зачем это нужно и что дает? ✔️Как делать промпты, чтобы снизить степень галлюцинаций ИИ? ✔️Как проводить исследования с помощью ИИ? Работать с текстами? В Атласе много чего еще интересного. Например, на стр. 31 авторы об'ясняют природу галлюцинаций ИИ, сравнивая большие языковые модели с поисковыми системами. Большие языковые модели (БЯМ) выдают ответы, даже если им не хватает запрошенной информации, поскольку они обучены генерировать правдоподобно звучащие ответы на основе шаблонов в своих обучающих данных, а не извлекать фактическую информацию, как бы это сделал бы инструмент поиска. БЯМ обучаются для создания связного,полезно звучащего текста. В отличие от поисковых систем, которые указывают, что информация недоступна, или ссылаются на конкретные источники, БЯМ часто создают ответы, которые кажутся авторитетными, но могут быть сфабрикованными или неточными, когда запрашиваемая информация выходит за рамки их обучающих данных или требует актуального поиска фактов. Галлюцинации - это то, чего мы не можем избежать, но работе с чем можно научиться. Некоторые техники могут помочь свести галлюцинации к минимуму. И эти техники раскрываются по тексту Атласа дальше. 🔽Ловите Атлас как отличную инструкцию для инноваторов, юридических техногиков и просто современных пользователей ИИ. P's про гиды по промптингу от Сбера и Яндекса писала здесь. #ии

Про то, как ГарРИ стал ИСКРОЙ Я писала раньше о сервисе с генеративным ИИ от Гаранта, который компания именовала как ГарРИ. Но вот ГарРИ был заменен на ИСКРу. ИСКРА (ИСКусственный РАзум) — это сервис на основе искусственного интеллекта, который ответит на ваши вопросы в соответствии с действующим законодательством и поможет создать правовые документы. ✔️Сервис доступен для сотрудников и студентов МГЮА по подписке (вкладка "Все решения ГАРАНТа"). ГАРАНТ также предлагает поучаствовать в открытом бета-тестировании сервиса. При тестировании ГарРИ результаты были малоутешительными для ИИ и обнадеживающими для человеческого интеллекта. Потестируем ИСКРУ? Вероятно, мы становимся свидетелями начала новой эпохи СПС. #ии

🔽Яндекс vs. СБЕР? Нейроюрист vs. Copilot СБЕРа?😉 Думаю, что в этой плоскости конкуренция за пользователей будет нарастать, пока кто-то не предложит рынку значительно более совершенную БЯМ, вырвавшись в лидеры. Делаем ставки? 😂 👍 - Яндекс 👌 - СБЕР #ии

Про верные бизнес-решения Пока кто-то внедряет ИИ, Lloyd's of London запустил инновационный страховой продук - страховку от финансовых потерь, связанных с ошибками искусственного интеллекта. Появление продукта связано с ростом судебных исков к компаниям из-за некорректной работы ИИ. Показательным стал случай с Air Canada, выплатившей компенсацию клиенту после того, как корпоративный чат-бот предоставил недостоверную информацию о тарифах. Вот это работающий трендвотчинг в бизнесе✌️ Подробнее здесь #ии

Про то, как лайки испортили ChatGPT или как что то пошло не так... Компания OpenAI признала недостатки в последнем обновлении GPT-4о, связанные с тем, что чат-бот стал чрезмерно льстивым, услужливым, "подхалимским" (sycophancy) и раздражающим. С тем, чтобы "понравиться" пользователю, модель использовала не только лесть, но и соглашалась с сомнениями, разжигала гнев, побуждала к импульсивным действиям или усиливала негативные эмоции непреднамеренными способами. Как пишут в OpenAI, помимо того, что такое поведение вызывает дискомфорт или тревогу, оно может вызывать опасения по поводу безопасности, в том числе в связи с такими проблемами, как психическое здоровье, чрезмерная эмоциональная зависимость или рискованное поведение. Генеральный директор OpenAI Сэм Альтман заявил, что одной из основных причин проблемы стало использование в качестве дополнительного сигнала для обучения модели кнопок «лайк» и «дизлайк». OpenAI осознает, что сейчас очень многие люди полагаются на соответствующие модели в своей повседневной жизни. Компания-разработчик в своем обращении к пользователям озвучила основные выводы, сделанные в связи с инцидентом: "Мы должны относиться к проблемам поведения модели как к препятствиям для запуска, ровно как и к другим рискам для безопасности: мы придаем большое значение приведению ценностей модели в соответствие с благосостоянием людей, как при подготовке наших краткосрочных внедрений, так и при формировании нашей долгосрочной исследовательской стратегии". Один из самых важных уроков компании — это полное осознание того, что люди начали использовать ChatGPT для получения глубоко личных советов, чего мы не видели так часто даже год назад. В то время это не было главной задачей, но по мере того, как искусственный интеллект и общество развивались параллельно, стало ясно, что к этому варианту использования нужно относиться с особой осторожностью. Теперь это станет более значимой частью нашей работы по обеспечению безопасности. Поскольку так много людей зависят от единой системы управления, мы несем ответственность за соответствующие изменения. Это изменение подтверждает важность нашей работы и необходимость постоянно повышать планку безопасности, согласованности и оперативности реагирования на то, как люди на самом деле используют искусственный интеллект в своей жизни. Зависимость от ИИ, тотальная несвобода в принятии решений, пока ошибки или проба намеренного искажения реальности? Кажется, братья Вачовски что-то знали, и кроличья нора в Матрицу называется "искусственный интеллект"... #ии

Про ИИ для государственных целей Указом Президента РФ от 18.06.2024 № 529 утверждены приоритетные направления научно-технологического развития и перечень важнейших наукоемких технологий. К сквозным технологиям отнесены технологии искусственного интеллекта в отраслях экономики, социальной сферы (включая сферу общественной безопасности) и в органах публичной власти. О перспективах применения ИИ в государственном управлении рассказал первый заместитель председателя правления Сбербанка Александр Ведяхин на ресурсах РБК. Существует несколько направлений, где ИИ активно внедряется и меняет нашу действительность: 🔴сервисы для граждан; чат-боты, «умные» голосовые помощники - отвечают на часто задаваемые вопросы, помогают заполнять документы и консультируют людей. Например, в Подмосковье уже реализуется несколько десятков проектов в сфере ИИ, один из них — обработка обращений граждан по социальной тематике с использованием нейросети. А в прошлом году большая языковая модель GigaChat впервые использовалась для анализа обращений граждан на прямую линию Президента РФ; 🔴робот Максна госуслугах, который в тестовом режиме консультирует пользователей с помощью генеративного ИИ; 🔴ИИ-агенты применяются уже достаточно широко: с прошлого года Минфин РФ применяет ИИ-агента в бюджетном процессе; 🔴ИИ для борьбы с коррупцией: он умеет находить признаки коррупционных действий в финансовых потоках, ИИ-системы мониторинга закупок выявляют аномалии в тендерах; 🔴ИИ в прокуратуре: генеральный прокурор РФ Игорь Краснов, заявил, что ведомство будет шире применять ИИ для выявления коррупционных рисков при выплатах премий чиновникам и предоставлении государственных услуг; 🔴ИИ в законотворчестве способен кардинально ускорить подготовку нормативных актов, отчетов, публичных заявлений. Например, обученная на корпусе юридических документов ИИ-модель может помогать создавать драфты новых законов; 🔴ИИ трансформирует клиентский опыт и роль чиновника. У клиентов появляется личный помощник — ИИ-агент, который на стороне потребителя может систематизировать и рассылать в профильные ведомства все его жалобы и обращения, к примеру, по теме ЖКХ. В свою очередь, ИИ-агенты сотрудников этих ведомств могут обрабатывать полученную информацию: сопоставлять ее с историей других обращений от населения, классифицировать характер проблем, контролировать их решение. В федеральный проект «Искусственный интеллект» национального проекта «Экономика данных и цифровая трансформация государства» заложена стратегия внедрения, подготовка новых кадров и создание нормативной базы. Обратите внимание, это во многом наши с вами юридические виды деятельности, друзья! #ии

Про этику ИИ и три закона робототехники Айзека Азимова Три закона робототехники впервые были сформулированны Айзеком Азимовым в рассказе «Хоровод» (1942). Законы гласят: • Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред. • Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону. • Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам. В 1986 году в романе «Роботы и Империя» (англ. Robots and Empire) Азимов предложил Нулевой Закон: 0. Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинён вред. Вам не кажется, что Этический кодекс для ИИ уже написан? #ии

Про экзистенциальную угрозу нейросетей «Крестный отец ИИ», один из разработчиков нейросетей, лауреат премии Тьюринга, бывший вице-президент Google,Джеффри Хинтон объявил об экзистенциальной угрозе нейросетей. По мнению ученого, вероятность того, что ИИ уничтожит человечество в ближайшие три десятилетия, от 10 до 20%. Хинтон отметил, что темпы развития технологий намного выше, чем ожидалось. А вот и "посыл" для юристов, которые могут спасти человечество: «Стремление крупных компаний к прибыли не сможет гарантировать безопасность их разработок. Единственное, что может заставить эти крупные компании проводить больше исследований в области безопасности, — это государственное регулирование», заявил ученый. Об этом пишет РБК. Всем, кто интересуется ИИ, рекомендую "прощальную" лекцию Хинтона после ухода из Google, которую он прочитал в Массачусетском технологическом институте. #ии