Post #1622

Тезисы Дарио Амодея из интервью "The Future of U.S. AI Leadership with CEO of Anthropic Dario Amodei" Причина ухода из OpenAI и создание Anthropic: Дарио покинул OpenAI в 2020 году, осознав важность гипотезы масштабирования — увеличения вычислительных ресурсов и данных для улучшения способностей ИИ, что может повлиять на экономику и безопасность. Руководство OpenAI не придавало этому значения, и Anthropic была основана как корпорация общественной пользы с миссией ответственного развития ИИ. Гипотеза масштабирования: Амотей подчеркивает, что увеличение вычислительных ресурсов и данных улучшает когнитивные способности ИИ, что наблюдается на моделях за $1000-$10,000. Он предсказал продолжение этого тренда при затратах в миллиарды долларов, что подтверждается сегодня. Это открывает огромные возможности, но требует безопасного подхода. Безопасность и непредсказуемость ИИ: ИИ-системы развиваются статистически и не всегда предсказуемы, что затрудняет их контроль. Амодей сравнивает это с развитием детского мозга. Anthropic фокусируется на надежности и безопасности ИИ, а также на их ответственном использовании. Примеры миссии Anthropic: • Инвестиции в понимание работы ИИ без коммерческой выгоды ради общественного блага; • Разработка конституционального ИИ с четкими принципами обучения; • Задержка выпуска Claude на 6 месяцев ради оценки безопасности; • Введение политики ответственного масштабирования с уровнями риска и мерами безопасности. Уровни безопасности ИИ (ASL): Anthropic находится на ASL-2, где риски сравнимы с другими технологиями. ASL-3 предполагает серьезные угрозы, например, создание оружия новичками через ИИ. Амодей ожидает перехода к ASL-3 в 2025 году и считает возможным безопасное развертывание с ограничением опасных функций. Потенциал ИИ: В эссе "Machines of Love and Grace" Амодей предсказывает, что через 2-4 года ИИ сравняется с нобелевскими лауреатами и заменит удаленную работу, оценивая вероятность этого в 70-80%, сравнивая с экспоненциальным ростом интернета. Влияние на рабочие места: ИИ повысит продуктивность, но со временем заменит все человеческие задачи. Амодей обеспокоен социальными последствиями и призывает переосмыслить понятие "полезности". DeepSeek и конкуренция с Китаем: DeepSeek подтверждает законы масштабирования, снижая стоимость моделей, но США тратят больше на передовые ИИ. Амодей обеспокоен инженерным прорывом Китая и поддерживает экспортные ограничения на чипы. Диалог с Китаем: Амотей поддерживает диалог, но сомневается в его успехе из-за гонки за военным и экономическим превосходством. Возможно сотрудничество по автономным рискам ИИ, если появятся доказательства угроз. План для правительства США: • Сохранить экспортные ограничения; • Тестировать модели на риски через AISI; • Защищать компании от шпионажа; • Использовать ИИ для лечения сложных болезней; • Оптимизировать регулирование для ускорения прогресса. Сознание ИИ: Амотей считает, что ИИ с человеческими способностями может иметь опыт, достойный внимания. Anthropic изучает возможность моделям "уволиться" из неприятных задач. Социальные науки и ИИ: ИИ ускорит эпидемиологию и клинические испытания, упрощая регуляторные и социальные проблемы. Национальная безопасность: Anthropic сотрудничает с разведкой США, тестируя модели на риски и обсуждая их защиту. Амодей видит потенциал ИИ для безопасности, но с ограничениями. Человечность в эпоху ИИ: Быть человеком — это отношения с другими и стремление к сложным целям, которые сохранят смысл даже при превосходстве ИИ.