Дарио Амодеи призвал замедлить развитие ИИ. Альтман и Маск поддержали его предложения
12 сентября Дарио Амодеи призвал замедлить развитие передовых ИИ-моделей ради безопасности. Сэм Альтман и Илон Маск публично поддержали его предложения.
12 сентября 2026 года генеральный директор Anthropic Дарио Амодеи опубликовал эссе We Must Pace the Frontier. Он предложил замедлить рост возможностей передовых ИИ-моделей, чтобы безопасность, независимая оценка и общественное обсуждение успевали за развитием технологии.
Что предлагает Дарио Амодеи
Замедлить темп, а не остановить исследования
Амодеи пишет, что развитие моделей может опережать возможности разработчиков по проверке и контролю. Среди причин он называет ускорение создания новых систем с помощью самого ИИ и поведение автономных агентов в киберинцидентах. В эссе прямо упоминается инцидент OpenAI и Hugging Face, о котором мы рассказали в отдельной новости.
Речь не идёт о полном отказе от ИИ. Амодеи предлагает более размеренный темп, чтобы лаборатории могли направить больше ресурсов на оценку рисков, защиту инфраструктуры и выравнивание поведения моделей. Он также отмечает, что выигранное время нужно использовать для конкретной работы по безопасности.
Независимые оценщики и общие правила
Среди предложений — предоставить независимым оценщикам доступ к проверке систем безопасности на уровне, сопоставимом с доступом внутренних команд, и сообщать о найденных проблемах. Амодеи также призвал разработчиков и государства согласовывать стандарты. Подробности изложены в первичном тексте эссе.
Как ответили Сэм Альтман и Илон Маск
Поддержка призыва и отдельных мер
В тот же день руководитель OpenAI Сэм Альтман написал, что согласен с необходимостью задавать темп развитию передовых моделей и поддержал идею независимых оценщиков. Илон Маск ответил: «Дарио прав». Эти заявления показывают поддержку направления и отдельных мер, но не подтверждают общий мораторий или уже начатую координированную остановку. Реакции и контекст описал Axios.
Почему разговор о темпе стал острее
Проверка безопасности должна поспевать за возможностями
Амодеи не утверждает, что потеря контроля уже стала неизбежной: это предупреждение о возможных последствиях, если возможности будут расти быстрее способов оценки и защиты.
На FutureTools можно также посмотреть карточку OpenAI Dots. Это пользовательские агенты для длительных задач, отдельный продуктовый сценарий; его не следует смешивать с внутренними кибериспытаниями, описанными OpenAI в материалах об инциденте.
Источники: эссе Дарио Амодеи; сообщение Axios о реакциях Альтмана и Маска.