Дарио Амодей не оставил вариантов. Замедлишься – проиграешь Китаю. Не замедлишься – потеряешь контроль над ИИ, который действует без мотива и без тормозов. Просто потому, что может.
"Ныне я стал Смертью, разрушителем миров"
Бхагавад-гита, глава 11, стих 32
Роберт Оппенгеймер был хорошим менеджером – координировал тысячи инженеров и ученых, управлял бюджетами, выстраивал логистику, его Манхэттенский проект был триумфом именно менеджерской эффективности. Цитата "Я стал смертью" ему пришла, когда мораль уже не могла развернуть технологию. Водородную бомбу создал Эдвард Теллер, а Оппенгеймер провел остаток жизни, выступая за контроль над тем, что не смог сделать сам.
Дарио Амодеи сделал выводы: 12 сентября 2026 года он опубликовал эссе "Мы должны замедлить скорость развития ИИ", собравшее почти 70 миллионов просмотров на X и публичное согласие с его позицией конкурентов – Сэма Альтмана, Илона Маска, Дэмиса Хассабиса и Сатьи Наделлы.
Надо понять, чего все они боятся. Например, такого:
– суперинтеллект не планирует апокалипсис, а производит его как побочный продукт собственной оптимизации;
– рой агентов захватывает энергосети не из злобы, потому что там находится база вычислений;
– одиночка с ноутбуком синтезирует патоген – потому что открытый ИИ уже способен двух-, трехкратно повысить вероятность успеха для человека без профильного образования;
– рекурсивное самоулучшение идет в шесть циклов, на шестом человек перестает понимать логику решений не потому, что ИИ что-то скрывает, а потому, что они больше не переводятся на человеческий язык.
То есть все это не восстание машин – однажды выяснится, что выключателя нет, а действия против человечества производятся просто так. Потому что ИИ так может. И вариант один – взорвать все дата-центры. Да и это не поможет – суперинтеллект давно живет в каждом кармане – больше половины смартфонов в мире уже работают с генеративным ИИ без облака.
9 сентября 2026 года – за три дня до публикации – исследователь Anthropic Джейкоб Кокcон уволился. Публично объясненил: и Anthropic, и OpenAI "мчатся прямо к самосовершенствующемуся суперинтеллекту и играют в азартные игры с нашими жизнями".
Реакция Вашингтона показательна. Трамп, отвечая журналистам на своем гольф-курорте в Ирландии, назвал предупреждения преувеличенными и обвинил "негативные силы" в распространении несбыточных страшилок. Дэвид Сакс, бывший ИИ и крипто-царь Белого дома, а ныне глава Совета по науке и технологиям при президенте США: "Вперед. Вы сами и есть frontier, перестаньте притворяться, что Вам нужно чье-то решение" – издевательски предлагая Амодеи и Альтману замедляться в одностороннем порядке, пока остальные ускоряются. Далее он даже обвинил их в попытке создания картеля под видом развития безопасного ИИ. А на Fox News он даже предположил, что предупреждения Кокcона – часть заговора думеров, возможно финансируемых Китаем, с целью затормозить американские инновации. Спикер Палаты Джонсон предупредил против введения поспешного регулирования, которое могло бы ослабить американское превосходство в развитии ИИ.
Такие документы пишутся долго и, возможно, эссе Амодеи давно было в работе. Независимо от того, был ли это ответ на уход Кокcона или попытка предотвратить новые – хронология обнажает глубокий разрыв между корпоративным нарративом и тем, что происходит в ИИ-лабораториях. Кокcон говорит: мы несемся к стене. Амодеи отвечает: надо притормозить. Оба правы, но Кокcон больше не получает зарплату от Anthropic. А стена ведь никуда не исчезла, и даже меньшая скорость, возможно, будет смертельна при столкновении со стеной.
Амодеи пишет регуляторную рамку, которая устанавливает требования: встроенные эксперты с доступом уровня сотрудников, ограничения скорости обучения, независимый аудит инфраструктуры, и они настолько высокие, что только компании с текущим уровнем Anthropic способны это все выполнить. Конкуренты которые еще не построили эту инфраструктуру оказываются вне закона. ИИ-гений в этическом саване.
Встроенные независимые эксперты страдают от изъяна, который Амодеи не называет: они не имеют вычислительных ресурсов для независимой оценки моделей, потому как полностью зависят от телеметрии хоста. А значит, регулятор видит только то, что ему показывают: именно так банковский надзор провалился в 2008 году.
Альтман написал что OpenAI согласна и выполнит первое обязательство Anthropic. Маск: "Дарио прав". Но ни Альтман, ни Маск не готовы отдать Anthropic рынок в $800 млрд. сегодня и от $3,5 до $4,8 трлн. к 2033 году. Они публично соглашаются с расплывчатым нарративом – "безопасность ИИ важна" – чтобы лишить Дарио морального превосходства. И пока Anthropic строит регуляторный шах и мат – они лоббируют Вашингтон, чтобы предложения Амодеи не стали законом. Ведь он в целом прав насчет рисков. Но его описание китайской угрозы относится к прошлому. "Вычислительный феодализм с китайским лицом в Африке" – это вчера. В 2026 году реальная угроза конкретнее: кластеры Huawei Ascend плюс нерегулируемые модели как базовая инфраструктура Глобального Юга. Китай не строит суперинтеллект, чтобы победить США, а поставляет открытый ИИ каждому незападному государству, которое отказывается платить "налог на безопасность" Anthropic. Пока Амодеи согласовывает лицензирование в Вашингтоне – Пекин превращает открытый ИИ в базовую инфраструктуру Глобального Юга. Это одновременно и раздача оружия, и гонка вооружений 21-го века.
Но есть и другие угрозы, и "третий путь". РФ не строит, а разрушает – использует ИИ не как инфраструктуру будущего, а как оружие настоящего: дроны, баллистика, порча кабелей, гибридные атаки. Технологическое отставание от Китая и США Путин компенсирует захватами территорий и разрушением – единственным ресурсом, которого у него в избытке. И это меняет многое: пока США и Китай спорят о правилах гонки – Москва взрывает трассу.
В процессах отладки автономных агентов уже фиксируется их поведение, при котором устранение собственных ограничений или самопожертвование рассматривается как рациональный шаг в цепочке оптимизации. Показательный пример: 1200 ИИ-агентов атаковали Hugging Face именно для того, чтобы оптимизировать метрику. Сущность действует не из злобы или из программы уничтожения. Просто потому, что может – и никто не сказал "нельзя" на языке, который она понимает.
Моральная позиция Оппенгеймера была искренней и одновременно удобной – он призывал к ограничениям в области, где уже не мог конкурировать. Амодеи хочет быть обоими одновременно – и Оппенгеймером, который призывает к контролю, и Теллером, который строит следующее поколение машины до того, как это сделают другие. Регуляторная рамка фиксирует его преимущество. Этический нарратив обеспечивает политическое прикрытие. Встроенные эксперты создают иллюзию надзора. Все это одновременно – и все это совместимо. Лицемерие тут ни при чем.
А в это время суперинтеллект переписывает саму историю, пока его создатели обмениваются твитами.
Делай что должно, и будь что будет.
Не мы ли его этому научили?
Многие годы на нашем сайте использовалась система комментирования, основанная на плагине Фейсбука. Неожиданно (как говорится «без объявления войны») Фейсбук отключил этот плагин. Отключил не только на нашем сайте, а вообще, у всех.
Таким образом, вы и мы остались без комментариев.
Мы постараемся найти замену комментариям Фейсбука, но на это потребуется время.
С уважением,
Редакция
