Интеллект и пустота: как ведущая компания в сфере ИИ заговорила о контроле над ним

О контроле над искусственным интеллектом заговорили сами его разработчики

На днях компания «Антропик» обратилась к мировым разработчикам с предложением рассмотреть возможность замедления создания самосовершенствующегося искусственного интеллекта. Сейчас я объясню, почему это звучит так туманно, почему это необычно и почему важно.

В настоящее время «Антропик» является самой дорогой компанией, занимающейся искусственным интеллектом. Модели, разработанные «Антропик», задают верхнюю планку развития искусственного интеллекта. Они хороши настолько, что администрация президента США продолжила их использовать, несмотря на скандальное несогласие с руководством «Антропик». Настолько, что доступ к их модели Mythos дали только избранным: она слишком умело находит уязвимости компьютерных программ.

В то же время «Антропик» всегда представляла себя как образец этичности в сфере развития искусственного интеллекта. Она уделяет много внимания вопросам этики и делится данными об опасных проявлениях, которые наблюдает у своих моделей.

Наконец, «Антропик» сама открыто сделала ставку на то, в чем сейчас призывает сделать паузу, — на создание самосовершенствующегося искусственного интеллекта, чтобы «каждое поколение искусственного интеллекта использовалось для обучения следующего поколения ИИ». Я сейчас цитирую эссе главы «Антропик» Дарио Амодеи «Отрочество технологии», опубликованное в январе нынешнего года. То есть они это целенаправленно делали — и, скорее всего, делают до сих пор. Еще в мае нынешнего года больше 80% кода в этой компании писал искусственный интеллект, звучали призывы не мешать ИИ, «дать ему завершить работу». И эти люди предлагают замедлить «рекурсивное самосовершенствование»?..

Первый человек, с которым я поделилась этой новостью, предположил здесь уловку, чтобы замедлить конкурентов. Я так не думаю, хотя правда, что конкуренты тоже идут путем «рекурсивного самосовершенствования», чтобы ИИ разрабатывал ИИ. В «Отрочестве технологии» Амодеи рассуждает о рисках автономности (самостоятельности) искусственного интеллекта и пишет: если вдруг окажется, что риски эти действительно чрезвычайно велики, он тогда согласится на «хирургически точное законодательное регулирование». Думаю, происходит именно это — до руководства «Антропик» все убедительнее стало доходить, насколько в действительности велики риски из-за автономности ИИ.

В качестве уловки против конкурентов предложение «Антропик» не имеет смысла. Оно половинчатое, амбивалентное, неуверенное. Сперва следует ритуальное вступление о том, что самосовершенствующийся ИИ может принести «колоссальную пользу человечеству», затем — рассказ, как совершенствовалась их собственная нейросеть «Клод», пока наконец (и быстро!) не дошла до состояния, когда человеческая проверка начала становиться «бутылочным горлышком»: слишком медленная, слишком неповоротливая. И только потом, после колебаний, предлагается подумать о замедлении — как о временной возможности (это подчеркивается). Потому что на случай худшего сценария у нас нет годных регулирующих институтов. Так что хорошо бы всем собраться, поговорить и создать «глобальный координирующий механизм», резюмируют специалисты «Антропик».

В общем, это теплохладное рассуждение, а не пламенный призыв. Но ведь одно то, что весьма успешная компания, сделавшая ставку на самосовершенствование искусственного интеллекта, публично говорит о том, что вообще-то из этой ставки может произойти большая опасность для всего человечества, — уже само по себе знаменательно.

Тут еще нужно добавить, что ровно в эти же дни компании Anthropic и OpenAI — обе! — обратились в Управление по науке и технологической политике Белого дома с просьбой к правительству все-таки начать предпринимать какие-то шаги, чтобы помешать использовать искусственный интеллект для создания биологического оружия. ИИ-разработчики изнывают без регулирования — и одновременно противятся ему. Если вы думаете, что это парадокс, то это он и есть. Вся ситуация, в которой мир оказался с использованием искусственного интеллекта, — глубоко парадоксальна. Взять хотя бы то, что подавляющее большинство людей боятся слабоумия, ни в коем случае не желают его и одновременно с энтузиазмом используют технологию, которая поедает их когнитивные способности. Парадокс! А то, что люди спокойно рассуждают о том, как роботы заменят людей, мол, такова эволюция, — это что?..

Может быть, в России кажется, что Anthropic, OpenAI, Google DeepMind — это всё нерусские слова и где-то далеко. Бродят мощные кровожадные цифровые твари в прериях Дикого Запада, к нам не имеют отношения. А у нас в России ИИ-технологии ручные и ламповые. Но ведь еще в конце апреля заместитель руководителя Администрации Президента РФ Максим Орешкин с энтузиазмом говорил, что — цитирую — «уже не за горами переход к модели самостоятельной эволюции искусственного интеллекта, когда ИИ сможет решать задачу улучшения себя самого. Это путь к так называемому общему искусственному интеллекту, когда его развитие уже будет мало зависеть от человека». Нет, это не где-то там, а именно глобальный сдвиг по фазе, он происходит прямо сейчас, и до мирового лидера ИИ-разработки, компании «Антропик», стало доходить, что, пожалуй, это не так уж хорошо. Может, стоит посопротивляться сползанию в обвал. Только всем вместе, глобально (иначе я замедлюсь, а конкуренты не замедлятся…). «Крестный отец искусственного интеллекта», нобелевский лауреат Джеффри Хинтон по этому поводу говорит: «Они имеют обязательства перед акционерами и не имеют обязательств не привести к уничтожению человечества».

Чтобы быть глобально услышанным, призыв к регулированию ИИ должен перестать быть неуверенным и теплохладным, должен утратить надежды на то, что как-то само собой пронесет, как-то само собой все устроится. В нем должна появиться энергия обреченности, в нем должна появиться решимость: не пронесет, не устроится, не надейтесь, только люди своими активными действиями могут спасти людей. Должно появиться прежде всего осознание, что людей НАДО СПАСАТЬ от искусственного интеллекта. Спасать, а не насаждать его во все сферы, как борщевик Сосновского (когда-то считался перспективной кормовой культурой).

Могут сказать: вот пусть они на Западе спасают и замедляются, а у нас в России проблемы поважнее. Нам искусственного интеллекта надо побольше и помощнее. А тут еще, кстати, прямо на фоне сомнений «Антропик», президент США Дональд Трамп объявил об ускорении разработки и внедрения искусственного интеллекта «в целях национальной безопасности» (как всегда у Штатов, национальная безопасность США нигде не заканчивается).

Дело в том, что в принципе — если сознательно выбрать эту линию — военные ИИ-разработки и признание ИИ опасностью для человечества не совсем противоречат друг другу. Можно вынужденно заниматься такими разработками в военной сфере и прямо говорить, что мы вынуждены этим заниматься. Не потому, что нам нравится. Как раз-таки не нравится, и мы хотели бы положить конец этой опаснейшей гонке. Это был бы сравнительно более ответственный подход — мы могли бы стать неким маяком разумности и ответственности, запрос на это в мире существует, и мы могли бы развивать этот запрос, стать в этом смысле заступниками человечества. Но так не делается. Искусственный интеллект в России с каким-то сверхъестественным, потусторонним энтузиазмом маршевыми темпами внедряется в образование, в социальную сферу, в судебную сферу, в финансовую сферу, в культуру, в госуправление… Это все ведет к размыванию ответственности, к человеческой деградации — и разве мы, в нашем-то положении, можем себе это позволить?

Источник: http://www.mk.ru/social/2026/06/18/intellekt-i-pustota-kak-vedushhaya-kompaniya-v-sfere-ii-zagovorila-o-kontrole-nad-nim.html