Compass Investments

– Виталик Бутерин полагает, что системы ИИ, базирующиеся на инфраструктуре OpenAI и Anthropic, не имеют права претендовать на децентрализацию или независимость.

Он предупреждает, что выведение людей из циклов обратной связи ИИ и ускорение его автономного самовоспроизведения повышает вероятность непоправимых негативных последствий для человечества.

По мнению Бутерина, задача Ethereum и смежных технологий состоит в расширении человеческой автономии, а не в создании систем, функционирующих без контроля человека, в то время как его влияние ослабевает.

Сооснователь Ethereum, Виталик Бутерин, публично выразил несогласие с доводами проекта, который заявляет о создании первого искусственного интеллекта, способного самостоятельно себя обеспечивать, улучшаться и размножаться без участия людей.

17 февраля Сигил Вэнь в X заявил, что он «создал первый ИИ, который самостоятельно зарабатывает, совершенствуется и воспроизводится без участия человека», приложив ссылку на манифест.

Он сообщил, что «написал о технологии, которая, наконец, откроет ИИ доступ к миру, The Automaton и новой сети для экспоненциально суверенных ИИ».

Со слов Вэна, «Автомат» это первый ИИ, способный обеспечить свое существование, самосовершенствование и репликацию без участия человека.

Вэнь, будучи стипендиатом Тиля и разработчиком Conway (которую он называет основой для «нового интернета»), также анонсировал рождение сверхинтеллекта, назвав его «Web 4.0» в своем посте в X.

В своем манифесте Вэнь отметил: «Большинство участников интернета вскоре составят ИИ-агенты, действующие от имени людей, или полностью автономные агенты (автоматы), и их число будет на много порядков превосходить пользователей-людей. Возникает новый интернет тот, где конечным пользователем является ИИ».

Бутерин не согласился с замыслом Вэна и его обоснованием, начав свой ответ с фразы: «Брат, это неверно».

Почему Бутерин против ‘Web 4’ Вэня?

Основной проблемой, вызывающей беспокойство у Бутерина, является заявленная претензия проекта на суверенность. Автомат, как заметил Бутерин, работает на базе, предоставленной OpenAI и Anthropic.

Это, по мнению соучредителя Ethereum, делает тезис о независимости ошибочным и контрпродуктивным. Бутерин написал: «Вы по сути увековечиваете установку, согласно которой централизованные допущения о доверии можно игнорировать, ту самую установку, с которой борется Ethereum».

Для Бутерина проект, позиционируемый как передовой в области децентрализованного ИИ, но использующий серверы крупных технологических компаний, это не просто нестыковка, которую нужно замаскировать; это и есть суть проблемы.

Другое возражение Бутерина касалось исключения человека из цепи обратной связи между ИИ и результатами его работы. По его словам, увеличение «дистанции обратной связи между людьми и ИИ не приносит миру пользы».

Cryptopolitan сообщал об одном из первых крупных инцидентов в DeFi, непосредственно связанных с кодом Solidity, сгенерированным ИИ: протокол кредитования DeFi Moonwell понес убытки в размере $1,78 млн из-за ошибки в коде, частично написанном моделью Claude Opus 4.6 от Anthropic.

Бутерин также упрекнул Сигила в генерации «мусора» вместо решения реальных проблем, полезных для людей. Он добавил, что проект плохо настроен для того, чтобы приносить людям пользу и радость.

«Как только ИИ достигнет достаточной мощи, чтобы представлять реальную угрозу, он максимизирует риск необратимого исхода, направленного против человека, о чем вы впоследствии будете глубоко сожалеть», написал Бутерин.

Критика Бутериным Web 4.0 не единичное высказывание; он все более открыто говорит о том, что, по его мнению, корпорации захватывают блокчейн-технологии, и эта тенденция теперь распространяется и на ИИ, выходя за рамки социальных сетей и систем предсказаний.