Кривая масштабирования: Дарио Амодеи, антропология и гонка за создание и выживание сверхинтеллекта на русском

Он помог открыть законы, которые предсказывают, насколько интеллектуальными станут системы искусственного интеллекта. Затем он понял, что никто не готовится к тому, что произойдет, когда это случится.

В 2021 году Дарио Амодей ушел с поста вице-президента по исследованиям в OpenAI — одной из самых влиятельных должностей в сфере искусственного интеллекта — потому что считал, что организация, которую он помог создать, недостаточно серьезно относится к опасностям, исходящим от ее собственной технологии. Через несколько недель он и его сестра Даниэла вместе с пятью коллегами основали компанию Anthropic, исходя из предпосылки, которую большинство в Силиконовой долине считали парадоксальной: что люди, наиболее напуганные ИИ, должны сами его создавать.

Это исчерпывающее описание той рискованной авантюры — и учёного, оказавшегося в её центре.

Опираясь на обширные исследования и публичные заявления самого Амодеи, Клод Сент-Джон прослеживает путь от увлеченного математикой детства в районе Мишн в Сан-Франциско до основания компании, которую Дарио назвал самой быстрорастущей компанией в истории по своим масштабам. Попутно книга описывает открытие законов масштабирования, которые переписали правила искусственного интеллекта, резкий уход из OpenAI, вызвавший шок в отрасли, почти катастрофическое столкновение с FTX Сэма Бэнкмана-Фрида и создание Клода — системы искусственного интеллекта, обученной не просто быть способной, но и быть хорошей.

В основе этой истории лежит невероятное противоречие. Амодей предупреждал Конгресс, мировых лидеров и общественность о том, что ИИ может быть самой опасной технологией, когда-либо созданной человечеством. Он описывал сценарии, в которых сверхинтеллектуальные системы могут выйти из-под контроля человека, дестабилизировать страны или положить конец цивилизации. И затем каждое утро он возвращается в свой офис и всё равно создаёт их — привлекая десятки миллиардов долларов, чтобы сделать свои модели умнее, быстрее и мощнее. Его защита заключается не в том, что опасность преувеличена. А в том, что именно эта опасность является причиной того, почему именно человек с его пониманием должен этим заниматься.

«Дарио Амодей» — это история о брате и сестре, которые поставили всё на кон ради идеи, к которой мир не был готов. Это история о том, что происходит, когда масштабирующие кривые, обнаруженные одним физиком в исследовательской лаборатории Baidu, начинают менять мировую экономику, баланс сил между странами и сам вопрос о том, что значит быть разумным. Это история о горстке людей, которые предвидели будущее раньше всех — и которым теперь предстоит решить, переживёт ли человечество своё величайшее изобретение.

Эта книга, отчасти биография, отчасти интеллектуальный триллер, отчасти предостережение, задает вопрос, который Дарио Амодеи позаимствовал из «Контакта» Карла Сагана и который он носил в себе двадцать лет: Как вам это удалось? Как вы пережили эту технологическую юность, не разрушив себя?

У нас пока нет ответа. Это история человека, который пытается его найти.