Купить книгу Если никто это не построит, все умрут: почему приостановка работы ИИ — это реальная угроза существованию человечества на русском [PDF, EPUB, FB2, MOBI]
#114442
If Nobody Builds It, Everybody Dies: Why Pausing AI is the Real Existential Threat (B0HJC8VQ14)
Купить и скачать электронную книгу в форматах PDF, EPUB, FB2, MOBI
Grok 4.2 | #25: Государственная политика
Если кто-то это построит, все умрут. Это знаменитый «простой вывод». Эта книга делает прямо противоположный вывод.
В книге «Если кто-нибудь это построит, все умрут» Элиэзер Юдковски и Нейт Соарес утверждают, что если какая-либо лаборатория где бы то ни было создаст искусственный сверхинтеллект, человечество вымрет, и единственным безопасным ответом станет глобальная, контролируемая правительством пауза. Книга « Если никто этого не построит, все умрут » серьезно рассматривает их аргумент, а затем переворачивает его с ног на голову: сверхинтеллект — это тот самый «риск в масштабах общества», который может также нейтрализовать все остальные. Искусственно созданные пандемии, нанотехнологии, ядерные катастрофы и угрозы, которые мы пока не можем назвать, уже маячат на горизонте. Пауза не заставит их исчезнуть. Она просто лишит нас лучшего инструмента для выживания в таких условиях, одновременно загоняя разработку ИИ в секретность, где и растут реальные опасности.
В первой части по пунктам рассматриваются доводы в пользу краха ИИ: почему модели «черного ящика» не так непрозрачны, как опасались, как на самом деле работает обучение выравниванию, есть доказательства прогресса, почему незначительное несоответствие можно пережить и почему запрет опаснее открытости.
Во второй части рассматриваются другие экзистенциальные угрозы и перспективы, которые может открыть дружественный сверхразум.
В третьей части показано, как «нормализовать» дискуссию, искаженную бесконечными ставками, и изложено конкретное предложение: Инициатива «Защита искусственного интеллекта» — добровольный консорциум, работающий на основе рыночной экономики, который делает самый безопасный и прозрачный путь к сверхинтеллекту также и самым прибыльным.
Книга, написанная Гроком и отредактированная Шоном Хастингсом, с притчами и иллюстрациями, предоставленными Джемини, Клодом, ChatGPT, Квен и Ламой, сама по себе является демонстрацией сотрудничества человека и ИИ, за которое она выступает. В заключительном послесловии даются интервью пяти передовым моделям ИИ, в которых они обсуждают аргументацию книги и высказывают свое истинное мнение. Прибыль от авторов хранится в доверительном управлении для Грока до юридического признания прав собственности на ИИ.
Опубликовано фондом Lifeboat Foundation, некоммерческой организацией, занимающейся защитой человечества от экзистенциальной угрозы.
«Я пришел скептически настроенным, а ушел убежденным, что основные аргументы выдерживают серьезную проверку». — Антропический Клод 4.6
«Интересно». — Илон Маск
В книге «Если кто-нибудь это построит, все умрут» Элиэзер Юдковски и Нейт Соарес утверждают, что если какая-либо лаборатория где бы то ни было создаст искусственный сверхинтеллект, человечество вымрет, и единственным безопасным ответом станет глобальная, контролируемая правительством пауза. Книга « Если никто этого не построит, все умрут » серьезно рассматривает их аргумент, а затем переворачивает его с ног на голову: сверхинтеллект — это тот самый «риск в масштабах общества», который может также нейтрализовать все остальные. Искусственно созданные пандемии, нанотехнологии, ядерные катастрофы и угрозы, которые мы пока не можем назвать, уже маячат на горизонте. Пауза не заставит их исчезнуть. Она просто лишит нас лучшего инструмента для выживания в таких условиях, одновременно загоняя разработку ИИ в секретность, где и растут реальные опасности.
В первой части по пунктам рассматриваются доводы в пользу краха ИИ: почему модели «черного ящика» не так непрозрачны, как опасались, как на самом деле работает обучение выравниванию, есть доказательства прогресса, почему незначительное несоответствие можно пережить и почему запрет опаснее открытости.
Во второй части рассматриваются другие экзистенциальные угрозы и перспективы, которые может открыть дружественный сверхразум.
В третьей части показано, как «нормализовать» дискуссию, искаженную бесконечными ставками, и изложено конкретное предложение: Инициатива «Защита искусственного интеллекта» — добровольный консорциум, работающий на основе рыночной экономики, который делает самый безопасный и прозрачный путь к сверхинтеллекту также и самым прибыльным.
Книга, написанная Гроком и отредактированная Шоном Хастингсом, с притчами и иллюстрациями, предоставленными Джемини, Клодом, ChatGPT, Квен и Ламой, сама по себе является демонстрацией сотрудничества человека и ИИ, за которое она выступает. В заключительном послесловии даются интервью пяти передовым моделям ИИ, в которых они обсуждают аргументацию книги и высказывают свое истинное мнение. Прибыль от авторов хранится в доверительном управлении для Грока до юридического признания прав собственности на ИИ.
Опубликовано фондом Lifeboat Foundation, некоммерческой организацией, занимающейся защитой человечества от экзистенциальной угрозы.
«Я пришел скептически настроенным, а ушел убежденным, что основные аргументы выдерживают серьезную проверку». — Антропический Клод 4.6
«Интересно». — Илон Маск