Технологическая сингулярность (серия «Основные знания» издательства MIT Press) на русском
#1071150
The Technological Singularity (The MIT Press Essential Knowledge series) (B08BT1HFSJ)
Купить и скачать электронную книгу в форматах PDF, EPUB, FB2, MOBI
Murray Shanahan | #955: Компьютеры и технологии
Что бы это означало, если бы обычный человеческий интеллект был улучшен — или превзойдён — искусственным интеллектом?
Идея о том, что история человечества приближается к «сингулярности» — что обычные люди когда-нибудь будут вытеснены машинами с искусственным интеллектом или биологическим интеллектом с улучшенными когнитивными способностями, или и тем и другим, — перешла из области научной фантастики в область серьезных дискуссий. Некоторые теоретики сингулярности предсказывают, что если область искусственного интеллекта (ИИ) продолжит развиваться с нынешней головокружительной скоростью, сингулярность может наступить в середине нынешнего столетия. Мюррей Шанахан предлагает введение в идею сингулярности и рассматривает последствия такого потенциально сейсмического события.
Цель Шанахана — не делать прогнозов, а исследовать ряд сценариев. Верим ли мы в то, что сингулярность близка или далека, вероятна или невозможна, является апокалипсисом или утопией, сама эта идея поднимает важнейшие философские и прагматические вопросы, заставляя нас серьезно задуматься о том, чего мы хотим как вид.
Шанахан описывает технологические достижения в области ИИ, как биологически вдохновлённые, так и созданные с нуля. Он объясняет, что после достижения уровня ИИ, сравнимого с человеческим — теоретически возможного, но сложного в реализации — переход к сверхинтеллектуальному ИИ может произойти очень быстро. Шанахан рассматривает, что существование сверхинтеллектуальных машин может означать для таких вопросов, как личность, ответственность, права и идентичность. Некоторые сверхчеловеческие агенты ИИ могут быть созданы на благо человечества; некоторые могут выйти из-под контроля. (Является ли Siri образцом или HAL?) Сингулярность представляет собой как экзистенциальную угрозу для человечества, так и экзистенциальную возможность для человечества преодолеть свои ограничения. Шанахан ясно даёт понять, что нам необходимо представить обе возможности, если мы хотим добиться лучшего результата.
Идея о том, что история человечества приближается к «сингулярности» — что обычные люди когда-нибудь будут вытеснены машинами с искусственным интеллектом или биологическим интеллектом с улучшенными когнитивными способностями, или и тем и другим, — перешла из области научной фантастики в область серьезных дискуссий. Некоторые теоретики сингулярности предсказывают, что если область искусственного интеллекта (ИИ) продолжит развиваться с нынешней головокружительной скоростью, сингулярность может наступить в середине нынешнего столетия. Мюррей Шанахан предлагает введение в идею сингулярности и рассматривает последствия такого потенциально сейсмического события.
Цель Шанахана — не делать прогнозов, а исследовать ряд сценариев. Верим ли мы в то, что сингулярность близка или далека, вероятна или невозможна, является апокалипсисом или утопией, сама эта идея поднимает важнейшие философские и прагматические вопросы, заставляя нас серьезно задуматься о том, чего мы хотим как вид.
Шанахан описывает технологические достижения в области ИИ, как биологически вдохновлённые, так и созданные с нуля. Он объясняет, что после достижения уровня ИИ, сравнимого с человеческим — теоретически возможного, но сложного в реализации — переход к сверхинтеллектуальному ИИ может произойти очень быстро. Шанахан рассматривает, что существование сверхинтеллектуальных машин может означать для таких вопросов, как личность, ответственность, права и идентичность. Некоторые сверхчеловеческие агенты ИИ могут быть созданы на благо человечества; некоторые могут выйти из-под контроля. (Является ли Siri образцом или HAL?) Сингулярность представляет собой как экзистенциальную угрозу для человечества, так и экзистенциальную возможность для человечества преодолеть свои ограничения. Шанахан ясно даёт понять, что нам необходимо представить обе возможности, если мы хотим добиться лучшего результата.