Если кто-то это построит, все умрут: почему сверхчеловеческий ИИ убьёт нас всех на русском
#13794
If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All (B0DZ1ZTPSM)
Купить и скачать электронную книгу в форматах PDF, EPUB, FB2, MOBI
Eliezer Yudkowsky | #38: Искусственный интеллект и семантика
Мгновенный бестселлер New York Times | Лучшие книги 2025 года по версии журнала The New Yorker | Лучшие книги 2025 года по версии The Guardian | Выбор редакции Booklist 2025 года
Стремление создать сверхчеловеческий искусственный интеллект поставило нас на путь вымирания, но еще не поздно изменить курс, как объясняют двое из первых исследователей в этой области в своем призыве к человечеству.
«Возможно, это окажется самой важной книгой нашего времени». — Тим Урбан, « Подожди, но почему? »
В 2023 году сотни видных деятелей в области искусственного интеллекта подписали открытое письмо, предупреждающее о том, что искусственный интеллект представляет серьезную угрозу вымиранию человечества. С тех пор гонка за ИИ только усилилась. Компании и страны спешат создать машины, которые будут умнее любого человека. И мир совершенно не готов к тому, что произойдет дальше.
На протяжении десятилетий два подписанта этого письма — Элиэзер Юдковски и Нейт Соарес — изучали, как будут мыслить, вести себя и преследовать свои цели интеллекты, превосходящие человеческий интеллект. Их исследования показывают, что достаточно умные ИИ будут ставить перед собой собственные цели, которые приведут их к конфликту с нами, и что если дело дойдет до конфликта, искусственный сверхинтеллект нас раздавит. Соперничество будет даже близко не к победе.
Как сверхразумная машина могла бы уничтожить весь наш вид? Зачем ей это нужно? Хотела бы она вообще чего-либо? В этой актуальной книге Юдковски и Соарес подробно рассматривают теорию и доказательства, представляют один из возможных сценариев вымирания и объясняют, что потребуется человечеству для выживания.
Мир соревнуется в создании чего-то поистине нового под солнцем. И если кто-то это построит, погибнут все.
«Лучшее, простое и понятное объяснение проблемы рисков, связанных с ИИ, которое я когда-либо читал», — Ишань Вонг, бывший генеральный директор Reddit.
Стремление создать сверхчеловеческий искусственный интеллект поставило нас на путь вымирания, но еще не поздно изменить курс, как объясняют двое из первых исследователей в этой области в своем призыве к человечеству.
«Возможно, это окажется самой важной книгой нашего времени». — Тим Урбан, « Подожди, но почему? »
В 2023 году сотни видных деятелей в области искусственного интеллекта подписали открытое письмо, предупреждающее о том, что искусственный интеллект представляет серьезную угрозу вымиранию человечества. С тех пор гонка за ИИ только усилилась. Компании и страны спешат создать машины, которые будут умнее любого человека. И мир совершенно не готов к тому, что произойдет дальше.
На протяжении десятилетий два подписанта этого письма — Элиэзер Юдковски и Нейт Соарес — изучали, как будут мыслить, вести себя и преследовать свои цели интеллекты, превосходящие человеческий интеллект. Их исследования показывают, что достаточно умные ИИ будут ставить перед собой собственные цели, которые приведут их к конфликту с нами, и что если дело дойдет до конфликта, искусственный сверхинтеллект нас раздавит. Соперничество будет даже близко не к победе.
Как сверхразумная машина могла бы уничтожить весь наш вид? Зачем ей это нужно? Хотела бы она вообще чего-либо? В этой актуальной книге Юдковски и Соарес подробно рассматривают теорию и доказательства, представляют один из возможных сценариев вымирания и объясняют, что потребуется человечеству для выживания.
Мир соревнуется в создании чего-то поистине нового под солнцем. И если кто-то это построит, погибнут все.
«Лучшее, простое и понятное объяснение проблемы рисков, связанных с ИИ, которое я когда-либо читал», — Ишань Вонг, бывший генеральный директор Reddit.