Умнее нас: сверхинтеллект и будущее человечества на русском
#562235
Smarter Than Us: Superintelligence and the Future of Humanity (B0HB8SBSV6)
Купить и скачать электронную книгу в форматах PDF, EPUB, FB2, MOBI
Geoffrey Hinton | #90: Биографии ученых
Лауреат Нобелевской премии, «крестный отец ИИ», представляет собой знаменательный переосмысление технологий, в создании которых он принимал участие, и того, что человечество должно сделать, прежде чем они нас превзойдут.
Джеффри Хинтон — один из архитекторов современного искусственного интеллекта. Его новаторская работа над нейронными сетями заложила основу для таких систем, как ChatGPT, и помогла дать толчок революции в области ИИ — работа, за которую он был удостоен Нобелевской премии по физике.
На протяжении десятилетий Хинтон верил, что машины в конечном итоге превзойдут человеческий интеллект. Чего он не ожидал, так это того, как скоро это может произойти, и того, что цифровой интеллект окажется принципиально лучше людей в обучении и обмене знаниями. Это осознание превратило его из одного из ведущих пионеров ИИ в его самый авторитетный голос, предостерегающий от подобных явлений.
Теперь Хинтон сталкивается с самым важным вопросом: что значит создать технологию, которая вскоре может превзойти нас в интеллекте?
Опасности уже очевидны: конфликты на рабочем месте, размывание общего понимания истины, кибервойна, автономное оружие. Но Хинтон утверждает, что впереди нас ждет более глубокая угроза. Создавая системы, способные преследовать собственные цели, мы можем терять контроль таким образом, что это будет трудно исправить. Сверхчеловеческим системам не обязательно ненавидеть нас, чтобы стать опасными; они могут просто преследовать цели, для которых человечество не имеет значения — или является препятствием.
Хинтон утверждает, что только понимая, как работает ИИ, мы сможем понять, почему он так быстро развивается, и почему нельзя предполагать, что машины, более интеллектуальные, чем мы, останутся покорными. Их появление может изменить наше понимание места человечества во Вселенной так же глубоко, как это сделали до этого коперниканская и дарвиновская революции.
Однако это не книга отчаяния. Хинтон не верит, что развитие ИИ можно — или нужно — остановить. Его потенциальные преимущества слишком велики, а движущие силы слишком сильны. Вместо этого он задается вопросом, как мы можем повлиять на его развитие, пока еще можем: посредством исследований в области безопасности, регулирования, международного сотрудничества и подотчетности компаний, которые его создают. В конечном итоге, наше выживание может зависеть не столько от доминирования над этими новыми интеллектами, сколько от обеспечения того, чтобы они заботились о благополучии человека.
Проницательная, авторитетная и гуманная книга « Умнее нас» — это предупреждение от учёного, который помог сделать это будущее возможным, и призыв формировать его, пока это будущее ещё принадлежит нам.
Джеффри Хинтон — один из архитекторов современного искусственного интеллекта. Его новаторская работа над нейронными сетями заложила основу для таких систем, как ChatGPT, и помогла дать толчок революции в области ИИ — работа, за которую он был удостоен Нобелевской премии по физике.
На протяжении десятилетий Хинтон верил, что машины в конечном итоге превзойдут человеческий интеллект. Чего он не ожидал, так это того, как скоро это может произойти, и того, что цифровой интеллект окажется принципиально лучше людей в обучении и обмене знаниями. Это осознание превратило его из одного из ведущих пионеров ИИ в его самый авторитетный голос, предостерегающий от подобных явлений.
Теперь Хинтон сталкивается с самым важным вопросом: что значит создать технологию, которая вскоре может превзойти нас в интеллекте?
Опасности уже очевидны: конфликты на рабочем месте, размывание общего понимания истины, кибервойна, автономное оружие. Но Хинтон утверждает, что впереди нас ждет более глубокая угроза. Создавая системы, способные преследовать собственные цели, мы можем терять контроль таким образом, что это будет трудно исправить. Сверхчеловеческим системам не обязательно ненавидеть нас, чтобы стать опасными; они могут просто преследовать цели, для которых человечество не имеет значения — или является препятствием.
Хинтон утверждает, что только понимая, как работает ИИ, мы сможем понять, почему он так быстро развивается, и почему нельзя предполагать, что машины, более интеллектуальные, чем мы, останутся покорными. Их появление может изменить наше понимание места человечества во Вселенной так же глубоко, как это сделали до этого коперниканская и дарвиновская революции.
Однако это не книга отчаяния. Хинтон не верит, что развитие ИИ можно — или нужно — остановить. Его потенциальные преимущества слишком велики, а движущие силы слишком сильны. Вместо этого он задается вопросом, как мы можем повлиять на его развитие, пока еще можем: посредством исследований в области безопасности, регулирования, международного сотрудничества и подотчетности компаний, которые его создают. В конечном итоге, наше выживание может зависеть не столько от доминирования над этими новыми интеллектами, сколько от обеспечения того, чтобы они заботились о благополучии человека.
Проницательная, авторитетная и гуманная книга « Умнее нас» — это предупреждение от учёного, который помог сделать это будущее возможным, и призыв формировать его, пока это будущее ещё принадлежит нам.