Купить книгу Проблема согласования: машинное обучение и человеческие ценности на русском [PDF, EPUB, FB2, MOBI]

«Если вы собираетесь прочитать одну книгу об искусственном интеллекте, то это должна быть именно эта». — Стивен Марче, New York Times

Потрясающее исследование всех проблем, возникающих при создании систем искусственного интеллекта, и движения за их решение.

Современные системы «машинного обучения», обученные на данных, настолько эффективны, что мы пригласили их видеть и слышать за нас — и принимать решения от нашего имени. Но тревожные сигналы звучат. В последние годы наблюдается всплеск обеспокоенности по мере развития области машинного обучения. Когда системы, которым мы пытаемся научить, в конечном итоге не делают того, что мы хотим или ожидаем, возникают этические и потенциально экзистенциальные риски. Исследователи называют это проблемой согласования.

Системы отбирают резюме до тех пор, пока спустя годы мы не обнаружим в них скрытые гендерные предубеждения. Алгоритмы принимают решения о залоге и условно-досрочном освобождении — и, похоже, оценивают чернокожих и белых обвиняемых по-разному. Мы больше не можем предполагать, что наше заявление на ипотеку или даже наши медицинские заключения будут просмотрены человеком. И по мере того, как беспилотные автомобили появляются на наших улицах, мы все больше доверяем им свою жизнь.

Математические и вычислительные модели, лежащие в основе этих изменений, варьируются по сложности от чего-то, что можно уместить в электронной таблице, до сложной системы, которую вполне можно назвать «искусственным интеллектом». Они неуклонно вытесняют как человеческое суждение, так и явно запрограммированное программное обеспечение.

В захватывающем повествовании автора бестселлеров Брайана Кристиана мы знакомимся с «первыми, кто отреагировал на проблему выравнивания» и узнаем об их амбициозном плане решения этой проблемы до того, как мы окончательно потеряем контроль над ситуацией. Мастерски сочетая историю и репортажи с места событий, Кристиан прослеживает стремительный рост области машинного обучения и исследует ее нынешние, обширные горизонты. Читатели знакомятся с дисциплиной, которая только начинает развиваться на фоне захватывающего и порой пугающего прогресса. Удастся ли им — и нам — преуспеть или потерпеть неудачу в решении проблемы выравнивания, станет определяющей историей человечества.

Книга «Проблема выравнивания» предлагает бескомпромиссное осмысление человеческих предубеждений и слепых зон, наших собственных невысказанных предположений и зачастую противоречивых целей. Это блестяще междисциплинарное произведение пристально рассматривает не только наши технологии, но и нашу культуру, и в итоге представляет собой историю, одновременно душераздирающую и вселяющую надежду.