Миф о выравнивании: почему ИИ кажется правильным, но ошибается на русском

Все только и говорят об искусственном интеллекте. Об этом говорят в вечерних новостях и ток-шоу. Скорее всего, ваша компания или школа вводят новые правила и внедряют ИИ с помпой и большими ожиданиями.

В книге «Миф о выравнивании» Джордж Кэмпбелл задает вопрос: «Что, черт возьми, здесь происходит?»

В поисках ответов он погружает читателей в сложные взаимоотношения человека и ИИ, используя истории реальных людей, новейшие академические исследования и отсылки к поп-культуре, которые делают историю ИИ понятной для аудитории от школьников до пенсионеров. Только Кэмпбелл мог бы включить в книгу отсылки к Сократу, C-3PO, Ленни из «Помни» , Марилу Хеннер, HAL 9000 и Тайгеру Вудсу, чтобы объяснить, как ИИ уже влияет на человеческий мир.

Он говорит с точки зрения широкой публики, людей, которые имеют дело с ИИ, но у которых никогда не спрашивали разрешения. В его главах рассматривается, как работает ИИ, как он финансируется и как уже влияет на детей, учителей и обычных людей. Он затрагивает вопросы центров обработки данных и сопутствующих приложений, а также задает несколько сложных вопросов технологической индустрии, чтобы оправдать все это. И он связывает все это не с технологией, а с людьми, принимающими решения.

«Несоответствия» в понимании ИИ, описанные Кэмпбеллом, обнаруживаются в трех местах:

• Модели: Искусственный интеллект обучается удовлетворять потребности пользователя и обеспечивать точность, создавая напряжение между тем, чтобы говорить нам правду, и тем, что мы хотим услышать.

• Деньги: Гонка за созданием более мощного ИИ поглощает колоссальные объемы капитала, в то время как компании изо всех сил пытаются продемонстрировать, откуда будет получена устойчивая прибыль.

• Физический мир: Искусственный интеллект может казаться безграничным, но инфраструктура, лежащая в его основе, — нет. Для центров обработки данных требуются земля, электричество, вода, микросхемы, передача данных и все более дефицитные ресурсы.

Кэмпбелл связывает эти факторы, чтобы объяснить, почему ИИ может казаться таким способным, но при этом оставаться таким сложным для доверия, и почему самые большие проблемы отрасли могут быть связаны не только с самой технологией, но и с экономикой, стимулами, инфраструктурой и поведением человека.

Книга «Миф о согласованности» — это отчасти объяснение технических аспектов, отчасти психологическое исследование, отчасти руководство по политике и экономике индустрии ИИ, в котором разбираются причины естественной реакции людей на ИИ, создавая ощущение правильности технологии, но при этом допуская ошибки.

Книга «Миф о выравнивании», написанная для профессионалов, студентов, преподавателей и любознательных читателей всех возрастов, не имеющих отношения к технической сфере, предлагает трезвый взгляд на то, что такое ИИ, что им движет, в чем заключаются его ограничения и на что следует обращать внимание по мере его внедрения в повседневную жизнь. Кэмпбелл избегает обычных утопических или апокалиптических трактовок, предоставляя читателям основу для понимания этой важной технологии.

Как он пишет в книге: «Механизмы не скрыты. Как только вы узнаете, куда смотреть, вы уже не сможете перестать их замечать».