Машина безответственности: почему крупные системы принимают ужасные решения — и как мир сошел с ума на русском
#52495
The Unaccountability Machine: Why Big Systems Make Terrible Decisions—and How the World Lost Its Mind (B0DPXPD38B)
Купить и скачать электронную книгу в форматах PDF, EPUB, FB2, MOBI
Dan Davies | #45: Автоматизация и проектирование
Вошла в длинный список номинантов на премию «Книга года» по версии Financial Times за 2024 год. Как жизнь и экономика превратились в «черный ящик» — набор систем, которые никто не понимает, порождающих результаты, которые никому не нравятся.
Пассажиров снимают с рейсов. Телефонные меню отключаются. Автоматизированные финансовые операции приводят к обрушению рынка. Из всех проблем современной жизни одни из самых сложных связаны с нашими отношениями с автоматизацией: большая система причиняет нам вред, и мы ничего не можем с этим поделать.
Как показывает экономист Дэн Дэвис, проблема заключается в «ловушках подотчетности» : системах, в которых решения делегируются сложному своду правил или набору стандартных процедур, что делает невозможным выявление источника ошибок, когда они происходят. В нашем все более бесчеловечном мире — мире, где доминируют алгоритмы, искусственный интеллект и крупные организации — эти «ловушки подотчетности» порождают не только раздражение. Они делают жизнь и экономику непознаваемыми — черным ящиком без всякой причины.
В книге «Машина безответственности » Дэвис раскрывает, как рынки, институты и даже правительства систематически генерируют результаты, которые, похоже, никому — даже тем, кто участвует в их создании — не нужны. С самых первых дней компьютерной эры теоретики предвидели опасность сложных систем без личной ответственности. В ответ на это британский специалист по бизнесу Стаффорд Бир разработал подход к управлению, основанный на принципе ответственности, названный «кибернетикой», который мог бы получить широкое распространение, если бы его крупнейший клиент (чилийское правительство) не пал жертвой кровавого переворота в 1973 году.
В свойственной ему манере сочетаются экономический и журналистский подход, и Дэвис исследует, что пошло не так со времен Бира, в том числе, что могло бы произойти, если бы мир принял кибернетику, когда у него была такая возможность. «Машина безответственности» — это откровение и глубокое исследование того, как современная жизнь стала предрасположена к дисфункции.
Пассажиров снимают с рейсов. Телефонные меню отключаются. Автоматизированные финансовые операции приводят к обрушению рынка. Из всех проблем современной жизни одни из самых сложных связаны с нашими отношениями с автоматизацией: большая система причиняет нам вред, и мы ничего не можем с этим поделать.
Как показывает экономист Дэн Дэвис, проблема заключается в «ловушках подотчетности» : системах, в которых решения делегируются сложному своду правил или набору стандартных процедур, что делает невозможным выявление источника ошибок, когда они происходят. В нашем все более бесчеловечном мире — мире, где доминируют алгоритмы, искусственный интеллект и крупные организации — эти «ловушки подотчетности» порождают не только раздражение. Они делают жизнь и экономику непознаваемыми — черным ящиком без всякой причины.
В книге «Машина безответственности » Дэвис раскрывает, как рынки, институты и даже правительства систематически генерируют результаты, которые, похоже, никому — даже тем, кто участвует в их создании — не нужны. С самых первых дней компьютерной эры теоретики предвидели опасность сложных систем без личной ответственности. В ответ на это британский специалист по бизнесу Стаффорд Бир разработал подход к управлению, основанный на принципе ответственности, названный «кибернетикой», который мог бы получить широкое распространение, если бы его крупнейший клиент (чилийское правительство) не пал жертвой кровавого переворота в 1973 году.
В свойственной ему манере сочетаются экономический и журналистский подход, и Дэвис исследует, что пошло не так со времен Бира, в том числе, что могло бы произойти, если бы мир принял кибернетику, когда у него была такая возможность. «Машина безответственности» — это откровение и глубокое исследование того, как современная жизнь стала предрасположена к дисфункции.