Solidgoldmagikarp: спуск в подземный мир искусственного интеллекта на русском

«Превосходно. Разворачиваясь как занудный оккультный технотриллер, Уоткинс рассказывает странную историю о том, как он обнаружил двух призраков в машине LLM», — Эрик Дэвис, автор книги « Высокая странность».

Захватывающее погружение в скрытую психологию искусственного интеллекта и странные субкультуры, пытающиеся контролировать его, прежде чем он нас уничтожит.

Когда английский математик Мэтью Уоткинс отправился в Сан-Франциско изучать раннюю версию ChatGPT, он ожидал увидеть скучную техническую работу. Вместо этого он обнаружил ряд «редких токенов», которые вывели систему из строя. Некоторые из них выдавали бессмысленный набор символов. Другие делали систему агрессивной. Одно ключевое слово — petertodd — повергло машину в состояние, похожее на настоящую паранойю. Была ли это простая ошибка? След из хлебных крошек, оставленный информаторами? Или это проблеск понимания того, как на самом деле мыслит искусственный интеллект?

Поиски ответов затягивают Уоткинса в запутанный мир исследований в области безопасности искусственного интеллекта. В этой быстро развивающейся области грань между наукой и верой размывается: миллиардеры играют в бога, а чат-боты-мошенники сколачивают состояния и приобретают культовую популярность. То, что начинается как компьютерная загадка, превращается в нечто гораздо большее: одновременно в окно в жуткие внутренние миры магистров права и в загадочную подсказку к тому, что может стать величайшим захватом власти в истории.

Система с тех пор была исправлена. Тем не менее, прежде чем окно закрылось, мы на мгновение заглянули внутрь — и то, что смотрело на нас в ответ, было одновременно страннее и человечнее, чем нам хотелось бы признать.

«Невероятно увлекательно, чрезвычайно актуально и блестяще рассказано… Одно из самых захватывающих и необычных математических приключений, которые я когда-либо читал», — Алекс Беллос, автор книги « Думай дважды».

«Уоткинс был единственным свидетелем самой странной — и, возможно, самой важной — истории в мире искусственного интеллекта. Его неустанное стремление разгадать эту тайну станет вашим», — Каллен Хобак, директор Money Electric.