Купить книгу Создание модели рассуждений (с нуля) на русском [PDF, EPUB, FB2, MOBI]
#65636
Build a Reasoning Model (From Scratch) (B0G9527JDW)
Купить и скачать электронную книгу в форматах PDF, EPUB, FB2, MOBI
Sebastian Raschka | #97: Алгоритмическое программирование
Получите электронную книгу бесплатно, зарегистрировав печатную версию на сайте Manning.
«Исключительно глубокое погружение в новые горизонты искусственного интеллекта».
—Аман Чадха, Google
Эта книга — практическое руководство по пониманию принципов работы современных LLM, ориентированных на логическое мышление, путем пошагового построения их основных методов. Книга излагает понятную инженерную концепцию: начнем с обычной предварительно обученной LLM, изучим принцип генерации текста, создадим надежные инструменты оценки, улучшим логическое мышление с помощью методов, работающих в режиме вывода, а затем перейдем к подходам, основанным на обучении, таким как обучение с подкреплением и дистилляция.
Последовательность изложения продумана. В первых главах закладывается базовая модель и объясняются принципы генерации текста, кэширования ключ-значение и оценки с помощью математических верификаторов. В средних главах показано, как можно улучшить рассуждения без изменения весов модели, используя подсказки в виде цепочки мыслей, выборку, самосогласованность, оценку ответов и самосовершенствование. В последующих главах рассматриваются изменения самой модели посредством обучения с подкреплением с проверяемыми вознаграждениями, улучшения GRPO, вознаграждения за формат и, наконец, дистилляция более сильных моделей рассуждений в более мелкие.
Книга особенно полезна, потому что в ней основные методы реализованы с нуля, а не рассматриваются как вызовы библиотек типа «черный ящик». Читатели видят, как на самом деле работают самосогласованность, самоуточнение, метод «лучший из N» и методы, основанные на обучении, включая их компромиссы в отношении стоимости и задержки. В ней также обсуждаются распространенные режимы сбоев, в том числе случаи, когда уточнение может ухудшить результаты. Сложные понятия, такие как softmax, температура и выборка top-p, разъясняются с помощью пояснений и диаграмм, связанных с кодом, а визуальные рабочие процессы упрощают понимание конвейеров и методов оценки.
Чтение этой книги больше похоже на следование пошаговому техническому плану разработки, чем на поверхностный обзор тем искусственного интеллекта. Каждая концепция вводится потому, что она необходима проекту. Диаграммы, дорожные карты, листинги кода, упражнения и повторяющиеся описания рабочих процессов помогают читателям ориентироваться в сложном материале. Такая структура отражает профессиональную силу Себастьяна Рашки : он объясняет сложные темы машинного обучения, делая каждую деталь конкретной и точно показывая, где каждый раздел находится в общей картине. Он не рассматривает такие механизмы, как оценка, логарифмические вероятности, регуляризация Кульбака-Лейблера или дистилляция, как изолированные абстракции; он связывает их с целью сделать модели рассуждений понятными и реализуемыми.
В физическом и организационном плане книга состоит из восьми глав и семи обширных приложений. Такая структура позволяет сосредоточить основное повествование, одновременно размещая вспомогательные материалы, такие как ссылки, решения задач, исходный код моделей, более крупные модели, пакетная обработка, альтернативные варианты оценки и интерфейсы чата, в упорядоченных приложениях. В результате получается логически выстроенная книга, которая остается практичной, удобной для навигации и технически глубокой, не прерывая постоянно основную структуру.
Что внутри?
О читателе
Для читателей, знакомых с Python и имеющих базовые знания в области машинного обучения.
Об авторе
Себастьян Рашка — инженер-исследователь с магистерской степенью в области права, имеющий более чем десятилетний опыт работы. Он является автором бестселлера « Создание большой языковой модели (с нуля)».
«Исключительно глубокое погружение в новые горизонты искусственного интеллекта».
—Аман Чадха, Google
Эта книга — практическое руководство по пониманию принципов работы современных LLM, ориентированных на логическое мышление, путем пошагового построения их основных методов. Книга излагает понятную инженерную концепцию: начнем с обычной предварительно обученной LLM, изучим принцип генерации текста, создадим надежные инструменты оценки, улучшим логическое мышление с помощью методов, работающих в режиме вывода, а затем перейдем к подходам, основанным на обучении, таким как обучение с подкреплением и дистилляция.
Последовательность изложения продумана. В первых главах закладывается базовая модель и объясняются принципы генерации текста, кэширования ключ-значение и оценки с помощью математических верификаторов. В средних главах показано, как можно улучшить рассуждения без изменения весов модели, используя подсказки в виде цепочки мыслей, выборку, самосогласованность, оценку ответов и самосовершенствование. В последующих главах рассматриваются изменения самой модели посредством обучения с подкреплением с проверяемыми вознаграждениями, улучшения GRPO, вознаграждения за формат и, наконец, дистилляция более сильных моделей рассуждений в более мелкие.
Книга особенно полезна, потому что в ней основные методы реализованы с нуля, а не рассматриваются как вызовы библиотек типа «черный ящик». Читатели видят, как на самом деле работают самосогласованность, самоуточнение, метод «лучший из N» и методы, основанные на обучении, включая их компромиссы в отношении стоимости и задержки. В ней также обсуждаются распространенные режимы сбоев, в том числе случаи, когда уточнение может ухудшить результаты. Сложные понятия, такие как softmax, температура и выборка top-p, разъясняются с помощью пояснений и диаграмм, связанных с кодом, а визуальные рабочие процессы упрощают понимание конвейеров и методов оценки.
Чтение этой книги больше похоже на следование пошаговому техническому плану разработки, чем на поверхностный обзор тем искусственного интеллекта. Каждая концепция вводится потому, что она необходима проекту. Диаграммы, дорожные карты, листинги кода, упражнения и повторяющиеся описания рабочих процессов помогают читателям ориентироваться в сложном материале. Такая структура отражает профессиональную силу Себастьяна Рашки : он объясняет сложные темы машинного обучения, делая каждую деталь конкретной и точно показывая, где каждый раздел находится в общей картине. Он не рассматривает такие механизмы, как оценка, логарифмические вероятности, регуляризация Кульбака-Лейблера или дистилляция, как изолированные абстракции; он связывает их с целью сделать модели рассуждений понятными и реализуемыми.
В физическом и организационном плане книга состоит из восьми глав и семи обширных приложений. Такая структура позволяет сосредоточить основное повествование, одновременно размещая вспомогательные материалы, такие как ссылки, решения задач, исходный код моделей, более крупные модели, пакетная обработка, альтернативные варианты оценки и интерфейсы чата, в упорядоченных приложениях. В результате получается логически выстроенная книга, которая остается практичной, удобной для навигации и технически глубокой, не прерывая постоянно основную структуру.
Что внутри?
- Реализация с нуля основных улучшений в области логического мышления LLM.
- Методы оценки на основе верификаторов
- Обучение с подкреплением с автоматическими верификаторами для математических задач
О читателе
Для читателей, знакомых с Python и имеющих базовые знания в области машинного обучения.
Об авторе
Себастьян Рашка — инженер-исследователь с магистерской степенью в области права, имеющий более чем десятилетний опыт работы. Он является автором бестселлера « Создание большой языковой модели (с нуля)».