Строим LLM с нуля
Год издания: 2025
Автор: Рашка С.
Издательство: Питер
ISBN: 978-5-4461-4325-2
Язык: Русский
Формат: PDF
Качество: Издательский макет или текст (eBook)
Интерактивное оглавление: Да
Количество страниц: 384
Описание: «Строим LLM с нуля» — это чрезвычайно занимательное путешествие в основы генеративного ИИ. Не полагаясь на существующие библиотеки LLM, вы реализуете в коде базовую модель, превратите ее в классификатор текста и в конечном счете создадите чат-бот, который сможет следовать вашим инструкциям в диалоге. И вы действительно поймете LLM, потому что создали ее сами!
https://search.rsl.ru/ru/record/01014656493
Предисловие............................................................................................................................ 11
Глава 1. Знакомство с большими языковыми моделями........................................ 22
Глава 2. Работа с текстовыми данными......................................................................... 40
Глава 3. Программирование механизмов внимания................................................. 76
Глава 4. Создание GPT-подобной модели для генерации текста с нуля......... 122
Глава 5. Предварительное обучение на неразмеченных данных........................ 160
Глава 6. Тонкая настройка по классификации......................................................... 204
Глава 7. Тонкая настройка по инструкциям.............................................................. 242
Приложение А. Введение в PyTorch............................................................................ 292
Приложение Б. Ссылки и дополнительные источники........................................ 335
Приложение В. Решения упражнений........................................................................ 347
Приложение Г. Добавление новых возможностей в процесс обучения........... 359
Приложение Д. Эффективная настройка параметров с помощью LoRA....... 368
Отредактировано Лис (2026-05-15 19:04:18)