Книги / AI и ML / LLM / Domain-Specific Small Language Models: Efficient AI for local deployment

Domain-Specific Small Language Models: Efficient AI for local deployment

Guglielmo Iozzia
LLM
#small language models#Fine-tuning#quantization#ONNX#local deployment#RAG#Transformers

Эта книга посвящена созданию и развертыванию эффективных небольших языковых моделей (SLM), специализированных для конкретных предметных областей. Автор Guglielmo Iozzia предлагает практическое руководство по всему жизненному циклу таких моделей — от подготовки данных и тонкой настройки (fine-tuning) до оптимизации, профилирования и локального развертывания.

В первой части книги рассматриваются основы архитектуры трансформеров и преимущества небольших моделей перед гигантскими LLM. Вторая часть погружает в технические детали: тонкая настройка BERT и GPT, работа с ONNX, квантизация для production-среды. Третья часть демонстрирует реальные кейсы — генерацию Python-кода и предсказание структур белков.

Заключительные главы охватывают продвинутые техники квантизации, профилирование производительности, развертывание на серверах и ноутбуках, а также создание полноценных LLM-приложений с RAG и агентными компонентами. Книга ориентирована на практикующих ML-инженеров и разработчиков, стремящихся внедрять ИИ в условиях ограниченных вычислительных ресурсов.

Похожие книги

Domain-Specific Languages in R: Advanced Statistical Programming

Domain-Specific Languages in R: Advanced Statistical Programming

Thomas Mailund

Generative AI on Kubernetes: Operationalizing Large Language Models

Generative AI on Kubernetes: Operationalizing Large Language Models

Roland Huß, Daniele Zonca

Privacy and Security for Large Language Models: Hands-On Privacy-Preserving Techniques for Personalized AI

Privacy and Security for Large Language Models: Hands-On Privacy-Preserving Techniques for Personalized AI

Baihan Lin

Generative AI on Microsoft Azure: From Large Language Models to Advanced Multi-Agent Systems

Generative AI on Microsoft Azure: From Large Language Models to Advanced Multi-Agent Systems

Adrián González Sánchez, Jaime De Mora, Jorge García Ximénez

Mastering Large Language Models with Python: Unleash the Power of Advanced Natural Language Processing for Enterprise Innovation and Efficiency Using Large Language Models (LLMs) with Python

Mastering Large Language Models with Python: Unleash the Power of Advanced Natural Language Processing for Enterprise Innovation and Efficiency Using Large Language Models (LLMs) with Python

Raj Arun R

Building Generative AI Applications with Opensource Libraries: Practical guide to implementing large language models

Building Generative AI Applications with Opensource Libraries: Practical guide to implementing large language models

Srikannan Balakrishnan

Scaling Enterprise Solutions with Large Language Models: Comprehensive End-to-End Generative AI Solutions for Production-Grade Enterprise Solutions

Scaling Enterprise Solutions with Large Language Models: Comprehensive End-to-End Generative AI Solutions for Production-Grade Enterprise Solutions

Arindam Ganguly

Machine Learning Platform Engineering: Build an internal developer platform for ML and AI systems

Machine Learning Platform Engineering: Build an internal developer platform for ML and AI systems

Benjamin Tan Wei Hao, Shanoop Padmanabhan, Varun Mallya

Explainable AI for Practitioners: Designing and Implementing Explainable ML Solutions

Explainable AI for Practitioners: Designing and Implementing Explainable ML Solutions

Michael Munn, David Pitman

Large Language Models Projects: Apply and Implement Strategies for Large Language Models

Large Language Models Projects: Apply and Implement Strategies for Large Language Models

Pere Martra