Petits modèles linguistiques spécifiques à un domaine : l'IA efficace pour un déploiement local

Obtenez l'eBook gratuitement en enregistrant votre livre imprimé chez Manning.

Lorsque vous avez besoin qu'un modèle linguistique réponde avec précision et rapidité à un domaine de connaissance spécifique, la capacité tentaculaire d'un LLM peut nuire plus qu'elle n'aide. Ce livre vous apprend à construire des modèles d'IA générative optimisés pour des domaines spécifiques.

Parfaits pour les environnements contraints par les coûts ou le matériel, les petits modèles linguistiques (SLM) s'entraînent sur des données spécifiques à un domaine pour des résultats de haute qualité dans des tâches spécifiques. Dans ce livre, vous développerez des SLM capables de générer de tout, du code Python aux structures de protéines et aux séquences d'anticorps, le tout sur du matériel grand public.

Dans « Domain-Specific Small Language Models », vous découvrirez :

• Les meilleures pratiques en matière de dimensionnement des modèles
• Les bibliothèques, frameworks, utilitaires et environnements d'exécution open source
• Les techniques de réglage fin pour les ensembles de données personnalisés
• Les bibliothèques Hugging Face pour les SLM
• L'exécution de SLM sur du matériel grand public
• L'optimisation ou la quantification de modèles

Préface de Matthew R. Versaggi.

À propos de la technologie

Les modèles linguistiques à faible empreinte, entraînés sur des ensembles de données personnalisés et hébergés localement, peuvent être aussi performants que les grands modèles généralistes en termes de vitesse et de précision, souvent à une fraction du coût. « Domain-Specific Small Language Models » vous montre comment construire des SLM respectueux de la vie privée et conformes à la réglementation pour les systèmes agentiques, les applications spécialisées et le déploiement en périphérie.

À propos du livre

C'est un livre pratique qui vous montre comment adapter des modèles open source pré-entraînés à votre domaine en utilisant le transfert d'apprentissage et le réglage fin économe en paramètres. Vous apprendrez à minimiser les coûts grâce à l'optimisation et à la quantification, à développer des API sécurisées pour servir vos modèles, et à déployer des SLM sur du matériel grand public, y compris de petits appareils. Les exemples pratiques incluent l'intégration de SLM dans les systèmes RAG et les flux de travail agentiques.

Ce qu'il y a à l'intérieur

• ONNX et autres méthodes de quantification
• Intégrer les SLM dans des applications de bout en bout
• Déployer les SLM sur des ordinateurs portables, des smartphones et d'autres appareils

À propos du lecteur

Pour les ingénieurs en IA familiers avec Python.

À propos de l'auteur

Guglielmo Iozzia est directeur de l'IA et des mathématiques appliquées chez Merck & Co. et membre distingué de l'American Society for Artificial Intelligence. Il est spécialisé dans les applications biomédicales de l'IA.

L'éditeur technique de ce livre était Riccardo Mattivi.

Table des matières

Partie 1
1 Petits modèles linguistiques
Partie 2
2 Réglage pour un domaine spécifique
3 Réglage fin de transformateur de bout en bout
4 Exécution de l'inférence
5 Exploration d'ONNX
6 Quantification pour votre environnement de production
Partie 3
7 Génération de code Python
8 Génération de structures protéiques
Partie 4
9 Techniques de quantification avancées
10 Aperçus du profilage
11 Déploiement et mise en service
12 Exécution sur votre ordinateur portable
13 Création d'applications LLM de bout en bout
14 Composants avancés pour les applications LLM
15 Calcul au moment du test et petits modèles linguistiques