Quoi ?
Faire tourner en local sur sa machine un agent conversationnel de manière confidentielle ? Est-ce possible ? Apparemment : Oui
Usage ?
Voici quelques exemples d’application d’IA Générative : création de contenu, générer du code, traduction, recettes, discussions.
Pourquoi en local ?
Dans l’idéal, on aurait :
- Confidentialité et contrôle des données,
- Indépendance vis-à-vis d’Internet,
- Réduction des coûts,
- Personnalisation et flexibilité,
- Performances optimales et faible latence,
- Sécurité renforcée.
Comment ?
installer un logiciel qui permet de charger des modèles et de converser avec.
Utiliser un éditeur de code et y greffer un agent conversationnel et collaborer avec.
Il y a plusieurs solutions, il suffit de faire un peu de veille technologique.
Sous windows, mon choix et mes tests ont été faits avec :
- LM Studio .exe
[ mstudio.ai ] - Visual Studio Code .exe
- Extension Continue .vsix
[ continue.dev ] - La plateforme Huggin face
[ huggingface.co ]
Des modèles :
- Qwen 2.5
- Llama 3.2
- Mistral (Tester Codestral !)
- Phi
- Gemma
- DeepSeek
Tout cela peut aussi fonctionner sous osx, linux, ou dans un conteneur docker.
Pourquoi LLAMA ?
Llama est une famille de modèles de langage développée par Meta.
Ollama.com ?
Un peu plus technique que LM Studio : ollama.com est un autre beau point de départ.
Pourquoi L’alpaga pour représenter LLMA ?
L’alpaga est devenu une mascotte symbolique jouant sur le jeu de mots avec « Llama » (lama en anglais) et représentant de manière ludique l’accessibilité et la « domestication » de ces technologies d’IA avancées.
Lexique : LLM pour Large Language Mode [ article wikipedia ]
Pour avoir son petit agent conversationnel sur son smartphone android, PocketPal semble faire l’affaire.
Pour le choix de l’app, faire attention :
- Au permissions
- Aux achat in app
On utilisera un modèle léger selectionnable directement depuis PocketPal.
Et le matos avec tout cela ? Une grosse carte graphique 🔥🔥🔥
Et pour de la génération d’image ? Il existe une solution avec Krita, peut-être quelques liens dans un futur article.
Amusez-vous bien !
Voici un petit tableau comparatif des principaux modèles d’IA très résumé :
| Modèle | Remarques |
|---|---|
| Qwen 2.5 | – codage et mathématiques |
| Llama 3.2 | – Premier modèle multimodal de Meta – Versions légères pour mobile (1B et 3B) |
| Mistral | – Modèle français – Dialogue et le code |
| Phi | – Petit modèle développé par Microsoft – Optimisé pour des tâches spécifiques – Idéal pour le déploiement local |
| Gemma | – Modèle développé par Google |
| DeepSeek | – Performances comparables à GPT-4 |
Quelques termes issus du domaine de l’IA généré par perplexity utilisant Claude 3.5 Sonnet :
Pour bien comprendre l’écosystème de l’IA, il est essentiel de saisir la hiérarchie entre ses différentes composantes :
l’Intelligence Artificielle est le terme le plus large qui englobe tous les systèmes visant à reproduire des capacités cognitives humaines [7].
Au sein de l’IA, le Machine Learning permet aux systèmes d’apprendre automatiquement à partir de données plutôt que par programmation explicite [1].
Le Deep Learning, une forme avancée de Machine Learning, s’inspire du fonctionnement du cerveau humain en utilisant des réseaux neuronaux complexes pour traiter les données [1].
Enfin, l’IA générative, qui repose sur le Deep Learning, représente la capacité à créer du nouveau contenu (texte, images, sons) en apprenant des modèles existants[2][3].
Cette progression technologique, de l’IA traditionnelle vers l’IA générative, illustre l’évolution vers des systèmes de plus en plus sophistiqués capables non seulement d’analyser mais aussi de créer du contenu de manière autonome [4].
Citations:
[1] https://www.sap.com/suisse/products/artificial-intelligence/what-is-generative-ai.html
[2] https://bigmedia.bpifrance.fr/news/intelligence-artificielle-generative-de-quoi-parle-t
[3] https://aws.amazon.com/fr/what-is/generative-ai/
[4] https://www.lemagit.fr/conseil/IA-machine-learning-deep-learning-IA-generative-quelles-differences
[5] https://www.gartner.fr/fr/themes/intelligence-artificielle
[6] https://www.hubvisory.com/fr/blog/comprendre-lia-le-machine-learning-le-deep-learning-et-la-gen-ai-guide-pour-les-product-managers
[7] https://www.followtribes.io/lintelligence-artificielle-ia/
Article en version 0.0.1 — pré alpha 😮
0
