AI & LLM

il y a 18 heures 59

AI AI & LLM Apple

Exécuter des modèles de langage sur sa propre machine : puces Apple Silicon, quantification et ce qui tient vraiment en mémoire

Les modèles de langage locaux sont assez bons pour une grande partie du travail réel. Comment la bande passante mémoire fixe le plafond de vitesse, ce qui tient dans votre RAM, ce que coûte vraiment la quantification en qualité.

il y a 2 mois 107

AI & LLM

Appeler des LLM depuis Python : boucle de requêtes, tokens, coût et nouvelles tentatives

Appelez des modèles de langage depuis Python avec le SDK Claude : la boucle de messages, les tokens et le coût, ainsi qu’un client avec timeouts et nouvelles tentatives que vous pouvez injecter et tester.

il y a 2 mois 112

AI & LLM

Sorties structurées et appel de fonctions : obtenir du JSON fiable depuis les LLM

Obtenez du JSON fiable depuis les modèles de langage grâce aux sorties structurées et à l’appel de fonctions, puis validez avec Pydantic pour que votre code manipule des objets typés.

il y a 2 mois 101

AI & LLM

Créer un service RAG avec FastAPI : découpage, embeddings et recherche vectorielle

Construisez un service RAG de bout en bout : découpez des documents, générez des embeddings, effectuez une recherche par similarité et répondez en vous appuyant sur le contexte récupéré depuis un point de terminaison FastAPI.

il y a 2 mois 159

AI & LLM

Diffuser les réponses d’un LLM vers le navigateur avec FastAPI et SSE

Diffusez une réponse réelle d’un modèle vers le navigateur : consommez le flux du modèle en Python, relayez-le via un point de terminaison SSE FastAPI et affichez-le en direct.

il y a 2 mois 122

AI & LLM

Créer une API d’agent IA : appels d’outils, mémoire et garde-fous

Construisez une petite API d’agent IA : la boucle d’appels d’outils, la mémoire de conversation et les garde-fous qui assurent la sécurité et le cadrage d’un agent autonome.