【PODCAST】IA en local & Hermes Agent : on en parle sans bullshit

00:00:01 faire tourner à un LLM chez soi, choisir

00:00:03 le bon modèle, améliorer ses promptes ou

00:00:05 modifier le harnet d'un agent comme

00:00:06 Hermes. Est-ce que c'est vraiment

00:00:08 réservé aux experts ? Bonjour à tous

00:00:10 dans vos oreilles. Aujourd'hui, je suis

00:00:12 avec un ami connaît très bien les LLM et

00:00:14 fait tourner ses propres modèles en

00:00:15 local. On parle de ses meilleurs hacks,

00:00:18 des erreurs à éviter, des opportunités

00:00:20 business, de Hermes agent et de l'avenir

00:00:21 de Lia. Le podcast dure plus d'une

00:00:23 heure, il y a énormément de concrets.

00:00:24 Prenez un café, installez-vous bien.

00:00:27 C'est parti. Et bonjour à tous. On va se

00:00:29 retrouver du coup bah comme je vous ai

00:00:33 expliqué en intro de vidéo sur un une

00:00:35 personne je pense que je vais la laisser

00:00:37 se présenter qui est spécialisé dans

00:00:39 l'IA. Donc là on par je parle pas de

00:00:42 moi-même mais vraiment de la personne

00:00:44 qui va suivre. Je vais te laisser te

00:00:46 présenter un peu Ricard, je pense ça

00:00:48 sera un peu plus simple mais euh juste

00:00:50 pour quelques mots euh tu as fait des

00:00:53 études principalement en IA euh

00:00:56 spécialisé dans la politique mais ouais

00:00:59 mais euh bonjour à tous. Alors déjà, tu

00:01:00 as utilisé le terme spécialiste. J'aime

00:01:02 pas trop parce que je suis pas un

00:01:04 spécialiste. Pour me présenter,

00:01:07 [grognement] j'ai fait plusieurs années

00:01:08 d'études, on va dire, j'ai fait 5 ans

00:01:10 d'études supérieures dans différentes

00:01:13 écoles. J'ai fait une école qui où j'ai

00:01:15 fait beaucoup de bas niveaux du C, j'ai

00:01:17 découvert les fondamentaux

00:01:18 principalement. Après, j'ai fait une

00:01:22 école de de web de design et puis après,

00:01:23 je suis dans une école assez généraliste

00:01:26 et euh

00:01:28 et du coup, j'ai découvert un peu tout

00:01:32 ce qui était réseau, il a mais ça c'est

00:01:35 surtout quand j'ai découvert un peu le

00:01:36 monde de l'IA parce que moi je suis

00:01:39 arrivé principalement bah il y a il y a

00:01:40 quand même quelques années, ça fait 2

00:01:42 ans que je suis pas mal branché dessus

00:01:44 mais je suis arrivé surtout avec Chat

00:01:46 GPT avant que j'étais pas trop dedans.

00:01:48 Je je cherchais où je voulais aller et

00:01:50 puis ça m'a beaucoup intéressé et puis

00:01:51 nous voilà aujourd'hui.

00:01:53 OK, nickel. Sur alors moi tu me l'avais

00:01:57 dit mais justement pour brièvement pour

00:01:58 on va dire avoir un petit peu de

00:02:00 contexte et de chronologie peut-être sur

00:02:01 quel GPT tu étais sur la première

00:02:03 version, c'est ça ?

00:02:07 Alors moi euh j'ai j'ai commencé à

00:02:12 utiliser on était sur 3 chat GPT 3.5 euh

00:02:15 du coup j'ai pas mal j'ai pas mal vu

00:02:18 l'évolution. euh

00:02:20 sur différents LLM, que ce soit en

00:02:23 local, euh que ce soit tout ce qui est

00:02:27 sorti euh par la suite avec euh nos nos

00:02:31 chers Claude, Fable euh puis euh j'en

00:02:32 passe parce qu'il y en a beaucoup hein,

00:02:34 que ce soit Grock, j'ai essayé aussi,

00:02:38 j'ai un peu tout essayé mais bon, on va

00:02:39 en parler après. Moi, j'ai choisi une

00:02:42 solution assez radicale là-dessus.

00:02:44 On va en parler. C'est ça que Ouais, ça

00:02:47 va devenir intéressant. J'en viens à ma

00:02:48 question suivante. Du coup, est-ce que

00:02:49 c'est facile pour un débutant de lancer

00:02:50 un LM local ?

00:02:54 Alors, accessible, oui, franchement pas

00:02:55 c'est pas très compliqué. Si on parle

00:02:58 vraiment de on prend le le setup le plus

00:03:01 simple possible, euh c'est pas très

00:03:02 compliqué. Il suffit de télécharger

00:03:04 queon soit sur Windows ou Linux, il

00:03:06 suffit de télécharger par exemple au

00:03:09 lama, tu vois. Et euh et ça se fait tout

00:03:11 seul. C'est faut faut lire la doc.

00:03:13 Vous poser littéralement la question à

00:03:18 chat GPT, il sera largement aider la

00:03:20 personne pour pour faire un setup

00:03:24 simple. Mais après euh c'est le c'est

00:03:28 très basique et c'est à l'heure actuelle

00:03:29 à des années lumières de ce que tu peux

00:03:31 faire bien sûr maintenant. Mais en tout

00:03:33 cas commencer à juste discuter si on

00:03:35 parle discuter simplement avec un modèle

00:03:38 en local c'est largement accessible.

00:03:42 Après rentrer dans l'IA local, c'est un

00:03:46 tout c'est un tout autre jeu et li local

00:03:48 c'est pas que des LLM ça. Tu peux tu

00:03:50 peux faire de la reconnaissance d'image.

00:03:51 Enfin c'est très très vaste. Il y a

00:03:52 beaucoup beaucoup de modèles. Tu peux

00:03:54 faire de la génération d'images aussi

00:03:55 par exemple de vidéos.

00:03:57 Donc plutôt les interconnecter c'est

00:03:59 difficile mais d'en lancer une c'est

00:04:01 assez facile. C'est ça que en train de

00:04:03 nous dire. télécharger euh un framework

00:04:06 ou euh ou quoi que ce soit d'autre pour

00:04:08 euh et puis un modèle et l'utiliser,

00:04:12 c'est facile. Mais brancher ensemble euh

00:04:13 c'est-à-dire

00:04:16 faire des agents, prendre du Nia et

00:04:20 autour lui mettre bah un, c'est un peu

00:04:23 plus compliqué. Après bon, grâce grâce

00:04:26 au au aux avancées, bah tu as quand même

00:04:27 des arners publics maintenant qui sont

00:04:29 qui ont commencé à sortir qui commence à

00:04:31 être vraiment pas mal mais ils ont des

00:04:33 limites. Par exemple Hermes ça, on y

00:04:34 reviendra. Après ça reste quand même

00:04:36 très accessible maintenant avec ces

00:04:37 outils là parce que moi quand j'ai

00:04:38 commencé par exemple, j'en avais pas.

00:04:41 C'estàd si tu vraiment faire en local,

00:04:42 tu avais tu avais des olamamaas et

00:04:44 cetera, mais moi tu me connais, je suis

00:04:46 un développeur donc il me fallait

00:04:49 quelque chose où je puisse

00:04:50 et puis après vu que j'étais encore en

00:04:52 étude, j'essayé de comprendre un peu

00:04:54 tout ce qu'il y avait autour. Bah que

00:04:56 Nia, c'était pas juste je la télécharge,

00:04:57 je la lance, ça marche. C'est qu'est-ce

00:04:59 qu'il y a autour ? Qu'est-ce qu'il faut

00:05:02 mettre en place pour que tu a un bon

00:05:05 ratio token. Mais ça aussi, on y

00:05:06 reviendra.

00:05:08 OK. OK. OK. Et qu'est-ce que tu vois

00:05:11 comme avantage au-delà de la sécurité

00:05:12 d'information ? Parce que quand tu vas

00:05:15 parler par exemple à à ton LM local,

00:05:17 donc pour ceux qui savent pas, euh ton

00:05:20 ton ALM local, il va tourner en local

00:05:23 tout simplement. Donc ça évite que tu

00:05:24 partages des données à des modèles

00:05:26 frontières, donc des modèles qui

00:05:28 seraient euh on va dire exécutés sur des

00:05:31 serveur aux USA ou en Europe. Il y en a

00:05:33 très peu en Europe mais on va dire USA

00:05:36 plus Chine. Et du coup quel avantage

00:05:39 outre la sécurité justement tu as de

00:05:41 faire renner un LLM, de faire tourner un

00:05:44 LLM en chez toi du coup ? Alors moi, vu

00:05:47 que mon matériel, pour détailler un peu

00:05:50 le matériel que j'ai, euh, j'ai j'ai une

00:05:55 RTX 3090, hein, Ryzen 9 9900X, 32 Go de

00:05:58 RAM en en DDR5.

00:06:02 Donc euh non plus euh la machine de

00:06:04 guerre, mais ça reste un

00:06:06 Mais ça reste un PC gaming en fait.

00:06:09 C'est un PC, c'est un PC. En fait ce PC,

00:06:11 j'en ai eu besoin bah pour le gaming

00:06:13 parce que moi je fais je fais tourner

00:06:15 des I sur des jeux vidéos. Donc fallait

00:06:16 que j'ai j'ai quand même j'ai quand même

00:06:18 quelque chose qui puisse faire tourner

00:06:20 les deux. Ça va, c'est une bonne machine

00:06:21 mais je peux pas non plus aller faire

00:06:24 tourner des trucs démentiels. Donc ce

00:06:26 qui dit local dit

00:06:29 ressources limitées. Donc il faut être

00:06:31 beaucoup plus sélectif sur qu'est-ce que

00:06:32 tu fais tourner, comment tu le fais

00:06:35 tourner, combien de temps et cetera et

00:06:38 cetera parce que tu as tu as pas par

00:06:39 exemple avec les modèles frontières, bah

00:06:40 tu peux juste poser des questions,

00:06:42 envoyer des gros prontes, tu vois, tu as

00:06:44 pas toute cette limite tech de

00:06:46 ressources mais tu as un coût

00:06:47 Oui, c'est vrai. Après pour un

00:06:49 abonnement à 20 € par mois, on va dire

00:06:51 ça reste logique.

00:06:53 Franchement euh c'est c'est pas si si tu

00:06:56 veux juste utiliser l'IA comme ça de

00:06:58 temps en temps ou au quotidien mais sans

00:07:01 forcément rentrer dans dans du travail

00:07:03 plus poussé par exemple comme toi tu

00:07:05 fais ou moi je fais avec beaucoup de

00:07:08 techniques, beaucoup de d'étapes. Par

00:07:12 exemple, mon LM va faire une tâche qui

00:07:15 va être d'analyser, je sais pas, du

00:07:17 code, tu vois, une un fichier de code.

00:07:20 Euh, il va l'analyser, il va récolter

00:07:21 des métriques, c'est-à-dire combien de

00:07:24 temps j'ai passé dans telle fonction,

00:07:27 combien de temps j'ai mis pour

00:07:29 effectuer cette boucle de code et

00:07:32 cetera, tout ça. Puis ces métriques, par

00:07:33 exemple, ton LM va pouvoir les récupérer

00:07:37 dans une autre boucle et analyser ceci,

00:07:39 essayer de trouver une optimisation. Euh

00:07:42 une fois qu'il a fait ça, ça va être

00:07:45 remonté à une autre boucle où euh tu vas

00:07:48 décider de ou non si tu essais le patch

00:07:50 proposé par ton intelligence

00:07:52 artificielle. Après là, on est dans de

00:07:54 la de l'amélioration récursive,

00:07:56 donc c'est plus de l'optimisation, on va

00:07:58 dire, que tu vas faire euh pour avoir

00:08:00 cet avantage. Mais une personne disons

00:08:02 lambda euh soit qui démarrerait un

00:08:06 business, soit serait salarié,

00:08:07 franchement honnêtement, il a plus

00:08:09 d'intérêt. Quelqu'un de qui commence

00:08:10 avec Lia, de toute façon, avant de

00:08:12 s'intéresser au local, pour moi, en tout

00:08:15 cas, c'est Mat euh il y a plus d'intérêt

00:08:19 à utiliser des modèles frontières et euh

00:08:21 et euh à abonnement.

00:08:25 euh pour comprendre la technologie euh

00:08:26 utiliser la technologie au quotidien

00:08:28 pour bah justement développer des cas

00:08:31 d'usage personnel parce que euh c'est

00:08:33 bien beau de vouloir utiliser Lia mais

00:08:34 c'est cette technologie c'est qu'est-ce

00:08:37 qu'elle nous apporte au quotidien ? Euh

00:08:39 la vraie question c'est comment tu t'en

00:08:42 sers ? C'est imaginons dans ta journée

00:08:43 tu checkes beaucoup tes mails, bah

00:08:45 est-ce que j'ai la possibilité de entre

00:08:49 guillemets automatiser ce processus là ?

00:08:50 En fait, le but c'est c'est de s'en

00:08:52 servir au quotidien pour voir vraiment

00:08:55 les limites de notre utilisation parce

00:08:57 qu'au-delà au-delà de la puissance du

00:09:00 modèle, il y a il y a la manière dont tu

00:09:02 l'utilises qui qui nous limite.

00:09:03 C'est-à-dire que moi comment je

00:09:04 l'utilise et toi tu l'utilises, c'est

00:09:06 pas du tout de la même manière. Donc on

00:09:08 en ressort pas du tout la même chose. Et

00:09:10 si pour mes tâches à moi je me mettais

00:09:13 utiliser de la manière dont toi tu fais

00:09:14 par exemple, je pourrais avoir des

00:09:16 résultats totalement éronés. Donc faut

00:09:18 pour moi euh commencer avec des modèles

00:09:20 frontières payants euh que ce soit pour

00:09:23 des business euh ça reste quand même

00:09:25 entre guillemets à la pointe et puis euh

00:09:26 c'est beaucoup plus facile d'utilisation

00:09:28 de brancher euh un modèle frontière que

00:09:30 d'essayer de faire ça en local. Euh

00:09:32 même au-delà du prompt, tu es en train

00:09:32 de dire

00:09:34 au-delà du prompt. Au-delà du prompt,

00:09:36 c'est c'est beaucoup plus simple de

00:09:39 brancher ton Hermes avec

00:09:41 enfin ton IA avec un Hermes que

00:09:44 d'essayer de de faire ça en local. tu

00:09:45 peux tu peux tout à fait faire la même

00:09:47 chose en local mais tu seras beaucoup

00:09:50 plus limité en terme de ressources. Donc

00:09:51 si c'est purement sur un aspect

00:09:52 business, tu vois, si on ne parle pas de

00:09:53 l'aspect développement,

00:09:56 si tu même si tu l'optimises

00:09:59 après euh si vraiment en fait après là

00:10:00 c'est c'est là c'est la frontière, c'est

00:10:02 à quel point tu pousses ton business

00:10:04 dans l'optimisation. Euh je te parle

00:10:06 juste uniquement pas euh aspect business

00:10:09 euh comment tu fais euh ton argent. Je

00:10:10 parle purement simplement euh de

00:10:11 l'aspect euh à quel point tu veux

00:10:13 pousser ta stack logiciel. C'est-à-dire

00:10:16 à quel point euh tu veux utiliser le

00:10:17 moins de ressources possible. Tu veux

00:10:21 que tu tu veux que ça soit déployable à

00:10:22 l'infini ? À quel point tu veux que ça

00:10:24 soit sensible ou non à la casse parce

00:10:26 que un modèle frontière ton modèle

00:10:28 frontière il a un problème c'est fini.

00:10:30 Business marche plus. Tu vois c'est ça

00:10:31 aussi. C'est vrai.

00:10:34 Euh c'est ça aussi le truc c'est que

00:10:36 c'est faut faut choisir en fait. C'est

00:10:38 d'un côté il y a la souveraineté au-delà

00:10:39 des données. Euh même si pour moi ce

00:10:43 point est euh dire que en local tu as la

00:10:46 souveraineté de tes données euh oui et

00:10:49 non. Enfin, tu c'est c'est vrai, mais en

00:10:52 même temps euh est-ce que la

00:10:55 souveraineté de tes données euh vaut le

00:10:58 fait de te passer de la technologie euh

00:11:00 qui est à l'heure actuelle utilisable à

00:11:02 moindre coût ? Euh après par

00:11:03 souveraineté des données, bien sûr,

00:11:07 j'entends j'entends euh tu vois

00:11:08 divulguer tes données justement sur des

00:11:11 serveurs au-delà quoi comme frontière

00:11:13 modèle frère. Bah en fait, c'est si par

00:11:14 exemple toi, tu vois, je sais que tu

00:11:17 utilises des modèles frontières pour euh

00:11:20 pour les promptes

00:11:22 qui qui vont que les utilisateurs vont

00:11:25 t'envoyer pour, tu vois, ça va tu vas tu

00:11:26 vas prendre leur prompt et tu vas

00:11:28 l'incorporer dans ton prompt et faire

00:11:30 quelque chose, tu vois ? Genre, c'est

00:11:31 moi quand je te parle, les données que

00:11:32 tu vas donner, c'est ce genre de données

00:11:34 principalement. Bien sûr que tu veux pas

00:11:36 brancher la base donné de tes clients

00:11:38 sur ton modèle frontière. tu veux pas

00:11:40 que lui il puisse taper la pay euh de

00:11:42 C'est c'est pas possible, tu vois. C'est

00:11:43 ça euh ça pour moi, tu vois, c'est ça

00:11:45 sans parler de ça. Moi, je te parle

00:11:47 vraiment, c'est quelle donné euh en

00:11:49 terme d'input tu exposes à ces modèles

00:11:51 frontières parce que tout ce que tu fais

00:11:52 euh est potentiellement récupéré par

00:11:54 eux, tu vois. Je dis pas que c'est l'ai

00:11:56 mais euh

00:11:57 bah il y a une potentialité. Ouais,

00:11:59 justement. Et c'est ce que c'est ce que

00:12:01 les mecs pour moi, c'est ça. Moi ma take

00:12:03 par rapport à su d'utiliser les modèles

00:12:05 frontières pour développer une stack

00:12:06 locale assez puissante pour me passer

00:12:09 des modèles frontières. C'estàdire que

00:12:10 des gens qui veulent build des

00:12:12 applications en avec de l'intelligence

00:12:14 artificielle, il y en a beaucoup. Ça des

00:12:16 données, ils en auront. Que ça soit toi

00:12:18 ou quelqu'un d'autre, ça changera rien.

00:12:20 Par contre, comment ton business tourne

00:12:22 ? C'est-à-dire quelle ligne éditoriale

00:12:24 tu prends ? Si je prends de la la

00:12:26 génération d'images, par exemple, quelle

00:12:27 ligne éditoriale tu prends pour tes

00:12:30 images ? Quel contenu tu fais ? Euh, par

00:12:31 exemple, si par exemple, c'est des

00:12:34 images de lapin ou de sapin, tu vois ?

00:12:36 Genre en fait c'est ça tout ce que tu

00:12:38 vas demander comme production au modèle

00:12:40 frontière ça bah c'est c'est qu'est-ce

00:12:41 que tu veux exposer en fait c'est

00:12:43 surtout ça à quel point ton business il

00:12:45 ils peuvent savoir qu'est-ce qu'il fait

00:12:47 exactement mais au-delà de ça enfin il y

00:12:48 a tellement de gens que c'est pas non

00:12:51 plus sous toi ou quelqu'un d'autre ils

00:12:53 auront ces données. Donc moi je pars du

00:12:55 principe que autant utiliser parce que

00:12:56 comme je l'ai dit plus tôt, il y a une

00:12:59 fenêtre qui n'est pas en définie sur

00:13:00 actuellement l'accessibilité des modèles

00:13:02 frontière. Donc autant utiliser au plus

00:13:04 possible cette ressource disponible pour

00:13:07 si je le peux en local développer des

00:13:09 solutions viables.

00:13:10 OK, je vois un peu un peu à la

00:13:12 distillation des chinois quoi. Il disy

00:13:15 justement des données frontières. pas

00:13:17 vraiment parce que là tu rentres on

00:13:18 rentre dans l'entraînement des modèles.

00:13:22 Moi c'est plus j'utilise l'outil qui est

00:13:23 actuellement à ma disposition pour

00:13:24 construire mes propres outils à moi, tu

00:13:26 vois. C'est plus ça.

00:13:29 OK. Pour créer ta propre derrière pour

00:13:30 avoir entre guillemets une souveraineté

00:13:32 de mastaque. Mais c'est aussi je fais ça

00:13:34 aussi par rapport au fait que euh bah

00:13:37 j'étais j'ai une soif de de savoir sur

00:13:39 l'intelligence artificielle. C'està dire

00:13:42 que pour pouvoir comprendre ce que je

00:13:43 dois faire, il faut que ben j'essaie de

00:13:46 le maintenir moi-même, que je vois la

00:13:49 limite logicielle, la limite de

00:13:50 ressources, c'est-à-dire quelles sont

00:13:53 les solutions qui existent pour que bah

00:13:56 au final ton modèle au lieu de prendre

00:13:59 un contexte bah de de 200000, ils te

00:14:01 prennent que 100000 par exemple, tu

00:14:02 vois, sans rentrer forcément dans les

00:14:05 détails mais ce genre de choses quoi.

00:14:06 C'est-à-dire que moi je je cherche

00:14:08 vraiment euh à comprendre au niveau

00:14:10 logiciel qu'est-ce que tu peux faire pas

00:14:12 faire avec des I pour pouvoir ensuite

00:14:14 les brancher à des systèmes déjà

00:14:16 existants ou à créer des systèmes autour

00:14:18 des I pour répondre à différentes

00:14:20 problématiques.

00:14:23 OK. Intéressant. Intéressant tout ça. Et

00:14:27 du coup, qu'est-ce que un mettons que un

00:14:30 débutant vient de te voir ?

00:14:33 OK. Quelle quelle configuration minimum

00:14:35 ou recommandé plutôt tu lui conseilles

00:14:37 de faire si par exemple il veut faire

00:14:39 tourner son

00:14:43 l'élément local ? Alors en fait ce qu'il

00:14:45 faut se dire c'est que à l'heure

00:14:48 d'aujourd'hui avec certains certains

00:14:49 framework certains sous out à ta

00:14:51 disposition avec très peu de ressources

00:14:53 tu peux faire tourner un modèle en local

00:14:56 tu vois mais c'est un coût sur tes

00:14:58 performances bien que avec à l'heure

00:15:01 actuelle avec une carte à 6 Go de VAM

00:15:04 par exemple j'ai une 2060

00:15:07 ouais je vais essayer de synthétiser on

00:15:08 va dire parce que moi j'arrive à suivre

00:15:10 mais imaginons qu'un débutant arrive

00:15:13 Quand tu dis dégrader la qualité, c'est

00:15:16 plutôt que tu es euh, on va dire moins

00:15:17 de token par seconde, c'està-dire que ça

00:15:19 s'écrive beaucoup moins rapidement ou

00:15:22 alors avec un raisonnement moins plus

00:15:23 lent. On est on est sur les deux

00:15:26 aspects. C'est-à-dire que genre certes,

00:15:27 tu vas pouvoir faire tourner des modèles

00:15:31 euh plus petits mais euh comparé au

00:15:33 modèles d'origine euh parce que ils vont

00:15:34 les modèles vont être quantisés,

00:15:36 c'est-à-dire que on va faire en sorte

00:15:37 qu'ils prennent moins de place en

00:15:39 mémoire que ils ont un encodage

00:15:42 différent en fonction des des tokens.

00:15:44 Euh donc ça va prendre moins de place

00:15:47 euh donc moins de ressources mais tu vas

00:15:50 perdre en en qualité d'output,

00:15:51 c'est-à-dire le le résultat qui va être

00:15:53 donné et en

00:15:56 en vitesse. Est-ce que tu peux le

00:15:59 quantifier ce résultat justement euh en

00:16:02 terme de lorsqu'on tu quantifies un

00:16:04 modèle, mettons tu prennes pas

00:16:06 l'original mais euh je sais pas un

00:16:07 modèle quatre fois plus puissant, est-ce

00:16:08 que tu peux le quantifier sur ta en ton

00:16:10 résultat ou c'est genre c'est une

00:16:12 question en non sens ?

00:16:14 Alors euh

00:16:17 trop complexe

00:16:19 alors sans rentrer forcément dans le

00:16:20 détail, ce qu'il faut se dire c'est que

00:16:23 quand tu as un modèle de base euh qui

00:16:25 est stock, c'est-à-dire que tu prends

00:16:30 exemple, on va prendre lama euh non, on

00:16:32 va pas prendre un lama, on va prendre on

00:16:35 va prendre un coen 3.6, tu vois, euh

00:16:37 27B.

00:16:40 OK. C'està dire que ce modèle là pour le

00:16:41 charger, tu vas avoir besoin d'une

00:16:43 certaine quantité de de

00:16:47 VAM euh juste pour que il a un contexte

00:16:49 suffisamment grand pour lui en fait être

00:16:52 pertinent parce que un modèle c'est bien

00:16:54 de pouvoir charger des gros modèles mais

00:16:56 si tu leur mets très peu de contexte ça

00:16:57 ne sert à rien autant que tu utilises un

00:16:59 plus petit modèle qui pourra avoir un

00:17:01 plus gros contexte parce que plus ton

00:17:03 modèle est proche de l'initial plus il

00:17:06 va avoir un résultat pertinent mais en

00:17:09 fonction de du matériel que tu utilises

00:17:10 euh tu iras plus ou moins vite et tu

00:17:12 pourras lui mettre plus ou moins de

00:17:13 contexte.

00:17:15 Donc vraiment ça c'est très spécifique

00:17:17 au matériel que tux et au-delà de ça en

00:17:20 plus si tu te poses la question du

00:17:21 matériel c'est est-ce que tu es sur

00:17:23 Windows ? Est-ce que tu es sur Linux ?

00:17:27 Euh parce que ça les performances que tu

00:17:28 vas avoir d'un Windows ou d'un Linux

00:17:32 c'est pas du tout pareil non plus. euh

00:17:33 le framework que tu vas utiliser pour

00:17:35 faire tourner ton modèle va influencer

00:17:37 aussi énormément sur les performances,

00:17:40 tu vois. Donc la question est assez

00:17:43 complexe parce que

00:17:47 plus plus tu en peut-être en simplifié,

00:17:50 plus tu verras, mieux c'est. Non, même

00:17:52 pas. Ça dépend vraiment du cas

00:17:53 d'utilisation pour moi. En fait, tu peux

00:17:55 avec des petits modèles et des très

00:17:59 petites configes faire des choses très

00:18:02 très spécifique, très très bien. Euh

00:18:03 mais ça demande quand même de

00:18:06 l'optimisation, ça demande quand même de

00:18:08 mettre

00:18:10 quelques systèmes en place, que ce soit

00:18:14 de vérification, de des résultats de de

00:18:19 boucles, de de de retour pour que il

00:18:21 partent pas. dans tous les sens, mais

00:18:23 euh mais pour moi c'est très c'est

00:18:25 encore une fois très spécifique au cas

00:18:28 d'utilisation. Euh par exemple, moi qui

00:18:31 veut faire tourner euh en parallèle

00:18:32 plusieurs modèles, tu vois le bah j'ai

00:18:34 fait le choix de prendre une carte qui a

00:18:36 quand même une bonne qualité en

00:18:39 inférence et en véram. J'ai 24 Go de

00:18:42 VAM, mais en inférence, vu que c'est une

00:18:45 c'est de la génération des des 90, j'ai

00:18:49 quand même un un gros bus. Euh je

00:18:50 rentrerai pas dans le détail mais

00:18:52 c'est-à-dire que je peux faire beaucoup

00:18:54 de calculs en même temps. Je peux

00:18:55 Oui, tu as une surface de calcul en

00:18:58 entrée en sortie qui euh qui euh qui est

00:18:59 euh et qui qui est assez grande

00:19:01 justement pour faire correct. Est

00:19:03 correct qui est très correct.

00:19:04 OK.

00:19:04 Euh

00:19:08 conser plutôt des mettons plutôt Ouais.

00:19:12 des RTX Hit

00:19:14 ça c'est ça c'était Nvidia, tu vois.

00:19:17 OK. Mais euh encore avec des 2000, avec

00:19:18 des 2000, tu peux faire tourner des

00:19:20 trucs très bien. Moi avant j'étais sur

00:19:22 j'étais sur une 980 Ti, enfin je t'ai

00:19:24 déjà montré, je faisais des trucs super

00:19:26 bien avec une 980.

00:19:26 [raclement de gorge]

00:19:28 Mais euh

00:19:30 mais ça dépend de à quel point en fait

00:19:31 tu veux aussi pousser le l'optimisation,

00:19:33 quoi. C'est-à-dire que si tu es là, tu

00:19:35 veux juste faire tourner euh bah faut

00:19:37 que tu prennes une config un peu plus

00:19:38 peu plus puissante parce que tu veux pas

00:19:40 te poser des questions d'optimisation.

00:19:42 En fait, c'est pour moi li à local, je

00:19:44 recommande pas euh honnêtement.

00:19:46 à part si euh

00:19:48 parce qu'il faudrait faire justement

00:19:50 trop de d'optimisation derrière quoi. En

00:19:52 fait, c'est que c'est que si tu veux

00:19:54 vraiment avoir quelque chose de de de

00:19:57 très très bien euh en local, il va

00:19:59 falloir que tu passes beaucoup de temps

00:20:01 parce que

00:20:03 le mieux à faire c'est d'utiliser ce qui

00:20:05 est possible. Les autis on te met en

00:20:06 place genre Terné, genre Hermes, mais il

00:20:08 faut repasser derrière. Tu vois, il y a

00:20:10 il y a plein de choses queù tu dois

00:20:12 quand même

00:20:14 réajuster pour que ça convienne à ton

00:20:16 utilisation, mais après, tu as des

00:20:18 solutions aussi en local qui sont qui

00:20:20 sont très intéressantes comme les comme

00:20:24 les les les mini PC Mac, tu vois, par

00:20:27 exemple. Euh venir justement

00:20:29 parce qu'on en voit pas mal justement de

00:20:30 personnes qui sont en fait. C'est très

00:20:32 bien mais

00:20:33 c'est très bien. C'est c'est très bien.

00:20:37 Tu vois, c'est pas trop t'embêter sur

00:20:39 qu'est-ce que je prends comme ressource,

00:20:41 tu vois, de calcul, euh ça te donne

00:20:45 quelque chose qui fonctionne euh

00:20:47 bien sans avoir justement toute la

00:20:49 question de qu'est-ce que j'utilise

00:20:51 comme framework. Tu vois, il y a il y a

00:20:53 des choses ça vient avec un package

00:20:56 genre par exemple moi je je on va il y a

00:20:58 il y a il y a moi je je j'en ai commandé

00:21:00 un c'est un Asus tu vois euh bah j'ai

00:21:02 juste à à brancher VLLM tu vois ça a été

00:21:05 fait ça en tout cas c'est recommandé et

00:21:07 ça a été testé sur cette sur ce

00:21:09 framework là tu vois euh ça fonctionne

00:21:11 très bien. Euh ça pose moins de

00:21:13 questions que si c'est un PC plus

00:21:15 classique comme moi je le fais. Euh

00:21:17 après ça reste dédié euh spécifiquement

00:21:19 à Lia et tu peux pas non plus faire

00:21:21 tourner tout et n'importe quoi dessus.

00:21:23 C'est-à-dire que tu as quand même une

00:21:24 puissance limitée mais tu peux quand

00:21:26 même faire des des faire tourner des

00:21:30 gros modèles. Après ça ça coûte un

00:21:33 certain prix et tu payes le fait de

00:21:35 pouvoir faire tourner des gros modèles

00:21:37 par une inférence qui est beaucoup plus

00:21:39 légère plus légère. Après généralement

00:21:42 enfin ça prend du temps, ça prend plus

00:21:43 de temps mais

00:21:45 pour les personnes de façon qui le font

00:21:47 généralement sur des Mac Mini et tout

00:21:49 ils font tourner que ça généralement en

00:21:49 plus.

00:21:51 C'est ça. C'est ça. C'est ça. Le temps

00:21:52 c'est en fait généralement tu fais

00:21:55 tourner des grosses choses mais tu c'est

00:21:58 le le vecteur temps n'est pas le plus

00:21:59 important. C'està dire que tu fais

00:22:01 tourner des gros stages dessus que tu

00:22:02 peux pas faire tourner sur par exemple

00:22:04 ma 1090. Tu vois, je peux faire quand

00:22:07 même tourner des choses. Mais si je veux

00:22:09 si je veux faire tourner une boucle de

00:22:15 rapport sur mes mes de semaines de de de

00:22:18 matrix euh que j'ai enfin les deux

00:22:20 semaines de d'analyse que j'ai pompé sur

00:22:22 moi, qu'est-ce que mes ont fait, si ça

00:22:24 totalement par exemple, tu vois, bah il

00:22:25 faut quand même que je lui charge un

00:22:27 gros contexte. Donc c'est pas très grave

00:22:29 si le rapport il met 4 heur à me le

00:22:31 produire, tu vois. C'est

00:22:33 Ouais, je vois. Ouais. Genre, j'ai j'ai

00:22:34 besoin juste d'un gros modèle qui puisse

00:22:36 me faire une grosse analyse pendant

00:22:37 longtemps, tu vois.

00:22:39 Bah, ça vient du coup maintenant qu'on a

00:22:41 fait la config, ça vient à ma ma

00:22:43 question suivante. Quel modèle tu

00:22:46 conseilles ? Alors, je vais faire trois

00:22:47 trois cas d'usage différents. Quel

00:22:50 modèle locaux bien sûr local tu

00:22:54 conseilles ? Sur de la rédaction,

00:22:58 sur du raisonnement, donc plutôt airmess

00:23:03 et sur du code. Voilà.

00:23:06 Alors premier c'était

00:23:07 traitement de texte la rédaction en

00:23:09 local tu parles ou frontière uniquement

00:23:10 en local.

00:23:11 Uniquement local. Oh

00:23:13 ouais fait c'est que ça ça je t'avoue

00:23:16 monsieur feu je j'utilise pas je

00:23:17 l'utilise pas spécialement pour moi pour

00:23:18 de la rédaction je t'avoue je passe

00:23:19 beaucoup plus par des modèles

00:23:21 frontières. OK.

00:23:25 Tout en gros euh moi tout ce qui est ma

00:23:27 phase d'idéation

00:23:28 de projet,

00:23:29 est-ce que tu trouve pas de différence

00:23:32 entre les modèles ou c'est que c'est

00:23:34 trop faible en terme de résultat

00:23:36 ? En fait, en fonction bien sûr de ce

00:23:38 que tu utilises, que ce soit par exemple

00:23:43 ceux de Google ou ceux de de de

00:23:47 Open AI, enfin que tu dis GPT ou G mini,

00:23:51 bien sûr, ça va être différent. Mais euh

00:23:53 au global,

00:23:55 ils sont enfin ça reste quand même la

00:23:58 base la rédaction pour moi, tu vois,

00:23:59 pour c'est des modèles enfin c'est des

00:24:01 modèles de traitement. Au global, tu

00:24:04 vois, je j'ai pas j'ai pas forcément de

00:24:06 préféré là-dessus et j'ai pas forcément

00:24:08 cherché à pousser à connaître des cas

00:24:09 d'usage lequel est le meilleur

00:24:11 là-dessus. Est-ce que tu as vu une

00:24:13 différence peut-être avec des modèles

00:24:14 comme Mistrral qui sont des modèles

00:24:18 français euh sur de la rédaction

00:24:19 française par rapport à des modèles

00:24:20 américains ou chinois ?

00:24:22 Hélas franchement je suis pas très je

00:24:25 suis pas très patriote. J'ai pas du tout

00:24:27 utilisé les modèles du sol.

00:24:27 J'avoue,

00:24:29 ça peut hein

00:24:32 mais euh mais franchement euh je vais

00:24:34 pas je mettrai pas une mauvaise pièce tu

00:24:37 vois sur Mistral parce que pour moi

00:24:40 Mistral n'est pas du tout euh fait

00:24:41 partie de la course ALA mais pas mais

00:24:43 n'est pas du tout sur le même créneau

00:24:48 que un chat GPT ou que un que un Cloud

00:24:50 par exemple, tu vois. C'est pas du tout

00:24:52 euh

00:24:54 les mêmes directions

00:24:56 au niveau de comment ils utilisent. On

00:24:58 en a on en avait parlé justement pour

00:25:00 faire brièvement le contexte, c'est que

00:25:01 je crois qu'on avait parlé justement par

00:25:03 rapport à ça, eux, ils sont plus dans le

00:25:06 marché B2B, donc d'entreprise

00:25:07 entreprise, c'estàdire qu'ils vendent de

00:25:11 même leur leurs modèles locaux. Enfin

00:25:12 entre parenthèses, ils vendent mais ils

00:25:14 font installer leurs modèles locaux en

00:25:16 fait directement dans les entreprises et

00:25:19 à la manière d'un d'un scanner

00:25:21 classique, je pense à Mistral OCR en

00:25:23 fait, vous pouvez scanner entièrement

00:25:26 des documents sur un petit serveur.

00:25:27 En fait, eux ce qu'ils vendent, c'est

00:25:29 ils ils ont des processus CIA qui

00:25:31 mettent en place et qui créent et enfin

00:25:34 en tout cas ça c'est de de ce que j'en

00:25:36 connais. Euh et puis les incorpore dans

00:25:37 les entreprises. En gros, ils

00:25:39 incorporent l'IA dans les entreprises.

00:25:40 Tout du moins, c'est ce qu'ils essayent

00:25:43 de faire euh tout en poussant euh bah

00:25:44 leur modèle à eux.

00:25:46 OK. OK. OK.

00:25:47 Mais euh tu as au-delà de ça, ils sont

00:25:48 quand même ils essayent de s'imploter

00:25:51 partout en Europe. Ils ont eu euh des

00:25:53 contrats, en tout cas un contrat avec

00:25:58 ASML aussi. Ils sont c'est pas un acteur

00:25:59 euh

00:26:00 à négliger

00:26:03 qui qui est inexistant. il existe mais

00:26:06 il faut s'intéresser à à son cas

00:26:07 parce que c'est vrai qu'on on les voit

00:26:11 pas sortir des voit spécialement mais

00:26:12 mais ils sont ils sont quand même très

00:26:13 présents dans le monde de l'IA en tout

00:26:15 cas en Europe.

00:26:16 Ouais parce qu'on les voit pas sortir

00:26:18 des gros modèles comme

00:26:21 Non mais tu regardes Hermes

00:26:23 euh tu tu as connu les modèles Open

00:26:23 Hermes ?

00:26:25 Je sais pas si je crois que c'était qui

00:26:25 les faisait.

00:26:27 Ouais bien sûr les Hermes 4B et Hermes

00:26:29 405B. Ouais, je les ai bien pensé

00:26:30 d'ailleurs,

00:26:32 mais je crois que c'est c'est les mêmes

00:26:34 personnes qui ont fait opener MES pour

00:26:35 moi. Enfin, en tout cas, le nom,

00:26:38 il me semble pas. Par contre, ils ont

00:26:40 alors de ce que je sais, alors ça si je

00:26:43 le fais de tête, c'est qu'ils ont en

00:26:46 fait un modèle par contre mistral et

00:26:48 qu'ils l'ont finé. Je crois qu' je crois

00:26:50 pas qu'ils ont fait des modèles lama

00:26:51 derrière. On mettra peut-être dans le

00:26:52 dans le montage vidéo.

00:26:54 OK. OK. Moi je pensais que ça avait un

00:26:55 rapport euh au vu d'

00:26:56 euh Non non, en fait ils ont simplement

00:26:58 pris en fait un modèle Hermes. Je pour

00:27:00 je pourrais aller vérifier mais euh mais

00:27:02 derrière ils ont pris un modèle Ouais

00:27:04 mistral pardon et ils en ont fait

00:27:06 justement leur petite base. et je crois

00:27:11 qu'er euh les dire les news research les

00:27:12 fondateurs je crois qui sont en

00:27:15 Angleterre il me semble de tête mais euh

00:27:16 je je peut-être pas dire connerie par

00:27:18 rapport à justement Hermes qu'est-ce que

00:27:20 tu conseillerais en modèle local voir si

00:27:22 tu peux conseiller des modèles locaux

00:27:24 aussi euh en terme de raisonnement s'il

00:27:26 faut mettre le raisonnement à fond ou ça

00:27:28 dépend du contexte ou voilà

00:27:31 moi en ce moment j'utilise beaucoup

00:27:34 en local comment il s'appelle j'ai un

00:27:36 trou de mémoire

00:27:37 Quen ?

00:27:39 Euh alors j' Ouais, merci. J'utilise

00:27:42 beaucoup Quen en MOE et j'aime aussi en

00:27:45 MOE. Euh en vrai le MOE c'est super,

00:27:48 c'est ça consomme moins de ressources

00:27:52 pour une qualité euh quasiment égale à

00:27:53 un modèle.

00:27:56 Tu peux tu peux expliquer un petit peu

00:27:57 au débutant justement. On va prendre

00:28:00 l'exemple des des quen. Alors par

00:28:01 exemple Coen, il y a plusieurs versions.

00:28:04 Il y a les 4B, 5B, je sais pas les c'est

00:28:05 pas les les bonnes, mais c'est pour

00:28:07 donner l'exemple. C'estàd qu'il y a

00:28:10 plusieurs nombres de niveaux de

00:28:12 paramétrage, c'est-à-dire que les 4B

00:28:14 c'est le plus petit, plus on monte plus

00:28:17 ils sont gros. Et en MOE, c'est-à-dire

00:28:18 que par exemple, faut prendre l'exemple

00:28:22 d'un d'un 27B ou d'un 32B. Euh quand on

00:28:25 dit euh c'est un modèle 32B MOE,

00:28:27 c'est-à-dire que euh quand le modèle va

00:28:29 être activé, c'estàd que quand il va

00:28:32 être en train de tourner, il va euh

00:28:35 déclencher que euh un certain nombre de

00:28:36 ses paramètres, il va pas tout

00:28:38 déclencher en même temps. Du coup, ce

00:28:41 que ça veut dire, c'est que ton modèle,

00:28:43 il va consommer moins de ressources pour

00:28:47 effectuer la même tâche. Donc au final

00:28:49 ça va ça vu que ça consomme moins de

00:28:50 ressources, tu vas tu vas un peu plus

00:28:52 vite que si c'était un gros modèle

00:28:54 complet que tu devais faire tourner. Et

00:28:58 puis ça ça permet aussi pas mal de de

00:29:00 paralléliser plusieurs à la suite, tu

00:29:01 vois, par exemple, si tu as besoin de de

00:29:04 faire tourner des alors que tu pourrais

00:29:05 pas forcément avec un gros modèle.

00:29:07 Donc plutôt un gain, on va dire de sur

00:29:09 le transformer d'out.

00:29:11 Ouais, c'est surtout de la performance

00:29:13 sur les ressources que tu vas gagner.

00:29:14 OK. Moi en tout cas c'est c'est surtout

00:29:16 je le je le prends de sous cet aspect là

00:29:17 parce que

00:29:19 tu prendrais un quen du coup en local

00:29:22 sur du Quen je sais pas trop

00:29:24 pas forcément un coen ça dépend ça

00:29:25 dépend vraiment de l'utilisation parce

00:29:27 que moi je je suis vraiment un dev et

00:29:28 comme je l'ai dit encore une fois

00:29:30 j'utilise surtout les modons juste sur

00:29:33 un Hermes qui souhaiterait euh un Hermes

00:29:35 avec une personne qui souhaiterait le

00:29:37 Hermes agent bien sûr qui souhaiterait

00:29:39 euh je sais pas moi euh je sais pas

00:29:41 coder des enfin pas forcément coder mais

00:29:43 en tout cas créer des sites Euh

00:29:45 forcément, faudra coder derrière, mais

00:29:47 euh utiliser des modèles un peu

00:29:49 agentiques, enfin des des outils

00:29:52 agentiques les J'aime beaucoup les Quen.

00:29:55 Euh j'aime beaucoup les GMA aussi.

00:29:57 Après, je t'avoue que là-dessus, je suis

00:29:58 pas trop sorti de ma zone de confort,

00:30:00 mais toi, par exemple, feu, tu dirais

00:30:01 quoi toi là-dessus ? Moi, ça serait

00:30:03 surtout les coan et les GM

00:30:05 sur du modèle local. Alors, je sais pas

00:30:08 trop honnêtement, je j'ai j'en ai pas

00:30:10 fait beaucoup des modèles locaux. J'en

00:30:12 ai pas testé beaucoup mais en tout cas

00:30:14 un modèle avec un raisonnement mais

00:30:17 après ça c'est devenu la norme. Enfin ça

00:30:17 comment dire ?

00:30:18 Ouais ouais

00:30:19 pour moi c'est une norme c'est c'est une

00:30:20 norme qui est en train de s'incorporer

00:30:22 petit à petit tout ce qui est chaîne de

00:30:23 pensé chaîne de raisonnement.

00:30:24 Ouais mais je le ferai pas par exemple

00:30:26 sur des Ouais je suis d'accord mais

00:30:27 après je le ferai pas par exemple sur un

00:30:29 lama 3.1 qui ne l'aurait pas quoi par

00:30:29 exemple.

00:30:32 Bah pour moi en fait c'est que vu que le

00:30:34 monde de lia va trop vite tu ne peux

00:30:36 plus utiliser ce genre de modèle. Tu

00:30:37 vois ce n'est pas possible. C'est comme

00:30:39 par exemple pour la génération d'imag

00:30:41 euh si tu utilises un modèle d'il y a 2

00:30:44 ans, tu tu

00:30:47 sais s'embêter beaucoup comparé à ce que

00:30:48 tu peux sortir maintenant avec tr qu

00:30:49 mots quoi.

00:30:51 C'est vrai, c'est vrai, c'est vrai. En

00:30:52 parallèle, du coup, j'ai cherché un

00:30:56 petit peu pour avoir le contexte sur du

00:31:00 Hermes Hermes 4 70B qui est sorti en

00:31:04 août le 26 août 2025. Euh bah, il a pas

00:31:05 fait soumistral, je me suis trompé.

00:31:09 C'était sur du lama 3.1 70B et le le

00:31:13 405, le instruct, il a été fait sous euh

00:31:14 3.1.

00:31:15 Je savais pas qu'il en avait sorti

00:31:19 jusqu'à si récemment des openermes.

00:31:21 Euh bah en fait euh ouais après 2025

00:31:23 hein, ça fait ça fait un an qu'ils en

00:31:24 ont pas sorti quoi derrière.

00:31:25 Donc

00:31:28 bah après le local va pas aussi vite que

00:31:29 que le frontière tu vois.

00:31:31 Bah c'est surtout qu'en fait ils ont ils

00:31:32 ont le lo portal. Donc en fait

00:31:34 techniquement s'il voudrait ressortir

00:31:36 des modèles, il pourrai largement en

00:31:38 fait utiliser la database qu'ils ont

00:31:40 pour sortir plus proche.

00:31:41 Et d'ailleurs c'est ce qu'ils ont

00:31:43 commencé à faire. Alors je me suis pas

00:31:44 trop intéressé

00:31:45 d'ailleurs. Je me suis trompé aussi

00:31:49 Hermes enfin Narche les donc les

00:31:51 créateurs et fondateurs de Hermes euh

00:31:54 donc des modèles et de l'agent. Euh

00:31:56 c'est pas du tout anglais, du coup c'est

00:31:58 américain.

00:32:01 Euh voilà. Et euh il faut savoir alors

00:32:04 qu'est-ce que j'avais noté ? Ouais c'est

00:32:06 que surtout ouais euh ils ont commencé à

00:32:07 faire un espèce de petit partenariat

00:32:09 avec Solana. Je sais pas trop comment à

00:32:11 quoi ça correspond mais ils veulent

00:32:14 mettre un smart contrat pour

00:32:15 on va dire entraîner leur modèle. Donc

00:32:16 je sais pas ce que ça va donner pour la

00:32:20 suite. À voir sur notre dernier modèle

00:32:23 sur du code. Là ça va plus plus

00:32:24 Ouais. Là c'est

00:32:25 sur quel modèle du coup tu te

00:32:29 brancherais pour du modèle local

00:32:29 dire. Ouais

00:32:32 code. Après euh

00:32:34 tu vas me dire ça dépend de la stack.

00:32:35 Ça dépend encore une fois de qu'est-ce

00:32:37 que tu veux faire en code parce que si

00:32:40 tu veux l'HTML du CSS et du PHP.

00:32:43 Honnêtement euh honnêtement moi je

00:32:45 dirais Ken surtout

00:32:47 OKen bien

00:32:48 en fait c'est que moi je suis très très

00:32:51 Ken à l'heure actuelle parce que je

00:32:53 trouve que que il il est sympathique.

00:32:55 Après il y a il y a des choses qui sont

00:32:57 sorties. par exemple là, on en a parlé

00:32:59 un peu avant mais mais notre très cher

00:33:02 Kimi là après on peut pas on peut pas

00:33:03 l'utiliser mais mais tu as franchement

00:33:05 des beaux gros modèles qui sortent,

00:33:07 c'est très intéressant et puis en fait

00:33:09 tout dépend moi j'utilise Quen parce que

00:33:12 en fait un Quen Moe ça rentre bien sur

00:33:14 ma carte, je peux quand même pousser une

00:33:16 grosse fenêtre de contexte vu que c'est

00:33:16 un MOE.

00:33:19 Il fait combien en giga à peu près Ken ?

00:33:20 37B

00:33:23 27B mais en terme de GA

00:33:25 c'est en terme de giga, bah ça tout

00:33:27 dépend de combien je mets de contexte.

00:33:29 Si je mets un offload par exemple, si je

00:33:32 mets j'avoue de sur mon CPE et de la RAM

00:33:34 aussi au modèle, enfin tu vois, ça

00:33:36 dépend de beaucoup de choses, tu vois.

00:33:36 Ouais,

00:33:38 mais vu que pour moi il est il est assez

00:33:39 malléable, il est pas non plus trop

00:33:41 gros. C'estàd que je peux je peux

00:33:42 paralléliser avec d'autres modèles a

00:33:44 par-dessus sans sans trop de problème,

00:33:46 tu vois. Euh c'est ce qui me convient le

00:33:47 plus. Donc c'est pour ça que je dis

00:33:48 surtout du coin, tu vois. Mais

00:33:50 parce que là, je vois le 3.6 classique

00:33:53 en fait en taille, il fait euh 20 alors

00:33:56 pour 256000 tokens, il fait alors déjà

00:33:58 en en input, il peut faire du texte et

00:34:00 de l'image. Ça c'est

00:34:03 déjà fort. Et euh surtout qu'il fait que

00:34:04 seulement, on va dire entre par

00:34:06 seulement avec des grandes guillemets

00:34:07 que 24 Go quoi.

00:34:09 Oui. Après ça c'est quand il est activé,

00:34:10 il

00:34:13 moi vu que je le prends quasiment full,

00:34:15 on est aux alentours de 20 Go tu vois.

00:34:18 OK. Ver mais tout dépend de combien tu

00:34:20 mets de contexte encore une fois. Euh ça

00:34:22 ça joue beaucoup.

00:34:23 OK. Intéressant. Ouais.

00:34:25 Mais franchement très surpris de de ce

00:34:27 qu'il peut te faire euh le coin. Mais

00:34:28 euh mais vu que

00:34:30 vu que on

00:34:31 j'irais tester. C'est pas forcément un

00:34:33 modèle qu'on utilise en frontière mais

00:34:36 euh à voir hein franchement. Bah en fait

00:34:39 le le truc c'est que vu que moi je suis

00:34:41 un je suis un développeur et comme j'ai

00:34:45 dit je crée à l'aide de des outils di

00:34:48 frontières mes propres outils à moi. Euh

00:34:49 c'est j'utilise des modèles en local

00:34:52 mais il y a pas eu tant que ça de cas

00:34:54 d'utilisation bien spécifique tu vois.

00:34:55 Je me suis amusé à regarder un peu ce

00:34:57 qu'il pouvait faire mais pas j'ai pas

00:35:00 non plus euh poussé euh

00:35:02 oui sur des cas différents, on va dire

00:35:02 du sage.

00:35:04 Moi en fait ce qu'ils font surtout mes

00:35:05 modèles en local c'est c'est des boucles

00:35:07 de de retour. C'est-à-dire que je fais

00:35:09 fonctionner du code euh il y a il

00:35:11 récolte dans il y a une base de données

00:35:12 où ils vont récolter des métriques, ils

00:35:15 vont me donner ils vont m'envoyer tout

00:35:18 ça euh dans un rapport, tu vois et après

00:35:20 euh

00:35:21 ça va être envoyé la frontière pour

00:35:23 potentiellement faire une modification

00:35:26 dans le code parce que tu vois genre

00:35:29 overall le modèle local fait peu euh

00:35:30 pour l'instant mais le but c'est de

00:35:32 construire une architecture qui lui

00:35:34 permette à lui de ne plus avoir besoin

00:35:36 de modèle frontière et plus le temps

00:35:37 passe, plus les modèles qu'on a sont

00:35:39 performants et sont tournés vers de

00:35:41 l'agenticle et sont capables de faire

00:35:43 euh de mieux en mieux de l'agenticle,

00:35:44 c'est-à-dire interagir avec euh tout ce

00:35:49 qui est MCP, euh base de données, euh

00:35:52 application tiers genre obsidienne et

00:35:53 cetera et cetera. Donc ça devient de

00:35:55 plus en plus facile. Mais euh le

00:35:57 problème auquel tu vas te heurter

00:35:59 surtout ça va être comment tu vas

00:36:02 développer tes tes tes systèmes d' et

00:36:05 d'agent. C'est-à-dire que brancher tout

00:36:07 ensemble, c'est pas super compliqué,

00:36:10 mais les brancher d'une manière à ce que

00:36:14 ça soit comment ça interagable,

00:36:16 ça interagit sans euh que tu a des

00:36:17 explosions de contexte dans tous les

00:36:21 sens euh sans éviter queil y ait de de

00:36:24 de données importantes qui se perdent et

00:36:26 cetera et cetera. Mine de rien, tu

00:36:29 commences à arriver dans des questions

00:36:31 et dans des réflexions purement

00:36:34 d'ingénierie logiciel de je prends quel

00:36:35 type de base de données ? Je prends du

00:36:39 SQL, je prends une base de vectorisé,

00:36:40 c'est que du texte brut par exemple,

00:36:42 quoi. En fait, tu commences faut

00:36:45 vraiment se poser les questions assez

00:36:46 poussé sur certains points en fonction

00:36:48 de ce que tu veux faire quoi. En tout

00:36:51 cas, pour du local, c'està-dire que

00:36:53 après quand je dis assez poussé, c'est

00:36:54 c'est on parle pour un totalement

00:36:56 débutant, tu vois.

00:36:57 Ouais, bien sûr, bien sûr, bien sûr.

00:36:59 Parce qu' quelqu'un qui développe depuis

00:37:02 un moment, ce que ce que j'aborde, c'est

00:37:04 pas non plus des concepts.

00:37:06 Ouais. Ah, j'ai j'ai tout dans mon

00:37:08 audience.

00:37:09 C'est pour ça que c'est c'est pour ça

00:37:11 que c'est intéressant. Sur le dernier

00:37:13 point que je voulais voir avec les les

00:37:16 LM locaux avec toi sur une Alors, je

00:37:18 pense qu'on va plus parler de génération

00:37:20 de LLM. Est-ce que tu vois vraiment une

00:37:23 différence entre mettons

00:37:24 Oh, totalement.

00:37:26 Euh non, non, non, mais ce que je veux

00:37:27 dire, attends attends attends parce que

00:37:29 j'ai pas fini ma question.

00:37:31 Euh sur la génération, je pense que oui,

00:37:32 tu vois une différence, mais est-ce que

00:37:35 tu vois réellement une différence ? la

00:37:36 même génération, c'est-à-dire que je

00:37:40 sais pas moi, un Quen 3.6 va arriver, un

00:37:41 Deepsic

00:37:44 Flash V4 va arriver en local. Est-ce que

00:37:46 tu verras la différence ou c'est

00:37:47 vraiment infime ? Il faut pas se

00:37:48 préoccuper de ça, faut juste s'occuper

00:37:50 de la génération. Alors pour moi, si tu

00:37:52 veux trouver la différence, tu la

00:37:54 trouveras dans le sens où si tu fais

00:37:56 plein de tests ou tu leur tu leur mets

00:37:59 dans des cas différent d'utilisation,

00:38:02 ils vont forcément répondre

00:38:03 d'une manière différente. Après, au

00:38:07 global, si si ton ton problème que tu

00:38:08 leur poses est assez fermé, ils

00:38:10 arriveront sans doute à la même

00:38:12 conclusion, mais ils peuvent peut-être

00:38:14 passer un peu le faire un peu de manière

00:38:16 différente. Après, pour moi,

00:38:20 honnêtement, en local, c'est assez

00:38:23 minime. Euh ce qu'il faut surtout

00:38:27 chercher, euh c'est pas tant les

00:38:29 différences. Qu'est-ce qui les

00:38:31 différencie ? C'est plus qui te

00:38:33 correspond. C'est-à-dire que par

00:38:36 exemple, tu vois, Quen parle d'une

00:38:38 certaine manière, Dipsic parle d'une

00:38:40 certaine manière. Même si au global tu

00:38:43 as une manière

00:38:46 similaire de de parler. Tu exemples tu

00:38:48 regardes par exemple avec Chat GPT, il y

00:38:50 avait une manière de parler. Maintenant

00:38:52 tu commences à lire des articles, il y a

00:38:54 quand même des grandes des grandes

00:38:55 similitudes dans la manière dont sont

00:38:57 structurés les nouveaux articles et

00:38:59 cetera et cetera. C'est vrai.

00:39:00 Donc tu as donc tuas tu as quand même

00:39:02 une similitude mais ce qu'il faut

00:39:03 chercher c'est c'est faut faire des

00:39:06 tests après et faut pour pour moi encore

00:39:09 une fois c'est tout faut trouver le cas

00:39:12 enfin le modèle plus qui dans sa manière

00:39:15 de dire les choses que tu préfères tu

00:39:15 vois

00:39:17 en fait c'est c'est chercher toi ce qui

00:39:20 te ce que tu préfères en fonction des

00:39:22 des des de ce qui t'est offert comme cas

00:39:26 possible genre que ce soit Dipsicen Gema

00:39:28 que de base à l'interaction quotidienne

00:39:30 tu préfères genre dans la manière de

00:39:33 répondre et après tu pousses ta

00:39:34 personnalisation dessus

00:39:36 par que c'est difficile quand même je

00:39:38 pense de parce que imaginons, je prends

00:39:40 un débutant qui veut qui veut son petit

00:39:42 LLM local trouver justement déjà

00:39:44 installer tous les LLM en va dire les

00:39:46 grands on va dire les grands les grands

00:39:48 LLM locaux qui existent donc du GMA

00:39:50 mettons euh qu'est-ce qu'on a d'autre du

00:39:53 Mistral plus en fait c'est des si tu

00:39:56 veux t'attaquer à du local tu es obligé

00:39:58 de comprendre un minimum les outils avec

00:40:00 lesquels tu veux interagir, quelles sont

00:40:01 leurs petites différences, lesquelles

00:40:03 sont mieux pour par exemple faire du

00:40:04 code, lesquels sont mieux par exemple

00:40:07 pour te faire du

00:40:10 de la rédaction de texte et cetera et

00:40:11 cetera. En fait, en fonction des cas

00:40:14 d'usage, c'est surtout euh faut voir en

00:40:15 fonction de tes cas d'usage ce que tu

00:40:18 veux, tu vois. Et après pour ça euh

00:40:20 selon parce que selon le même prom que

00:40:21 tu leuras donné,

00:40:24 exactement sur un même prom qu'est-ce

00:40:25 que chacun te donne et qu'est-ce que tu

00:40:27 préfères ? Après, pour se donner une

00:40:29 vague idée, il y a il y a quand même pas

00:40:30 mal de données là-dessus. C'est-à-dire

00:40:32 que tu peux aller regarder sur des

00:40:35 forums, sur des des des sites de

00:40:37 classement par exemple pour te donner

00:40:40 une vague idée de de ce qui existe et de

00:40:41 de qu'est-ce que les gens préfèrent.

00:40:44 Après, encore une fois pour moi, parce

00:40:45 que tu vois par exemple, il y a des

00:40:47 gens, ils disent "Ouais, chat GPT pour

00:40:49 coder, c'est nickel.

00:40:52 J'ai d'autres collègues, ils sont là. À

00:40:54 moi, c'est que Claude. Moi, j'utilise

00:40:55 les deux, tu vois. Il y a il y a quand

00:40:57 même beaucoup de préférence. Après, il y

00:40:58 a il y a quand même des consensus

00:41:00 globaux qui sont faits que Claude pour

00:41:01 coder, c'est quand même bien. Après,

00:41:03 quand tu regardes

00:41:06 les deux monstres

00:41:07 que sont euh

00:41:13 GPTEX et Codex et et et Claude, ça reste

00:41:14 quand même

00:41:15 différent. Moi, pour moi, en fait, ça

00:41:18 reste différent mais tu as en fait vu

00:41:19 que c'est c'est très puissant, tu

00:41:21 arriveras quand même à ce que tu veux.

00:41:23 Après, ça dépend de à quel point les

00:41:26 gens veulent être dans le détail et la

00:41:29 qualité du produit fini parce que le but

00:41:31 aussi c'est d'arriver à à quelque chose

00:41:34 de productif. C'est c'est peu importe le

00:41:39 modèle que tu utilises si euh tu pour en

00:41:40 tant de temps, tu arrives à générer tant

00:41:43 de tokens mais que ces tokens ont une

00:41:45 valeur ajoutée supérieure à ce que tu

00:41:47 peux faire avec un autre modèle, même si

00:41:49 le modem est plus faible, tu vois ?

00:41:52 Genre tu utilises un dipsy à la place

00:41:54 d'un d'un kimi, par exemple, tu vois à

00:41:56 l'heure actuelle. Bah est-ce que

00:41:58 utiliser le meilleur modèle du moment

00:42:00 c'est c'est la c'est la bonne question ?

00:42:02 Est-ce que le but c'est pas simplement

00:42:05 de en local tout du moins de faire en

00:42:06 sorte de retirer le plus de valeurs

00:42:09 ajoutées euh des modèles que tu utilises

00:42:10 ? Après, bien sûr, il faut rester à

00:42:11 l'actualité. C'est-à-dire que si tu

00:42:13 utilises un modèle d' ans euh tu as de

00:42:15 fortes chances que si tu changes pour un

00:42:16 modèle de maintenant, peu importe quel

00:42:19 est en local, ça sera toujours mieux. Ça

00:42:23 pas de doute, mais euh de là ce que tu

00:42:24 veux vraiment savoir, ce que tu veux

00:42:25 utiliser, c'est vraiment ton cas

00:42:27 d'utilisation. Euh et euh quand toi tu

00:42:30 les as utilisé, qu'est-ce que

00:42:32 qu'est-ce que tu en as retour qu'est-ce

00:42:33 que tu en as retourné, pardon ?

00:42:35 Ouais, le résultat quoi derrière. Ouais.

00:42:35 Ouais.

00:42:37 OK. OK. OK.

00:42:38 Après, bien sûr, il y a des consensus

00:42:39 mais moi euh mais moi, vu que j'ai pas

00:42:41 assez poussé vraiment l'utilisation

00:42:43 locale, euh moi j'ai vraiment poussé le

00:42:46 développement euh logiciel, je préfère

00:42:48 pas trop m'avancer là-dessus, tu vois.

00:42:48 Mais

00:42:49 OK, ça peut se comprendre

00:42:50 quand même, il y a un petit consensus

00:42:51 qui se fait.

00:42:53 Petite pause dans le podcast. Si tout ce

00:42:54 que je raconte ici vous intéresse mais

00:42:56 que vous ne savez pas encore comment

00:42:57 l'appliquer à votre business, c'est

00:42:59 justement le but de l'opération feu. À

00:43:00 l'intérieur, vous avez plus de 100

00:43:03 modules autour de Hermes des LLM, de NN,

00:43:05 du SEO, du scrapping, de

00:43:07 l'automatisation et plusieurs business

00:43:08 concrets. Vous retrouverez les setup,

00:43:10 les méthodes, les ressources et les

00:43:12 agences skill prêts à installer sur AMS

00:43:13 pour vous guider. Le but ce n'est pas

00:43:15 simplement d'apprendre à discuter avec

00:43:16 UNIA, c'est de comprendre comment

00:43:18 utiliser correctement, l'intégrer dans

00:43:19 vos méthodes de travail et surtout

00:43:21 l'exploiter pour créer et développer vos

00:43:22 propres business et générer vos premiers

00:43:24 euros. Le lien de l'opération feu est en

00:43:25 description et tant que j'ai votre

00:43:27 attention, pensez à vous abonner, à

00:43:29 mettre un like et à booster la vidéo si

00:43:30 vous voulez soutenir ce type de contenu.

00:43:32 On reprend. OK. J'avais du coup une

00:43:35 autre question sur donc là, on a fait

00:43:38 les euh config matériel, les minimum et

00:43:40 tout. Qu'est-ce que Qu'est-ce que tu

00:43:43 conseillerais du coup un débutant ou une

00:43:44 personne qui veut faire un peu plus de

00:43:48 l'âge antique euh en modèle local euh

00:43:50 qui pourrait héberger sur sa machine,

00:43:52 son Mac Mini et cetera et cetera ?

00:43:54 Voilà. Après, pour

00:43:56 resynthétiser un peu tout ce qu'on a dit

00:43:59 avant, parce que tu me parles beaucoup

00:44:02 du local, mais moi

00:44:04 bien que je fais du local, euh

00:44:06 honnêtement pour quelqu'un qui débute,

00:44:07 je vais sans doute me répéter parce que

00:44:09 je l'ai déjà dit, mais je conseille

00:44:12 absolument pas de de partir en local

00:44:15 parce que pour partir en local, c'est un

00:44:18 coup rien que déjà le matériel dont on a

00:44:20 parlé juste avant, c'est c'est environ

00:44:22 pour pour les petits serveurs.

00:44:23 ou juste c'est de la c'est de la rame

00:44:26 partagée, c'est environ 3000 balles

00:44:27 facile, tu vois. C'est c'est déjà c'est

00:44:29 un coup. Euh si tu veux monter un PC

00:44:31 comme le mien avec les prix

00:44:33 d'aujourd'hui, tu es tu es aux alentours

00:44:36 de de 4000 € facile. Euh donc à l'heure

00:44:39 à l'heure actuelle euh partir sur du

00:44:40 vocal, c'est moi je conseillerai pas

00:44:43 pour un débutant. Donc disons plutôt à

00:44:45 une personne qui souhaite

00:44:47 plutôt ne plus utiliser de modèle

00:44:49 frontière, personne qui a un certain

00:44:52 nombre de budget on va dire sur sur ces

00:44:54 modèles locaux. Si un budget s'il y a un

00:44:55 budget minimal,

00:44:56 on parle uniquement des modèles locaux

00:44:57 pour le moment.

00:44:59 Uniquement des modèles locaux. OK. Ce

00:45:01 que je conseille

00:45:02 pour au minimum faire tourner un modèle

00:45:04 local, si on parle uniquement de LLM,

00:45:08 c'est au moins d'avoir 24 Go de VAM. Euh

00:45:11 que ce soit Nvidia ou les concurrents

00:45:14 avec comment ça comment ça s'appelle ?

00:45:14 Mac

00:45:16 les Non, pas Mac. Mac c'est très bien

00:45:18 aussi mais je vais je vais revenir après

00:45:19 parce que tu as Nvidia et pour les

00:45:22 cartes graphiques, tu as euh Ryzen et

00:45:23 tout AMD. Voilà, merci.

00:45:26 Euh AMD ça marche aussi si on parle

00:45:29 purement de LLM et juste de de de LLM.

00:45:31 En tout cas, à l'heure actuelle, ça

00:45:32 c'est les cas d'utilisation que j'ai

00:45:35 testé. peu importe ce que tu prends euh

00:45:36 à ce niveau-là, tu pourras faire du du

00:45:38 local. Après, il y a croor que si tu

00:45:41 utilises AMD que tu pourras pas utiliser

00:45:45 euh parce que le le le runtime qui

00:45:48 permet de faire tourner euh les drivers

00:45:50 euh sont pas sont pas encore bien faits

00:45:52 pour certains trucs,

00:45:55 mais euh quand même plutôt Nvidia. à

00:45:56 Nvidia.

00:45:59 Ouais, honnêtement, je suis pour la la

00:46:02 simplicité, la qualité euh à l'heure

00:46:05 actuelle de de l'environnement IA, je

00:46:06 choisirai Nvidia en tout cas pour le

00:46:09 pour du local. Donc il faut au moins 24

00:46:12 Go de VAM pour moi et puis 32 Go de RAM

00:46:15 au minimum. Le processeur, pas forcément

00:46:17 important qu'il soit puissant, mais il

00:46:19 faut quand même avoir un bon processeur.

00:46:21 Donc je dirais un Ryzen 9.

00:46:21 Donc il faut quand même important de ce

00:46:22 postulat là,

00:46:24 on va dire un bon setup. Ouais. pour euh

00:46:25 Ouais, il faut quand même une une

00:46:27 machine. Si on veut là, si on parle

00:46:28 d'argent, il faut quand même une bonne

00:46:31 machine. Euh donc on parle quand même et

00:46:33 moi là ce que je dis c'est un setup

00:46:35 moyen, tu vois. C'est-à-dire que c'est

00:46:36 là où tu peux commencer à faire vraiment

00:46:39 des trucs intéressants. Avant euh tu

00:46:40 peux faire de lien en local, mais ça

00:46:43 restera pour moi limité. Euh à

00:46:44 de la rédaction, tu veux dire par

00:46:45 exemple ? Peut-être

00:46:47 de la rédaction ou du code.

00:46:49 OK. Mais euh et puis que ce soit aussi

00:46:53 de de du diagnostic euh tes boucles,

00:46:56 comment vont fonctionner, tu vois, genre

00:46:57 il te faut il te faut quand même un

00:46:59 minimum. Euh après, en ce qui concerne

00:47:02 le modèle, ça comme je l'ai dit un peu

00:47:04 plus tôt, c'est à la préférence comment

00:47:06 euh la l'utilisateur va trouver le

00:47:09 modèle pertinent ou pas. Ce que je veux

00:47:11 dire par pertinence, c'est est-ce que

00:47:14 euh les réponses qui me sont données

00:47:15 conviennent dans la manière d'être

00:47:18 écrite, dans le format, ce genre de

00:47:18 choses.

00:47:20 OK. Est-ce qu'on pourrait contourdire

00:47:21 là-dessus dans le sens où derrière,

00:47:22 est-ce que c'est pas le prompt qui est

00:47:24 mauvais par rapport à l'Are ?

00:47:26 Bah le prompt, c'est une chose, tu vois,

00:47:29 un bon prompt, c'est important mais euh

00:47:32 si on reprend la loi de du 8020, le

00:47:34 prompt, on pourrait se dire c'est 20 %

00:47:38 qui vont me donner 80 %. Mais euh c'est

00:47:41 pour moi c'est pas ça. Pour moi euh le

00:47:44 prompt va aider à cadrer, va te

00:47:47 permettre euh de de pouvoir donner une

00:47:50 direction. Mais le plus important en

00:47:53 local, c'est de c'est de de finder ces

00:47:54 modèles, c'est-à-dire de les entraîner

00:47:57 sur des cas pratiques

00:48:00 qui d' d'un par qui qui qui vont

00:48:01 solutionner un problème. C'est-à-dire

00:48:03 que imaginons, je vais prendre des

00:48:05 mails, tu vois,

00:48:07 t'envoie des mails, bah si tu veux que

00:48:10 ton ton LM réponde correctement pour

00:48:11 toi, bah toi tu réponds à des mails

00:48:13 d'une certaine manière, par exemple.

00:48:16 Donc euh tu vas faire en sorte que tu

00:48:20 vas donner euh comme euh data euh de

00:48:22 d'entraînement euh toi ta manière

00:48:23 d'écrire tes mails, tu vas en donner euh

00:48:25 plein euh je sais pas euh 2000 par

00:48:27 exemple, tu vois, si tu veux vraiment

00:48:29 une bonne bonne manière, c'est-à-dire

00:48:31 que pardon, si tu veux pas forcément une

00:48:33 bonne manière, mais si tu veux que ça

00:48:36 corresponde à ton style, pardon,

00:48:39 dans ton prom peut-être, c'est ça. Alors

00:48:41 pour moi ça ce que je te dis c'est faut

00:48:43 que tu réentraînes le modèle avec tes

00:48:45 données. Si tu veux que ça si toi par

00:48:46 exemple tu écris beaucoup de mail à la

00:48:48 main, tu vois, tuas un certain style, il

00:48:51 faut que tu nourrisses ton LM de ce

00:48:52 style et que tu le réentraînes avec.

00:48:55 Fais un du fine tuning léger,

00:48:57 c'est-à-dire que tu tu juste tu changes

00:48:59 un peu les poids, ça va changer la

00:49:01 manière d'écrire du du lal et ça

00:49:02 correspondra beaucoup plus à ton style

00:49:05 d'écriture que si tu le demandes par

00:49:06 exemple directement prompt. En fait, le

00:49:09 le prompt faut s'en servir pour euh pour

00:49:14 cadrer euh la tâche et euh le style euh

00:49:16 la manière de la réponse euh comment tu

00:49:19 veux qu'elle réponde ? Enfin, tout comme

00:49:22 tout ce qui correspond à comment il va

00:49:24 générer

00:49:26 à à quoi à quoi ressembler ton output,

00:49:28 il faut que tu l'entraînes dessus.

00:49:28 OK.

00:49:30 Pour moi, c'est c'est le plus important.

00:49:32 Donc ça demande encore en plus une

00:49:34 couche

00:49:36 une surcouche matérielle, tu vois, parce

00:49:37 que tu peux plus ton modèle est groupe,

00:49:40 bah plus il faut que tu puisses avoir

00:49:42 des ressources de calcul grosses. Donc

00:49:43 potentiellement, il faut que tu loupes.

00:49:45 Donc c'est dans cet ordre là plutôt. Ça

00:49:47 serait plutôt au choix du LLM puis après

00:49:50 le prompt pour voir le Funage quoi.

00:49:50 C'est ça.

00:49:53 OK. Le le prom pour moi c'est c'est tu

00:49:54 vois tu as tu as choisi ton modèle, tu

00:49:58 l'as mis en place, tu peux discuter avec

00:50:00 peu importe la manière que soit par API

00:50:02 parce qu'il est sur un serveur ou ou

00:50:05 d'autres, tu vois que tu as tu vas lui

00:50:07 mettre un prom système qui va entre

00:50:09 guillemets cadrer ce qu'il va devoir

00:50:11 faire. Euh il peut en avoir plusieurs.

00:50:12 C'est-à-dire que par exemple tu peux lui

00:50:16 faire un prompt pour qu'il l'analyse ce

00:50:18 que tu lui as fourni. euh un autre pour

00:50:21 qu'il fasse la tâche euh et cetera et

00:50:23 cetera. Et ce que tu vas faire, c'est

00:50:27 que pour que ton résultat corresponde au

00:50:30 mieux à ce que tu veux, tu vas entraîner

00:50:32 le modèle sur des cas types de

00:50:35 résultats. Comme ça, tu es sûr que dans

00:50:37 le style de réponse et euh dans le

00:50:38 prompt

00:50:40 euh tu lui as dit qu'est-ce qu'il devait

00:50:42 faire et tu l'as tu as dit qu'est-ce

00:50:43 qu'il devait faire, tu as dit comment et

00:50:47 tu l'as montré euh la le quel genre

00:50:49 c'est comme en mathématiques, tu vois.

00:50:51 Euh quand tu écris ta démonstration

00:50:53 mathématique, tu as une manière de

00:50:55 l'écrire, tu vois. Tuas bah c'est pareil

00:50:55 pour moi.

00:50:57 OK. Donc donner l'exemple justement,

00:50:59 enfin avoir la consigne, donner

00:51:00 l'exemple. Tu peux le faire, tu peux le

00:51:01 faire en prompt, tu vois, bien sûr, mais

00:51:03 ça veut dire que tu dois avoir une

00:51:04 taille de contexte plus grosse, tu vois.

00:51:06 ça va l'aider à cadrer. Mais le prompte

00:51:08 tu as une limite. Euh au bout d'un

00:51:09 moment quand tu as trop de prompt

00:51:10 d'exemple, tu vois, enfin c'est-à-dire

00:51:12 tu as trop de de comment il doit le

00:51:14 faire en exemple, déjà ça overfit la

00:51:16 fenêtre de contexte pour rien. Et euh

00:51:18 autant que tu fasses tu lui fasses faire

00:51:22 cet exercice directement euh avec un

00:51:24 entraînement comme ça c'est tu peux

00:51:26 libérer de ta fenêtre de prompt pour

00:51:28 donner des meilleures instructions plus

00:51:30 précises ou en donner plus par exemple.

00:51:33 OK, je vois. Et donc du coup, tu

00:51:36 conseillerais quel modèle de LLM précis,

00:51:38 on va dire du Quen 3.6 ou ça dépend

00:51:39 vraiment ?

00:51:41 Alors moi ce que je conseille en local

00:51:43 euh parce qu'on va partir du principe

00:51:45 que c'est un comm un coup, tu essayes

00:51:49 d'utiliser des modèles petits qui te

00:51:50 donnent les meilleurs résultats. Donc

00:51:52 pour ça, il faut que tu utilises des

00:51:55 modèles locals récents de préférence des

00:51:56 MOE.

00:52:00 Euh puis après en fonction de ta

00:52:03 capacité de ressources que tu as, tu vas

00:52:05 choisir ta quantisation. C'est-à-dire

00:52:07 que par exemple moi, vu que j'ai 24 Go

00:52:10 de VAM et je peux si je reprends

00:52:11 l'exemple de Quen que j'utilise

00:52:13 beaucoup, tu vas pouvoir

00:52:16 tu vas pouvoir 24 Go de VAM, c'est

00:52:17 environ ce qu'il faut pour le faire

00:52:19 tourner en complet. Et moi, du coup, vu

00:52:21 que j'ai que 24, j'ai envie d'avoir un

00:52:23 peu de marge au cas où par rapport à ma

00:52:25 fenêtre de contexte et cetera. Moi,

00:52:27 j'utilise une quantisation du Q8. Tu as

00:52:28 plusieurs déclison de quantisation. Par

00:52:32 exemple, tu vas avoir le le Q8, Q6, euh

00:52:36 Q4, Q5 euh Q2, Q3. Et plus tu descends,

00:52:38 plus Q4, c'est ça ?

00:52:40 Pas forcément parce que

00:52:41 ça dépend du poids. Ouais,

00:52:44 tu vois ça ou exactement. En fait, ça

00:52:45 plus plus tu vas descendre, plus ça va

00:52:47 être enfin plus ça va être haut. Genre

00:52:49 Q8 par exemple, c'est très proche du

00:52:50 modèle de base, tu vois. Hm

00:52:52 hm. Genre plus plus tu descends en

00:52:54 quantisation, plus tu vas euh avoir un

00:52:57 modèle petit euh mais tu vas aussi

00:53:00 perdre en qualité de d'output. Et moi ce

00:53:01 que je conseille, tu vois, c'est de

00:53:03 rester sur des des Q4, tu vois. C'est le

00:53:06 milieu entre les deux. Euh ça te permet

00:53:09 de par exemple d'avoir un peu de marge

00:53:11 si tu as euh si tu as allez 12 Go de

00:53:14 VAM, tu vois, ça va en utiliser 6 si tu

00:53:15 mets une bonne fenêtre de contexte et tu

00:53:19 optimises bien avec un bon framework.

00:53:21 Genre par exemple la map en CPP pour ne

00:53:23 citer que lui, tu vois. H

00:53:26 tu vas quand même avoir une marge pour

00:53:28 que il ait une taille suffisante de

00:53:29 contexte pour que tu puisses le faire

00:53:31 des tâches variées sur une longue durée

00:53:32 quoi.

00:53:34 Même avec une, on va dire une carte

00:53:37 graphique de 24 Go de de VAM. Ouais.

00:53:39 Ouais. Après, ça reste quand même pas

00:53:40 mal du tout, tu vois. Tu peux tu peux

00:53:42 faire ce que je viens de te dire avec

00:53:43 des plus petites cartes. H

00:53:43 h

00:53:45 euh par exemple des cartes à 6 Go de

00:53:47 VAM, mais tu vas quand même être bien

00:53:49 plus limité. C'est-à-dire que par

00:53:52 exemple pour de la réponse de mail sur 6

00:53:54 G de VAM, ça peut se faire. Genre après,

00:53:56 il va falloir que tu peux pas faire

00:53:57 tourner tout en parallèle, faut que tu

00:53:58 fasses du séquentiel, c'est-à-dire que

00:54:01 c'est euh un coup une tâche puis

00:54:03 l'autre. Tu peux pas les faire en même

00:54:04 temps certaines tâches, tu vois. Tu vas

00:54:06 devoir tout faire les unes après les

00:54:06 autres.

00:54:08 OK, je vois. Du coup, j'en viens à ma

00:54:10 question suivante. Comment toi tu

00:54:12 optimises tes promptes et euh qu'est-ce

00:54:14 que tu donnerais comme comme conseil

00:54:17 justement pour euh optimiser pour

00:54:18 affiner un petit peu les

00:54:18 alors déjà

00:54:19 ce qu'on pourrait ce qu'on pourrait

00:54:22 avoir comme résultat déjà euh pour faire

00:54:24 un bon prompt, c'est en anglais

00:54:27 simplement parce que c'est la langue la

00:54:29 la langue sur laquelle il y a le plus de

00:54:34 data. Donc euh c'est juste simplement

00:54:36 pour maximiser la qualité des résultats

00:54:37 parce que c'est la langue

00:54:39 internationale. L'informatique, la

00:54:42 majorité euh des livres, des

00:54:44 connaissances, des docs, c'est en

00:54:46 anglais. Donc tout a été entraîné

00:54:48 principalement sur de l'anglais. Tu

00:54:49 vois, bien sûr que après en français ça

00:54:51 marche très bien, mais si on parle

00:54:53 vraiment purement euh on veut maximiser

00:54:56 la qualité du prompt euh en anglais,

00:54:57 même si on recherche un résultat en

00:54:58 français,

00:55:01 euh tu peux tout à fait euh tu peux tout

00:55:02 à fait lui écrire un prompt en anglais

00:55:03 et lui dire que tu veux un résultat en

00:55:04 français, ça marche. C'est tout à fait

00:55:06 possible. Euh mais pour moi, je

00:55:08 conseille vraiment d'utiliser l'anglais

00:55:09 pour en tout cas ce qui est sur la

00:55:11 génération. Après, pour la réponse

00:55:12 finale que tu vas donner à ton

00:55:15 utilisateur, tu peux demander euh une

00:55:16 couche de traduction par derrière, tu

00:55:18 vois. Mais faut faut pas que ça soit le

00:55:20 même prompt qui s'occupe de ça et la

00:55:22 même instance qui s'occupe de ça.

00:55:23 C'est-à-dire qu'il y en a une qui va

00:55:25 s'occuper de la traduction et une qui

00:55:28 sera s'occuper de générer les réponses

00:55:29 parce que sinon tu vas tu vas avoir des

00:55:31 problèmes de qualité sur ta réponse

00:55:31 finale.

00:55:32 Faut faut bien

00:55:34 en activant le raisonnement justement du

00:55:35 coup.

00:55:35 Oui,

00:55:38 je parle en dehors vraiment de même en

00:55:39 dehors justement je peux je mixe un peu

00:55:42 les deux entre local et frontière.

00:55:43 Modèle frontière.

00:55:45 En fait pour moi un modèle frontière

00:55:46 c'est très puissant. Ça peut faire

00:55:48 plusieurs petites tâches en même temps.

00:55:50 Enfin, tu peux faire des gros des gros

00:55:52 lots de petites tâches en même temps. Il

00:55:54 va pas forcément se perdre. En local, si

00:55:56 tu veux maximiser la qualité, tu vas

00:55:59 découper au mieux tes tâches. Euh donc

00:56:01 pour moi, je découperai tout ce qui est

00:56:04 traduction de la génération de la

00:56:07 réponse de 1. Après là, on divague de la

00:56:09 question qui était comment optimiser mes

00:56:10 promes déjà du coup en premier en

00:56:13 anglais. Il faut être clair dans ces

00:56:15 instructions, c'est-à-dire que pas pas

00:56:18 quelque chose de fag. Par exemple, je

00:56:22 voudrais que tu me corriges euh le code.

00:56:23 Non, tu veux ça après ça c'est très

00:56:26 généraliste. Si tu veux une correction

00:56:28 de code par exemple euh ou si tu veux

00:56:30 modifier un bout de code, tu dis le nom

00:56:33 du fichier euh tu lui dis de telle ligne

00:56:36 à telle ligne si tu si tu sais d'où

00:56:37 vient le problème. En tout cas, tu

00:56:39 cibles au mieux qu'est-ce qu'il doit

00:56:43 faire. Euh, tu essayes de lui donner euh

00:56:44 pas la code base en entière parce

00:56:45 qu'imaginons, c'est un gros projet, tu

00:56:47 pourras pas euh mais tu essayes de lui

00:56:51 donner euh les fichiers à qui qui vont

00:56:52 interagir. Euh,

00:56:54 exactement, faut que tu lui donnes un

00:56:57 contexte assez assez fourni sur bah déjà

00:56:59 euh où tu en fait faut que tu répondes à

00:57:01 où où il travaille, tu vois, qu'est-ce

00:57:04 qu'il fait ? C'est-à-dire que si si on

00:57:06 prend le la modification d'un fichier de

00:57:07 code, tu vois, faut que tu lui dises bah

00:57:09 à peu près il est dans quelle région, à

00:57:11 quoi il a accès, à quoi il a pas accès

00:57:13 par exemple. euh faut que tu lui

00:57:17 expliques sa tâche. Euh c'est-à-dire que

00:57:20 je veux que tu modifies euh ce cette

00:57:23 fonction pour que euh elle elle

00:57:26 enregistre le le ce qui est stocké en

00:57:30 mémoire euh pendant euh pendant que ton

00:57:33 ton modèle tu vois il il fait de

00:57:35 l'inférence, tu vois, par exemple.

00:57:36 OK.

00:57:38 Genre tu tu veux tu veux pouvoir lire le

00:57:41 tampon mémoire que que qui s'envoie les

00:57:43 uns les autres TL

00:57:44 donc de l'anglais

00:57:45 par exemple

00:57:47 surprom de la précision c'est ça du

00:57:48 contexte

00:57:48 ouais

00:57:50 qu'est-ce que tu aurais le moins vague

00:57:51 possible

00:57:52 je dirais

00:57:53 qu'est-ce que tu aurais d'autre

00:57:55 justement

00:57:58 il faut il faut découper en plus si tu

00:58:00 as par exemple tu vois ta tâche c'est de

00:58:03 générer un frontend euh s'il y a

00:58:05 plusieurs pages par exemple tu vas tu

00:58:07 vas lui faire faire page par page, mais

00:58:08 dans chaque page, tu vas lui dire si tu

00:58:10 dois générer la page d'accueil, tu vas

00:58:13 dire "OK, dans ma page d'accueil euh je

00:58:15 veux qu'il y ait mon footer, mon

00:58:18 header." Tu vas lui dire qu'est-ce qu'il

00:58:19 y a dans chaque En gros, il faut être

00:58:21 précis dans le découpage de qu'est-ce

00:58:23 qu'il va devoir faire par étape, tu vois

00:58:24 ?

00:58:26 Oui. Faut pas lui donner juste écris-moi

00:58:27 écris-moi la page de HTML, quoi. C'est

00:58:28 ça

00:58:30 exactement. C'est faut faut être précis.

00:58:33 Après à l'époque fallu dire par exemple

00:58:36 si quand tu étais sur 3.5 5 euh oui, tu

00:58:38 es un développeur frontaine avec 10 ans

00:58:39 d'expérience, tu vois ça, ce genre de

00:58:41 chose pour moi n'est plus nécessaire.

00:58:44 Après je poser la question justement

00:58:46 pour pour moi c'est plus nécessaire mais

00:58:49 en fait maintenant faut que en tout cas

00:58:51 moi comment j'utilise la chose c'est que

00:58:54 je lui donne du contexte sur qu'est-ce

00:58:56 que c'est quoi qui doit faire euh où il

00:58:59 doit le faire comment il doit le faire

00:59:01 et s'il a des restrictions ou pas.

00:59:02 C'est-à-dire que tu as pas le droit de

00:59:06 de d'utiliser cette fonction par exemple

00:59:09 et euh je lui découpe les tâches.

00:59:11 C'est-à-dire que il va y avoir des

00:59:13 répétitions dans chaque prompe mais euh

00:59:15 pour faire une seule modification de

00:59:16 code potentiellement tu vois il va y

00:59:18 avoir quatre promptes. Euh c'estàdire

00:59:21 qu'il faut bien découper en tout cas.

00:59:22 Ouais. à chaque fois les trucs tu donnes

00:59:24 pas tout d'un coup.

00:59:25 Je lui donne pas tout d'un coup en fait.

00:59:28 Je lui donne une portion après l'autre.

00:59:30 C'est-à-dire que d'abord, il va analyser

00:59:32 le bout de code que je voudrais qu'il

00:59:37 modifie. Il va voir si sans perdre

00:59:40 forcément si tu vois si tu as mis des

00:59:42 optimisations, par exemple, tu fais en

00:59:44 sorte que tu donnes des métriques à quel

00:59:46 point ta fonction à mettre temps à être

00:59:49 exécutée, il va pouvoir récupérer ça et

00:59:52 cetera. Euh tu vas lui dire sans perdre

00:59:55 en exécution. Euh après ça c'est sur on

00:59:57 parle sur des des fonctions qui qui sont

00:59:59 très grosses qui prennent beaucoup de

01:00:01 temps et exécuté. Je te parle pas de

01:00:02 petites ligne de code, tu vois genre une

01:00:04 fonction de

01:00:05 Je te parle pas des petites fonctions,

01:00:06 je te parle des fonctions qui font

01:00:07 vraiment des des gros des grosses

01:00:08 choses.

01:00:09 Ouais. Des grosses quantités de

01:00:10 d'information.

01:00:11 Tu vois si si tu dois lui dire qu'il

01:00:14 doit optimiser par exemple va falloir

01:00:16 que il fasse des tests. C'est-à-dire que

01:00:19 tu fais pas en même temps écrire le

01:00:21 patch et tester le patch, tu vois dans

01:00:22 le même prompt.

01:00:25 Ouais. faut vraiment bien séparer. Bah

01:00:27 sinon en fait euh pour reprendre le cas

01:00:29 d'Hermes, tu vois, il va déclencher les

01:00:31 squid les uns la suite des autres mais

01:00:34 euh potentiellement tu vas avoir de la

01:00:37 de la contexte lost un moment parce que

01:00:38 je sais pas dans ton point MD, il y a

01:00:40 écrit que quelque part il doit faire ça

01:00:42 comme ça mais que dans ton prom toi tu

01:00:44 as dit d'une autre manière de faire les

01:00:47 choses. Tu vois, faut faire attention à

01:00:48 tout ce que tout ce que tu mets dans tes

01:00:49 contextes en fait.

01:00:51 C'est le plus important. Donc tu me

01:00:53 confirmes bien que maintenant c'est je

01:00:55 le je le fais répéter parce que pour les

01:00:58 gens qui sont encore sur LinkedIn il y a

01:01:01 il y a 4 ans, donc le tu es développeur

01:01:03 depuis 10 ans expert en PHP, ça

01:01:05 fonctionne plus, on est d'accord.

01:01:06 Ah pour moi ça sert à rien. Et toi tu tu

01:01:07 le fais ou pas toujours ?

01:01:09 Ah non non, je le fais pas.

01:01:11 Ah pour moi ça pour moi pour moi c'est

01:01:12 c'est révolu en fait. Je trouve ça

01:01:15 tellement bateau en fait que ça

01:01:17 fonctionné dans le 3.5

01:01:19 au 4 à la limite mais pour moi

01:01:20 Ouais mais après après j'ai arrêté

01:01:24 aussi. Ouais, je voyais plus je vo je le

01:01:25 voyais par contre dans tous les pompes.

01:01:28 Ça ça vraiment je l'ai vu. Je vois

01:01:28 encore.

01:01:31 Tu peux lui dire que tu tu peux lui dire

01:01:32 par exemple si tu tu peux lui dire

01:01:34 j'aimerais que le code soit écrit comme

01:01:36 si tu étais un développeur qui a 10 ans

01:01:37 d'expérience ou comme si j'étais un

01:01:40 junior. Tu vois,

01:01:41 tu vas voir le style d'écriture, tu peux

01:01:44 jouer là-dessus mais c'est plus du tout

01:01:46 important pour la qualité pour moi.

01:01:47 Ouais. Après, généralement ceux qui

01:01:49 l'écrivent justement, c'est purement

01:01:50 pour la qualité. C'est c'est vraiment

01:01:52 pas pour le style d'écriture quoi.

01:01:53 Ouais, c'est mais là c'est plus une

01:01:54 question de style. Maintenant, si on

01:01:56 veut de la qualité, faut être factuel

01:01:59 euh dans ce que ce qu'il doit faire et

01:02:01 pas qui s'éparpille.

01:02:03 Et même sur du RMS, je reprends du coup

01:02:06 le l'exemple du RMS, même sur du RAMs,

01:02:09 tu tu reprendrais le tu referais des

01:02:12 itérations sur des modèles frontières ?

01:02:14 Bah en fait euh alors non parce qu'en

01:02:15 fait ce qu'il faut se dire c'est qu'avec

01:02:18 des modèles frontières euh le coûpt euh

01:02:20 plus tu fais des plus tu fais des tokens

01:02:23 tu vois, plus c'est un coup. Donc euh il

01:02:24 faut trouver le juste milieu. Quand tu

01:02:26 es sur euh du local, tu n'as pas ce

01:02:28 problème là, tu vois. OK, ça ça coûte de

01:02:31 l'énergie mais tu peux le frais les les

01:02:33 frais sont pas en fait tu peux te

01:02:36 permettre de passer plus de de de temps

01:02:38 sur une tâche parce que toi ce que tu

01:02:40 cherches à maximiser c'est à quel point

01:02:46 tes tes tokens vont te tirer euh tu vois

01:02:46 en tir un

01:02:47 bénéfice

01:02:50 genre tu tu peux te permettre de perdre

01:02:51 un peu plus de temps parce que tu peux

01:02:52 te permettre d'aller chercher plus de

01:02:54 qualité parce que tu as pas la pression

01:02:56 financière de à chaque fois que j'envoie

01:02:57 10000 tokens bah ça me coûte coûte

01:02:58 temps.

01:03:00 Ouais. OK.

01:03:01 Mais faut pas oublier le coup de

01:03:02 l'électricité, tu vois.

01:03:02 C'est vrai.

01:03:03 Après,

01:03:05 après si tu fais en modèle local, c'est

01:03:07 que tu en as un peu rien àer, on va

01:03:09 dire.

01:03:10 Modèle local, le coût de ce que je paye

01:03:13 pour faire tourner ma machine et le coût

01:03:14 de ce que je gagne, en tout cas ce que

01:03:15 ce que j'ai déjà gagné à l'heure

01:03:17 actuelle, c'est ridicule.

01:03:19 Bah oui, pour le pour la rembourser, je

01:03:21 pense qu'à mon avis, c'est pas pour ça

01:03:22 que tu le fais, quoi.

01:03:23 Non, c'est pas pour ça que c'est pas

01:03:24 pour ça.

01:03:25 Ouais. Je reviens à la question

01:03:27 suivante. Du coup, quel est ton quel est

01:03:30 ton meilleur hack pour LM ? Ce qui a qui

01:03:31 a un peu transformé tes tes workflow ou

01:03:35 ton ton système de travail, on va dire.

01:03:36 Alors, mes meilleurs hack

01:03:38 ou ton meilleur hack, je sais pas si tu

01:03:40 en as un seul ou plusieurs.

01:03:42 En vrai,

01:03:45 j'en ai pas spécialement

01:03:48 à part te dire que encore une fois pour

01:03:50 moi, tu vois, quand tu travailles, tu as

01:03:51 un workflow.

01:03:54 Ouais. Euh soit tu intègres lié à ton

01:03:56 workflow, soit tu reconstruis ton

01:04:00 workflow autour de l'aria. Donc moi,

01:04:02 j'ai fait partie de la team, j'ai

01:04:04 construit mon flo autour de lia,

01:04:07 c'est-à-dire que que j'utilise Cloud ou

01:04:09 Codex, tu vois, j'ai les deux j'ai les

01:04:11 deux. Je fais effectuer certaines tâches

01:04:13 par cloud et par Codex. Par exemple,

01:04:15 comme j'avais dit un peu pour tout ce

01:04:17 qui est la phase d'idéation, tu vois,

01:04:19 moi je vais sur mon chat GPT, je parle

01:04:23 avec lui, je cherche, je je me dis "OK,

01:04:25 je peux construire mon application de

01:04:27 telle manière." Puis après, je fais

01:04:29 faire un prototype à Codex, genre

01:04:30 vraiment très basique. Et puis pour ce

01:04:32 qui est vraiment codé codé, je le fais

01:04:34 passer par exemple sur sur un cloud, tu

01:04:35 vois.

01:04:38 OK. Donc plutôt la faire un espèce de

01:04:41 moe mais toi manuellement

01:04:43 en te disant que derrière tu vas

01:04:45 planifier en fait les étapes selon en

01:04:48 fait les différentes spécialités des LLM

01:04:49 s'ils sont plus rapides. Le meilleur ha

01:04:51 c'est ça c'est d'utiliser euh les

01:04:54 modèles frontières euh ce pourquoi il

01:04:57 ils sont faits. C'est-à-dire que à Codex

01:04:59 euh

01:05:01 tu vas lui demander c'est du code tu

01:05:03 vois mais chat GPT c'est pas que Codex.

01:05:05 chat GPT euh c'est euh c'est tu peux

01:05:07 t'en servir pour euh tu as envie de

01:05:09 faire quelque chose, tu peux lui poser

01:05:11 des questions. Euh après bien sûr les

01:05:13 sources qui vont qui vont t'être

01:05:15 données, il va falloir aller euh les les

01:05:17 data miner. C'est-à-dire que ça peut te

01:05:18 donner une vague idée de ce que tu peux

01:05:19 faire, mais il faut quand même aller

01:05:23 chercher par toi-même vraiment euh les

01:05:24 choses. Mais c'est c'est quand même une

01:05:25 bonne base, tu vois. Ça ça te permet de

01:05:28 d'un peu voir de voir le truc. Mais

01:05:31 après, il faut il faut choisir euh Lia

01:05:34 la plus compétente à la tâche là-dessus.

01:05:36 Là, c'est plus moi dans mon cas là où je

01:05:38 te parle, c'est plus une question de

01:05:39 préférence. C'est vraiment une question

01:05:41 de laquelle est la mieux dans mon cas

01:05:43 d'utilisation parce qu'en local, tu as

01:05:47 un peu cette problématique là mais euh

01:05:50 mais tu vas chercher aussi la li la la

01:05:52 plus compétente à la tâche, mais tu as

01:05:54 moins de choix, tu vois. Genre en tout

01:05:57 cas, tu as moins de polyvalence.

01:05:59 C'est-à-dire que un modèle frontière

01:06:03 d'un d'un overall, tu vois, ils savent

01:06:05 faire bien les choses. Même si il y en a

01:06:07 un qui va être un peu meilleur pour la

01:06:08 rédaction, l'autre va être un peu

01:06:11 meilleur pour le code, euh ça reste

01:06:12 quand même les les meilleurs modèles on

01:06:15 va dire tu auras pas

01:06:18 trop de les différents pour moi, tu

01:06:19 commences à avoir quand même une une

01:06:21 grosse équivalence après. Et en local,

01:06:22 c'est pas du tout le cas.

01:06:24 OK. Euh il y en a qui vont te parler

01:06:26 vraiment euh d'une manière que tu vas

01:06:28 pas du tout aimer, qui vont te donner

01:06:29 tes codes d'une manière que tu vas pas

01:06:31 du tout aimer, coder d'une manière que

01:06:33 tu vas pas du tout aimer. Euh vu que le

01:06:34 local c'est c'est très c'est très vaste,

01:06:37 tu vois, tu peux utiliser euh tu as tu

01:06:38 as tu as potentiellement beaucoup de

01:06:42 fort que de ton lama euh 3.2, tu vois,

01:06:44 genre tu as tu as plein de possibilités

01:06:48 euh là-dessus. Euh par exemple, ponet

01:06:50 Hermes comme on en parlait. Euh tu vois,

01:06:53 tu vas voir aussi Mistral, chacun va

01:06:56 faire les choses à sa manière. Donc

01:06:58 pour moi, c'est beaucoup plus qu'est-ce

01:07:01 que toi tu avec quoi tu as le tu as le

01:07:03 feeling le plus.

01:07:03 OK.

01:07:05 Genre toi, qu'est-ce qui te convient le

01:07:06 mieux

01:07:08 en terme de business ? Du coup, je sais

01:07:10 que tu as enfin tu débutes à peine, on

01:07:12 va dire. Tu es plus on va dire sur de

01:07:15 l'IA actuellement. Qu'est-ce que tu

01:07:16 verrais ? parce que tu as quand même une

01:07:18 culture internet assez prononcée.

01:07:19 Qu'est-ce que tu ne vois qui n'a pas été

01:07:21 fait en terme de

01:07:22 honnêtement

01:07:23 de Ouais. d'idé

01:07:25 honnêtement je vois pas honnêtement.

01:07:27 Alors en terme d'idée, c'est c'est assez

01:07:28 vage. T'avoue que je saurais pas trop

01:07:32 euh quoi te répondre là-dessus mais ce

01:07:33 que je peux dire par rapport à ta

01:07:35 question c'est que en terme

01:07:39 euh de de de business, tu as plein

01:07:41 d'opportunités. Euh après moi je

01:07:43 pourrais plus te répondre du point de

01:07:44 vue dev du point de vue

01:07:46 sur une demande on va dire que tu aurais

01:07:49 vu. Tu te disais bah voilà euh là euh

01:07:51 sur je sais pas ce secteur là par

01:07:53 exemple je sais pas je te dis je te dis

01:07:56 une bêtise hein mais euh je sais pas il

01:07:57 y a les tu vois par exemple sur les

01:07:59 codex pet il y a eu un pas mal de

01:08:02 choses. Si tu voyais que il y avait une

01:08:04 offre sur une niche, on va dire une

01:08:07 thématique, qu'est-ce que qu'est-ce que

01:08:09 tu envisagerait de faire quoi qui a qui

01:08:12 a pas été fait actuellement ? Je t'avoue

01:08:14 que là-dessus, je sais vraiment pas à

01:08:16 quoi te répondre parce que je suis pas

01:08:18 je suis pas du tout dans je je suis pas

01:08:19 assez tourné business à l'heure actuelle

01:08:20 pour même à ta demande justement

01:08:22 justement qu' un truc que tu achèterais

01:08:25 euh un abonnement que tu sur des IA que

01:08:27 tu achèterais euh

01:08:29 hm

01:08:30 c'est queen fait je me suis jamais trop

01:08:33 posé euh la question parce que moi tu

01:08:34 vois je suis je suis beaucoup plus dans

01:08:35 l'aspect développement à l'heure

01:08:37 actuelle vu que j'étais dans les études

01:08:39 j'étais plus à chercher comment ça

01:08:43 fonctionne comment comment je peux

01:08:45 produire des résultats de qualité. Tu

01:08:46 vois, j'ai pas cherché forcément la

01:08:49 monétisation, mais

01:08:51 si je peux répondre à ta question du

01:08:52 maintenir détourné, ce que je peux te

01:08:53 dire, c'est qu'en tout cas en

01:08:57 développement l'IA euh ça commence à

01:08:59 arriver de partout dans tous les sens,

01:09:01 que ça soit au niveau de l'écriture du

01:09:04 code en elle-même, de l'intégration

01:09:08 dans les systèmes

01:09:11 dans les systèmes qui existent déjà. Euh

01:09:13 par exemple les les les serveurs de

01:09:15 mail, ce genre de choses, enfin ça

01:09:17 arrive à à plein de niveaux différents

01:09:19 et beaucoup plus fort qu'on le pense.

01:09:21 C'est-à-dire que peut-être dans des

01:09:22 entreprises, c'est pas forcément

01:09:25 utilisé, mais je connais des gens et je

01:09:28 discute avec pas mal de gens où euh tu

01:09:29 vois par exemple, on peut parler de

01:09:31 Cubernetis, bah tu as déjà pas mal de

01:09:34 possibilités qui peuvent être fait avec

01:09:36 euh on a parlé. Ouais. Hm hm.

01:09:37 C'est-à-dire que ça c'est plus de

01:09:40 l'aspect desobs. Donc c'est euh les

01:09:41 mises en place et les maintiens des

01:09:46 infrastructures euh de de

01:09:47 tes serveurs euh et de de tes

01:09:50 ressources. Mais euh mais honnêtement,

01:09:51 ça commence à arriver de partout. Donc

01:09:55 pour moi, en terme de business euh en

01:09:57 fait c'est que il y a il y a pour moi

01:10:00 euh qu'est-ce qui a pas été fait ? Plein

01:10:02 de choses. Euh mais quoi exactement ? Je

01:10:04 saurais pas dire mais en tout cas euh il

01:10:06 y a des opportunités qui n'existaient

01:10:08 pas hier qui vont se créer. Euh ça c'est

01:10:11 sûr. Euh il y a pour moi il y a

01:10:13 facilement moyen de se faire de l'argent

01:10:17 euh plus qu'on le pense mais vu que

01:10:18 c'est assez facile à l'heure actuelle ce

01:10:21 qui va te démarquer des autres et de la

01:10:25 concurrence ça va être ton petit côté à

01:10:26 toi en plus. Tu vois ce que ton aspect

01:10:28 créatif

01:10:30 l'originalité. Ouais. Tu veux dire sur

01:10:31 Ouais ouais ouais. pour moi, c'est

01:10:34 l'originalité qui va surtout jouer.

01:10:37 OK. Quelle erreur tu vois le plus en le

01:10:38 plus souvent, on va dire, chez les

01:10:40 débutants dans les LLM si tu avais par

01:10:42 exemple des

01:10:44 Honnêtement, c'est la flemme de prompter

01:10:46 correctement.

01:10:50 Genre je le dis, je le dis parce que

01:10:54 c'est même moi ça m'arrive. C'est si en

01:10:55 tout cas si c'est pas pour des petites

01:10:56 questions ou quoi, si c'est vraiment

01:10:59 dans un aspect travail pur, il faut

01:11:00 faire l'effort de faire cet exercice de

01:11:02 bien prompter correctement, de passer un

01:11:04 peu de temps à bien prompter. Même si

01:11:06 euh maintenant euh moins tu mets de mot,

01:11:08 plus tu es vague et mieux ça fonctionne,

01:11:10 il y a quand même une large différence

01:11:12 entre des promptes bien écrits et des

01:11:14 promptes. Même si tu vas arriver au même

01:11:18 résultat, euh bah

01:11:20 c'est bien écrit dès le départ, plus il

01:11:23 y a de chance que ça soit bien fait d'un

01:11:26 coup et c'est très important d'arriver

01:11:27 le plus vite possible au résultat qu'on

01:11:28 veut.

01:11:31 OK. Donc vraiment pensez à vérifier vos

01:11:34 vos pompes, c'est ça ? Hm hm.

01:11:36 pas d'insulter Lia ou autre chose. Je

01:11:36 déjà

01:11:38 Ouais. Non, pas Oh là là, oh là là.

01:11:40 Je l'ai déjà vu. Donc

01:11:41 après, faut pas non plus dire bonjour.

01:11:43 Enfin, faut pas être cordial non plus,

01:11:45 mais faut

01:11:46 tu faut pas rentrer non plus dans dans

01:11:50 le p intérêt du coup d'être cordial avec

01:11:51 Unia ou ou can

01:11:53 ? Alors, à l'époque à l'époque ça en

01:11:56 avait parce que les textes mieux écrits

01:11:57 euh

01:11:59 donc la lig Ouais, l'alignement a changé

01:12:00 en fait.

01:12:04 Bah en fait, c'est que maintenant tesia

01:12:07 euh fonction sont

01:12:10 beaucoup plus rég

01:12:14 la la la sémantique des mots comme ce

01:12:16 que tu avais à l'époque, tu vois.

01:12:16 Ouais.

01:12:18 C'estàd que la comme on a en entité

01:12:20 justement sur le sur le référencement

01:12:21 web, le SEO quoi.

01:12:24 Exactement. C'est-à-dire que la

01:12:25 sémantique est importante, mais

01:12:28 maintenant euh réellement c'est purement

01:12:30 de la logique, c'est-à-dire que euh on a

01:12:32 dépasser le simple stade de c'est de la

01:12:34 prédiction de de caractère après les

01:12:35 caractères. C'est-à-dire qu'on est quand

01:12:37 même capable maintenant de de poser des

01:12:40 vraies questions euh mathématiques qui

01:12:42 demandent des gros raisonnements.

01:12:43 C'est-à-dire que je sais pas si tu as vu

01:12:45 des dernières olympiques de math, bah

01:12:48 Lia euh elle gagne hein et réussit.

01:12:50 J'ai pas vu. Ouais mais intéressant.

01:12:51 Ouais.

01:12:53 Donc il faut se dire que en fait on

01:12:54 [grognement] est on a dépassé le stade

01:12:58 de simple de simple prédicteur de mots.

01:13:00 On est quand même sur des entités qui

01:13:02 sont capables d'un niveau de réflexion

01:13:06 plus ou moins profond et poussé euh

01:13:08 selon les tâches à effectuer.

01:13:11 Donc là, on est au-delà d'un cerveau en

01:13:12 en dehors de la conscience, on va dire.

01:13:14 On est au-delà d'un cerveau humain quoi.

01:13:17 Là, on est à 200.

01:13:20 Alors, j'essaierai pas de quantifier en

01:13:21 terme de cuit, mais ce qu'il faut se

01:13:23 dire, c'est que on a des outils qui sont

01:13:27 capables de réflexion. Euh

01:13:30 et ça c'est un fait, c'est pas c'est

01:13:33 alors oui, c'est que des statistiques

01:13:34 mais euh

01:13:36 ça les capacités émergentes comme on

01:13:39 appelle ça euh de de ces machines

01:13:42 statistiques sont euh sont sont

01:13:44 bluffantes pour moi. Donc faut faut

01:13:46 reconnaître que il y a un certain niveau

01:13:48 d'intelligence. Après euh pour moi, tu

01:13:50 là après on rentre un peu dans le débat

01:13:52 philosophique. Euh pour moi, il faut

01:13:53 différencier l'intelligence humaine de

01:13:55 l'intelligence artificielle. Ce n'est

01:13:57 pas du tout construit de la même manière

01:13:59 et déjà de on sait même pas spécialement

01:14:01 comment trop bien fonctionne nous euh

01:14:02 euh notre intelligence et qu'est-ce que

01:14:05 l'intelligence déjà, tu vois. Mais euh

01:14:08 au-delà de ça euh pour moi il faut il

01:14:09 faut reconnaître que c'est il y a des

01:14:12 capacités de réflexion, de planification

01:14:14 et d'adaptation et de résolution de

01:14:16 problèmes et de tâches. Donc euh faut

01:14:17 pas se voiler la face non plus.

01:14:19 Ouais, c'est vrai. Je pense qu'on l'a

01:14:21 qu'on l'a passé quand ce cap du coup ?

01:14:22 Euh

01:14:24 euh

01:14:26 honnêtement,

01:14:29 à partir de 4.0 pour moi, on avait déjà

01:14:31 passé le cap, tu vois.

01:14:33 OK. Ouais, c assz restant. il était pas

01:14:35 aussi marqué que il le devient au fur et

01:14:38 à mesure des années qui se sont écoulés

01:14:40 à par la suite. Tu vois, c'est comme

01:14:42 avant

01:14:43 parce que on va parler un peu un peu

01:14:47 technique les harnet tels que Hermes

01:14:49 Open Clow, on a dit c'était la

01:14:51 révolution. Ce qu'il faut se dire c'est

01:14:55 que Chat GPT 3.5, Chat GPT 4.0 avait

01:14:57 déjà des harné. C'està dire que c'est

01:14:58 quelque chose qui qui était déjà mis en

01:15:03 place pour cadrer les modèles. Euh puis

01:15:05 après tu as tout ce qui est les rags et

01:15:09 cetera, tout ça, ton incorporation de

01:15:13 données d'entrée euh pour ton résultat.

01:15:14 Intéressant ça. Ouais.

01:15:17 Mais euh

01:15:18 je me je me rappelle justement par

01:15:21 rapport à la un test qui avait bien

01:15:23 tourné, bah ça fait à peu près, je crois

01:15:24 6 mois qu'il tourne depuis janvier. Là

01:15:27 euh il tourne il tourne sur internet,

01:15:30 c'est posé à une je veux laver ma

01:15:33 voiture, le le rouleau rouleau de

01:15:35 nettoyage est à 50 m. Est-ce que je dois

01:15:36 est-ce que je dois y aller à pied ou

01:15:38 est-ce que je dois prendre ma ma voiture

01:15:41 ? Et la plupart des IAS justement

01:15:42 répondait bah vas-y à pied, c'est plus

01:15:47 Pas mal le truc, je sais pas si tu

01:15:48 connaissais.

01:15:51 Non, je je connaissais pas mais euh

01:15:54 mais mais

01:15:56 parce que du coup on est bien d'accord

01:15:57 qu'on était sur la question de de quelle

01:15:59 erreur vois-tu le plus souvent chez chez

01:15:59 les débutants ?

01:16:00 Ouais, on a un peu

01:16:02 mais du coup euh on on a un peu

01:16:05 tergiversé mais euh ce que ce que je

01:16:07 voulais soulever par là, c'est que euh

01:16:11 faut passer à côté de l'outil, genre il

01:16:14 est compétent. Euh donc si euh tu fais

01:16:16 en sorte de lui donner des instructions

01:16:19 euh claires euh peu importe la

01:16:20 complexité, après il faut qu'il soit

01:16:21 capable de la réaliser. Bien sûr, si tu

01:16:23 dis euh "OK, construis-moi une fusée,

01:16:26 euh je vais aller sur Mars, c'est faut

01:16:27 faut rester réaliste." Bien sûr, j'ai

01:16:29 extrapolé beaucoup, mais il faut euh

01:16:32 faut aussi se rendre compte de

01:16:35 de de la capacité aussi du modèle que tu

01:16:37 utilises. Ça aussi, c'est une erreur.

01:16:38 Ouais. qu' faut faire même de décompiler

01:16:41 justement cette parce que la fusée tu

01:16:42 techniquement tu pourrais la faire avec

01:16:45 un LLM mais si tu on va dire si tu

01:16:48 divise on va dire les problématiques que

01:16:50 tu as avec ta fusée genre fais-moi un

01:16:52 boulon avec je sais pas

01:16:54 il arrivera à te à te

01:16:56 Ouais non il arrivera à te à te faire ça

01:16:58 bien sûr mais

01:17:00 mais il faut en fait il faut il faut

01:17:03 aussi au-delà de de pas avoir la flemme

01:17:05 de faire un prompte correct il faut

01:17:07 comprendre les limites

01:17:10 du modèle que tu utilises et il ne faut

01:17:13 pas laisser le modèle faire. C'està-dire

01:17:15 que c'est fais-moi fais-moi ceci et il

01:17:18 te dit je veux rajouter ça ça serait

01:17:20 bien. Non, il faut pas le laisser

01:17:21 divaguer. Il faut avoir le contrôle

01:17:24 parce que sinon c'est foutu. Écoute-moi

01:17:27 bien, c'est foutu. Tu pars dans tous les

01:17:29 sens et tu te retrouves avec ce que tu

01:17:31 as voulu mais des trucs en plus en moins

01:17:33 qui sont pas connectés les uns aux

01:17:34 autres. C'est moi je parle purement en

01:17:37 tant que développeur. Si tu cadres pas

01:17:41 bien comme il faut euh tu vas te créer

01:17:43 certes quelque chose qui fonctionne mais

01:17:45 ça va être horrible à l'utilisation, à

01:17:46 l'optimisation, à la maintenabilité.

01:17:49 Faut faire faut faire attention. Il faut

01:17:51 quand même garder une certaine main.

01:17:52 Ouais, on reste le cerveau hein. Après,

01:17:55 c'est lui qui a c'est qui exécute ça

01:17:57 c'est sûr. On vient à mon pécher mignon

01:17:59 un peu. Hermes.

01:18:01 Alors, qu'est-ce que tu penses du

01:18:03 fonctionnement de Hermes par rapport à

01:18:04 par rapport à Open Clow ?

01:18:07 Moi personnellement Open Clow Hermes à

01:18:09 mon avis, il est très tranché ou par

01:18:11 rapport à à l'autre qu'on avait parlé

01:18:13 là, celui de PewDiePie, comment il

01:18:14 s'appelle ?

01:18:16 Euh, j'ai plus le j'ai plus le nom. J'ai

01:18:18 fait un test en plus. Donc honte à moi.

01:18:21 Ouais ouais, honte à toi. Mais on en

01:18:23 avait parlé. Euh attends, on va le

01:18:26 retrouver euh

01:18:28 euh Odysseéus.

01:18:30 Oddyseus. Alors euh pour avoir testé les

01:18:32 trois honnêtement euh moi il y a pas de

01:18:36 débat, c'est Hermes euh déjà tant pour

01:18:38 après moi c'est plus parce que je suis

01:18:39 un développeur donc ça me convient

01:18:41 beaucoup mieux la manière dont ça a été

01:18:44 fait. Oui, après Odysseéus, bon je l'ai

01:18:47 testé testé en vrai, c'est pas

01:18:49 Moi, j'aime pas je préfère vraiment

01:18:50 Hermes

01:18:52 là-dessus que ce que je t'avais dit

01:18:53 ouais, je sais pas en fait à qui il

01:18:56 s'accorde, c'est-à-dire que c'est trop

01:18:59 simple pour un expert mais c'est trop

01:19:01 compliqué pour un débutant.

01:19:02 Exactement.

01:19:04 Donc je vois pas à qui il s'accorde.

01:19:05 Après, c'est bien qu'il les fait en open

01:19:06 source et tout, on peut le modifier et

01:19:06 tout.

01:19:08 Ouais. Mais c'est c'est c'est très bien

01:19:10 mais euh bon c'est pas

01:19:11 personnellement je préfère modifier un

01:19:13 Hermes que que Odysseus à l'heure

01:19:14 actuelle.

01:19:17 Ouais très clairement. Très clairement.

01:19:18 Donc du coup qu'est-ce que tu qu'est-ce

01:19:20 que tu penses de Ouais de de Hermes par

01:19:23 rapport à Open Clow ou

01:19:25 Alors franchement il y a eu un petit a

01:19:26 pour moi c'est un petit cran dessus

01:19:29 honnêtement pour faire de la des de

01:19:30 faire de de l'exécution de tâche pour

01:19:32 faire de l'âge antique comme on appelle

01:19:35 ça vraiment pur. Euh c'est vraiment

01:19:36 beaucoup mieux je trouve. C'est-à-dire

01:19:38 que tu peux être beaucoup plus beaucoup

01:19:41 plus fin dans ton contrôle de ce que tu

01:19:43 veux faire. Euh c'est-à-dire que en fait

01:19:47 euh genre grâce au skill, grâce au

01:19:49 système de de

01:19:51 pas que de skill mais de de mémoire que

01:19:53 tu peux lui que tu que tu lui que tu

01:19:56 peux lui partager euh quand il doit

01:19:58 faire des tâches, il trigg ses skills,

01:20:00 tes points MD que tu vas que tu vas lui

01:20:04 donner pour la manière de de comment

01:20:06 comment tu veux qu'il interagisse avec

01:20:07 toi et cetera et cetera. C'est c'est

01:20:10 très bien. Ça permet un bon contrôle. tu

01:20:12 peux tu peux vraiment pousser loin la

01:20:15 chose et puis si tu es relativement

01:20:17 débutant, ce qui est bien c'est que il

01:20:18 est quand même relativement automatique

01:20:21 sur le le la chose, c'est-à-dire que tu

01:20:24 peux le laisser faire dans son coin euh

01:20:26 les skills et comment il va faire les

01:20:27 tâches, mais si tu veux vraiment être

01:20:28 efficace, il va falloir que tu repasses

01:20:31 un peu dessus potentiellement euh pour

01:20:33 faire en sorte que il y ait pas de

01:20:34 superflux quoi. Mais mais pour une

01:20:36 utilisation

01:20:38 quotidienne, c'est très bien pour une

01:20:40 utilisation tout court en fait dans le

01:20:43 domaine dans le domaine de Lia pour un

01:20:45 RNA, moi je recommande vivre mon Hermes.

01:20:47 Après, il a des limites, c'est-à-dire

01:20:52 que passer un certain volume de données,

01:20:55 de skill et de de enfin de

01:20:56 d'utilisation, enfin de temps

01:20:57 d'utilisation et de comment tu

01:21:00 l'utilises, tu vas potentiellement avoir

01:21:02 quelques petits problèmes parce que il y

01:21:04 a des choses qui vont se marcher dessus.

01:21:05 Il faut faire bien attention ce qu'il

01:21:07 est autorisé de faire quand il effectue

01:21:08 certaines tâches. Enfin, faut c'est

01:21:10 comme un ordinateur, il faut le garder

01:21:12 propre honnêtement. Moi, je le vois

01:21:13 comme ça. C'est comme un ordinateur. Un

01:21:15 ordinateur, c'est propre. Bah le le

01:21:17 harnet, faut qu'il soit propre, faut pas

01:21:18 que il y ait plein de trucs qui traînent

01:21:21 partout dans tous les sens et ne pas

01:21:23 savoir euh où ça vient, à quoi ça sert

01:21:26 parce que sinon si nous qui sommes

01:21:28 derrière, on sait pas l'IA, il y a des

01:21:29 chances qu'elle fassent des erreurs.

01:21:31 Après, tout ce qui est la partie code

01:21:33 pure de comment réalise la tâche,

01:21:35 qu'est-ce qu' a prend enfin qu'est-ce

01:21:36 qu' a fait comme comme résultat, ça tu

01:21:38 es pas enfin tu es pas obligé de savoir

01:21:40 par cœur ce qui se passe, tu vois. Mais

01:21:42 euh en tout cas, faut avoir du contrôle

01:21:46 sur le le le processus, quoi.

01:21:49 OK. Ouais, je je pense que les Ouais,

01:21:53 les membres de ma formation, j'

01:21:55 propose et tout, mais c'est vrai que les

01:21:57 skills, tu vois une différence entre des

01:21:59 skills open clos et Hermes qu'en fait ça

01:22:00 fonctionne exactement de la même

01:22:03 manière. Pourtant, un memorymd, un user.

01:22:05 MD puis après des skills.

01:22:08 Donc quelle différence ? sûr. Après euh

01:22:11 en fait la moi la différence ça se fait

01:22:14 pas tant au niveau de de

01:22:17 comment s'appelle pas tant au niveau de

01:22:19 capacités mais plus au niveau de comment

01:22:22 ça a été construit et comment tu peux te

01:22:25 brancher dessus plus que que ça parce

01:22:28 que open closet

01:22:29 bordel à l'intérieur. Je sais pas si tu

01:22:31 t'es amusé à regarder mais

01:22:33 un petit peu ouais.

01:22:36 Hermes c'est beaucoup plus je dirais

01:22:37 respirable. C'est-à-dire que c'est

01:22:38 beaucoup plus pour moi c'est en fait

01:22:40 c'est la je trouve que Hermes est

01:22:41 beaucoup plus simple à intégrer que open

01:22:44 clos sous certains aspects bien sûr si

01:22:46 tu fais des intégrationsement sa genre

01:22:48 bran mail les deux fonctionnent très

01:22:50 bien mais il y a tout aussi ce qui est

01:22:52 aspect sécurité que

01:22:55 Open Clow n'avait pas forcément au

01:22:58 moment où c'est où c'est sorti quoi. Et

01:23:01 moi j'ai boycotté, j'avoue, open clow et

01:23:04 dès qu' est sorti, je me suis mis tué.

01:23:06 Ouais. Et tu as pu tester desktop

01:23:07 peut-être ? Desktop ?

01:23:11 Euh alors pas encore parce que moi bah

01:23:12 comme j'ai commencé à l'utiliser avant

01:23:14 que avant avant ça, moi j'étais beaucoup

01:23:17 en CLI, enfin beaucoup par le terminal

01:23:19 et j'avais ma propre interface web par

01:23:21 pour Hermes. Donc

01:23:22 ouais, un

01:23:23 peu différent.

01:23:24 OK. OK. Après ça c'est arrivé très

01:23:26 récemment, c'est encore un peu buggé.

01:23:28 Donc il y a juste ça qui est un peu

01:23:30 Je t'avoue que j'ai moi je laisse un peu

01:23:31 moi ce que je fais généralement c'est

01:23:33 que je m'intéresse un peu à ce qui sort

01:23:35 mais je laisse un peu maturer d'abord.

01:23:36 J'attends de voir quelques retours pour

01:23:39 voir si ça vaut le coup ou pas euh

01:23:40 d'aller regarder dedans

01:23:42 parce que mais de rien li ça a évolué

01:23:43 très vite. Il y a beaucoup de choses qui

01:23:45 sortent mais c'est impossible de capter

01:23:48 tout ce qui se passe euh et d'être sur

01:23:51 la sur la sur la vague en permanence

01:23:53 mais

01:23:55 il faut il faut quand même être pas non

01:23:57 plus trop derrière quoi. Donc faut

01:23:59 regarder, faut faut laisser un peu

01:24:03 maturer, voir si ça a du potentiel ou si

01:24:06 ça va mourir. Par exemple, NVN, tu vois,

01:24:09 les gens ont énormément poussé sur NVN.

01:24:11 Toi aussi tu as fait du N feu et moi mon

01:24:13 discours à l'époque c'était non Nen pour

01:24:15 moi ça va mourir ça je sais pas si tu

01:24:16 t'en rappelles mais je me suis pas du

01:24:19 tout investi sur Népoque.

01:24:21 Après

01:24:23 honnêtement, bah je je suis honnête

01:24:25 hein, je mon Nend moi depuis que j'ai

01:24:27 mon Hermes, je l'ai coupé pour la simple

01:24:29 et bonne raison que toutes les tâches en

01:24:32 fait que je faisais avec mon Nen

01:24:32 maintenant, je l'ai fait avec mon

01:24:34 hermest

01:24:36 plus simple et tout mais pour uniquement

01:24:38 des tâches en fait avec des workflow

01:24:42 statiques euh c'est très bien en vrai.

01:24:44 mie ou ça ça je suis tout à fait

01:24:46 d'accord dans ce sensl après moi c'était

01:24:48 plus simplement sur de la publication on

01:24:51 va dire sur les réseaux sociaux euh des

01:24:53 stacks après avec des API des trucs un

01:24:55 peu différents en fait que qu'unia peut

01:24:58 gérer elle-même euh sur des choses

01:25:00 beaucoup plus statiques. Vaut mieux

01:25:03 prendre un par les trucs différents

01:25:04 différent

01:25:06 parce que c'est bien de c'est ça c'est

01:25:07 c'est un point que tu soulèves très

01:25:08 important. C'est bien de vouloir

01:25:10 utiliser Lia, mais ça sert à rien d'en

01:25:13 mettre partout. des fois ça n'est pas

01:25:15 honnêtement je trouve que ouais sur N8N

01:25:18 tuas tu as cette cet effet statique qui

01:25:19 est bien

01:25:21 mais tu vas pas la retrouver du coup

01:25:23 cette malléabilité

01:25:24 de

01:25:25 brancher les deux t'empêche de brancher

01:25:28 ton un herm aussi hein

01:25:30 euh bien sûr après plus dans l'autre

01:25:32 sens je dirais mais que ça soit un

01:25:35 Hermes qui gère unen

01:25:38 mais en fait en fait autant prendre des

01:25:40 crones après en fait tu as même pas

01:25:41 besoin On on est tout à fait d'accord,

01:25:42 on s'est compris. Je l'ai dit dans le

01:25:43 mauvais sens mais

01:25:46 mais oui, tu ton Hermes va gérer un,

01:25:47 rien ne t'empêche de faire ça.

01:25:49 Ouais. Après vraiment, est-ce que c'est

01:25:50 vraiment utile ? Franchement,

01:25:52 honnêtement non. Bah, dans certains cas,

01:25:54 honnêtement, je pense que ça peut ça

01:25:56 peut être utile, mais après euh en tout

01:25:56 dépend de

01:25:58 Non non, franchement non, parce que même

01:26:01 si tu veux pas utiliser de LIA sur tes

01:26:04 workflow, euh faut mieux choisir en

01:26:06 fait, faire soit un soit un Hermes. Et

01:26:08 si tu fais un Airmes, euh si tu as

01:26:11 quelques warflow fixes, on va dire à

01:26:14 faire qui qui sont pas malléables, qui

01:26:16 font pas justement trop dit à dessus,

01:26:18 vaut mieux faire un crun job. Hermes le

01:26:20 gère vra c'est non c'est vrai c'est vrai

01:26:21 c'est vrai

01:26:22 donc

01:26:24 mais après en tout cas ce qu'on peut

01:26:26 dire aussi c'est que c'est possible de

01:26:26 de se faire pendant une phase de

01:26:28 transition des gens qui utilisaient

01:26:30 beaucoup de sont capables de petit à

01:26:32 petit sans perdre tout ce qu'ils ont

01:26:33 fait sur une passer petit à petit sur

01:26:34 RMS

01:26:35 Ah bah bien sûr

01:26:37 bien sûr. Non non mais ça c'est sûr, moi

01:26:39 quand je suis passé, bah je suis passé

01:26:41 de je crois que ma stack c'était je suis

01:26:44 passé de WordPress automatique à Automa

01:26:49 et de N puis de N à à à Hermes. Donc

01:26:51 après j'utilisais encore, on va dire

01:26:53 j'ai j'ai vraiment combiné tous les tout

01:26:56 le reste quoi. Dire que je suis pas

01:26:57 passé d'un coup, on va dire entre

01:27:00 parenthèses mais c'est vrai que quand

01:27:02 c'est arrivé ça ça changé tout le truc

01:27:04 hein. Je suis totalement d'accord

01:27:06 sur les trucs. Tu me disais l'autre fois

01:27:09 justement QS c'était

01:27:11 c'était ce côté en sens où derrière les

01:27:14 gens l'utilisent

01:27:17 juste pour des mails en fait une grande

01:27:19 grande possibilité de de l'utiliser

01:27:22 en fait c'est que pour moi si Hermes bas

01:27:24 enfin basique Hermes classique

01:27:26 c'est-à-dire que si tu le modifies pas

01:27:28 derrière ça reste un outil très puissant

01:27:29 mais pour moi tu peux aller chercher

01:27:32 beaucoup plus c'està-dire que quand tu

01:27:34 prends ton Herm c'est que tu te customes

01:27:35 un peu pour répondre à certains besoins

01:27:37 très spécifique. Euh pour moi, c'est là

01:27:40 où tu vas tirer le maximum du harnet, tu

01:27:43 vois. Euh après, c'est pas la portée de

01:27:46 tout le monde euh forcément. Euh ça

01:27:49 demande un peu de temps, parce que faut

01:27:50 pas brancher n'importe quoi, n'importe

01:27:53 où. Euh sinon euh

01:27:54 est-ce que tu peux expliquer à Harnet ce

01:27:56 que c'est les plus

01:27:58 Alors, Arné, c'est très simple.

01:28:01 C'est-à-dire que euh ton IA, qu'elle

01:28:03 soit en local ou en frontière, tu peux

01:28:05 pas on c'est impossible de l'utiliser

01:28:07 tel quel. Il faut qu'il y ait une

01:28:09 passerelle entre

01:28:12 l'utilisateur et euh et elle. C'est

01:28:14 c'est le harnet. En gros, c'est

01:28:17 l'infrastructure logicielle qui va être

01:28:19 euh mis par-dessus l'IA en elle-même

01:28:22 pour qu'elle puisse interagir avec un

01:28:24 utilisateur, avec euh

01:28:27 donc je sais pas des logiciels. C'est

01:28:29 c'est en gros c'est c'est le c'est le

01:28:32 code que tu vas que tu que tu vas le que

01:28:34 quand tu vas lancer ton IA va être va

01:28:36 être mise en place pour la pour lui

01:28:37 permettre d'interagir avec c'est en gros

01:28:39 c'est c'est lui donner des mains quoi.

01:28:41 Donc mettons que l'utilisateur il

01:28:43 utilise un GPT dessus. Donc ça c'est le

01:28:45 moteur. C'est ça.

01:28:46 Ouais.

01:28:48 Et le le harnet c'est ce qui va

01:28:49 contrôler justement sur

01:28:50 c'est la carrosserie. Genre c'est la

01:28:52 carrosserie de ta voiture. Si si on

01:28:53 parle si on prend l'exemple d'une

01:28:55 voiture, c'estd que le moteur ça va être

01:28:57 ton modèle. Ta carrosserie par exemple

01:28:59 ça va être le harnet. Ça va être

01:29:00 c'est-à-dire est-ce que moi dans ma

01:29:03 voiture j'ai

01:29:04 la clim ou pas ? C'est-à-dire par

01:29:06 exemple est-ce que mon harnet il gère

01:29:08 automatiquement les mails ou pas et

01:29:11 cetera et cetera. C'est-à-dire euh que

01:29:14 que plus ton Harnet est est

01:29:15 j'allais dire compétent, mais c'est pas

01:29:18 vraiment ça. C'est plus Pluton Arn et et

01:29:21 modulable euh et euh simple

01:29:23 d'utilisation.

01:29:25 Euh plus tu vas pouvoir bah faire des

01:29:27 voitures entre guillemets. Si on reprend

01:29:28 l'exemple de la voiture, c'est comme si

01:29:29 tu avais une chaîne de montage, plus tu

01:29:30 vas pouvoir faire des voitures en

01:29:33 serrées qui sont correctes. Euh mais la

01:29:36 base ton moteur, tu vois, les moteurs

01:29:37 sont utilisés dans plein de voitures

01:29:40 différentes. Donc en fonction

01:29:43 de ton cas d'utilisation,

01:29:45 tu peux prendre un Hermes et moi je moi

01:29:47 les hermes que j'ai sont sans doute

01:29:49 radicalement différents des tiens, tu

01:29:51 vois, de ce qu'il y a dedans, de ce que

01:29:53 j'ai branché.

01:29:54 C'est c'est surtout ça quoi. C'est

01:29:56 vraiment pour pour moi c'est pour ça que

01:29:57 c'est côté c'est que les gens restent

01:30:00 trop dans dans les ramèes générales et

01:30:03 vont pas chercher à après c'est ça c'est

01:30:05 parce que je suis un peu impuriste

01:30:08 en terme de mais pour moi quand tu vas

01:30:09 quand tu vas rajouter quelques petits

01:30:11 trucs tu vas modifier un petit peu, tu

01:30:13 peux vraiment faire des trucs très très

01:30:15 intéressants.

01:30:18 Après un mess peut peut-être se s'auto

01:30:21 s'automodifier. Bien sûr, bien sûr, bien

01:30:23 sûr. Tu as tout à fait cette possibilité

01:30:26 là, mais euh pour moi, c'est très touchy

01:30:28 la l'amélioration récursive. Euh

01:30:29 c'est-à-dire que si c'est pas contrôlé,

01:30:31 ça part dans tous les sens et ça va

01:30:34 juste

01:30:35 plus te ralentir qu'autre chose parce

01:30:37 que potentiellement il va toucher à des

01:30:38 choses qui fonctionnaient très bien qui

01:30:42 va il va les modifier euh parce que tu

01:30:44 lui as donné la mauvaise direction euh

01:30:46 et que tu n'as pas mis de contrôle et

01:30:48 euh potentiellement toute ta stack tu

01:30:50 peux la perdre si tu as pas de backup,

01:30:54 si euh tu as pas de serveur web enfin de

01:30:56 pardon de serveur dev et de serveurs euh

01:30:59 de prod, tu vois. par exemple.

01:31:01 Donc faut faire faut faire très

01:31:03 attention quand tu mets tes modèles en

01:31:06 récursif de c'est quoi le pouvoir qu'ils

01:31:10 ont et euh c'est quoi c'est quoi à quoi

01:31:11 ils ont accès intéressant en tout cas.

01:31:13 Ouais. Quels avantages tu vois de

01:31:15 modifier le harnet justement de de RMS ?

01:31:17 Tu as des exemples en plus ? Bah encore

01:31:20 une fois, comme je l'ai un peu évoqué

01:31:22 juste avant, pour moi, les avantages

01:31:26 honnêtement de de modifier ton harnet,

01:31:28 c'est-à-dire que si tu as pas besoin de

01:31:32 si le harnet de base de hermè fait ce

01:31:34 que tu fais, ce que tu demandes, pardon,

01:31:36 il n'y a pas forcément besoin de pousser

01:31:39 la complexité. Mais par contre, si tu as

01:31:42 des tâches assez spécifiques, euh j'ai

01:31:44 pas d'exemples qui me viennent

01:31:46 spécialement en tête, mais on va dire,

01:31:48 imaginons que tu veuilles faire un,

01:31:50 allez, on va prendre

01:31:52 mes audiences, que tu crées un réseau de

01:31:55 site précis, un réseau de site avec je

01:31:57 sais pas une collection SSH,

01:32:00 des sites par milliers euh d'un coup,

01:32:02 qu'est-ce que qu'est-ce qu'orterait en

01:32:04 fait un un harnet chez

01:32:08 enfin chez ton Herms ? Euh bah

01:32:09 modifier le harnet, qu'est-ce que ça

01:32:10 pourrait m'apporter ? En fait, ça dépend

01:32:12 de qu'est-ce que tu veux modifier et

01:32:14 pourquoi. C'est est-ce que tu veux que

01:32:16 ton ton hary il interagisse

01:32:18 naturellement euh avec euh tes

01:32:20 différents sites ? Est-ce que euh tes

01:32:25 sites, tu as une espèce de de de serveur

01:32:28 qui enfin, tu as une espèce d'instance

01:32:31 qui gère le trafic sur tes sites. Il y a

01:32:33 combien d'utilisateurs ? à quel moment

01:32:34 il y a combien de clics euh qui sont

01:32:38 faits à tel endroit euh euh il y a

01:32:39 quelle est la demande et cetera. Tu

01:32:40 vois, tu peux récupérer plein plein de

01:32:42 données par l'intermédia de tes sites.

01:32:44 Et est-ce que par exemple avant de

01:32:47 donner ça à ton Hermes, tu fais tu

01:32:49 passes par une autre, tu vois, qui va

01:32:50 faire un prétraitement brut des données

01:32:53 avec un prompt, tu vois, pas forcément

01:32:56 ton Hermes en lui-même et ton tes tes

01:32:57 skills qui vont le faire, mais tu vois,

01:33:00 tu peux tu peux incorporer par exemple

01:33:01 Unia qui a été juste fait pour

01:33:03 prétraiter ces données qui va ensuite

01:33:05 les envoyer à ton Hermes euh qui lui

01:33:07 ensuite va récupérer ce rapport et va

01:33:11 trigger des skills pour par exemple sur

01:33:12 un tit

01:33:15 P la nouvelle newsletter parce que les

01:33:16 gens l'attendent et cetera et cetera, tu

01:33:19 vois. Euh dans des cas d'utilisation

01:33:22 assez spécifique, euh ça peut être très

01:33:24 intéressant de le modifier mais pour

01:33:25 moi, c'est le seul avantage que tu vas

01:33:26 avoir, c'est vraiment répondre à un

01:33:29 besoin extrêmement spécifique, mais euh

01:33:31 faut pas tomber non plus dans dans la

01:33:33 suroptimisation.

01:33:35 Donc pour moi, c'est ça c'est vraiment à

01:33:37 prendre avec des pincettes et ouais,

01:33:38 on va dire que celui par défaut est très

01:33:39 bien.

01:33:42 Celui par défaut est très bien. Après on

01:33:44 part du principe que tu es quelqu'un qui

01:33:46 n'est pas forcément développeur, qui est

01:33:49 pas forcément dans l'intelligence

01:33:51 artificielle. Faut pas faut pas

01:33:53 s'éparpiller, faut rester sur des des

01:33:55 éléments qui ont été mis en place, qui

01:33:58 fonctionnent bien euh pour ensuite après

01:33:59 comprendre un peu comment ça fonctionne

01:34:03 et par la suite commencer à à modifier

01:34:04 un petit peu.

01:34:05 OK. OK. OK.

01:34:06 Au besoin bien sûr.

01:34:07 On aura le droit à un petit un petit

01:34:10 tutoriel sur la chaîne de ta part.

01:34:11 [rires]

01:34:13 Bon, dites-nous en commentaire si vous

01:34:14 voulez un un petit

01:34:15 ça peut ça peut être intéressant après

01:34:18 euh un tutoriel sur quoi, tu vois ? sur

01:34:20 modifier comment modifier le harnet de

01:34:21 MS.

01:34:23 Bah après ça ça reste du développement

01:34:24 quoi. C'est

01:34:25 Ouais,

01:34:26 c'est après ça dépend de qu'est-ce que

01:34:28 tu veux modifier. Est-ce que tu veux

01:34:31 modifier par exemple toi qui parlait de

01:34:33 second cerveau euh juste avant avec moi

01:34:36 ? Ça ça dépend de ton Hermes. Est-ce que

01:34:37 tu veux juste modifier le le type de

01:34:39 base de données qui qui auquel il va

01:34:41 avoir accès ? Euh est-ce que en plus des

01:34:44 points MD tu vas avoir des une base de

01:34:46 données vectorielles ? Est-ce que tu vas

01:34:48 voir du texte brut dans tes bases de

01:34:50 données ? Euh, tu vois, c'est c'est à

01:34:52 quoi tu lui donnes accès, ça tu peux le

01:34:53 gérer de base, mais

01:34:56 mais euh mais tu vois, en fonction de à

01:34:58 quoi tu vas lui donner accès, peut-être

01:34:59 que tu vas faire du préraitement

01:35:01 d'abord, que tu veux pas que ton Herm il

01:35:03 a accès à ce pré-traitement parce que ça

01:35:05 s'il va s'éparpiller, tu vois, par

01:35:07 exemple. Donc, tu préfères le faire

01:35:08 d'une manière brute, tu vois.

01:35:12 OK. parce que ton Herm c'est un harnis,

01:35:15 c'està-dire que il va effectuer des

01:35:16 tâches. Tu peux lui demander toi-même de

01:35:19 faire ton pré-traitement de tes données,

01:35:23 mais plus tu as lui envoies des données

01:35:25 claires et précises dès le début, euh

01:35:26 mieux c'est, tu vois,

01:35:28 parce que il peut lui-même s'intoxiquer

01:35:30 potentiellement. Après là, ça rentre

01:35:32 dans dans des problématiques beaucoup

01:35:33 plus poussées, mais tu peux intoxiquer

01:35:35 toi-même ton propre nez avec les données

01:35:37 que tu vas lui envoyer potentiellement.

01:35:40 Si tu fais att si tu fais pas attention,

01:35:43 tu vois par exemple, tu vois tu il y a

01:35:45 un prompte,

01:35:47 il y a il y a un promptte malveillant

01:35:48 qui envoyé à ton Hermes, tu as pas mis

01:35:51 de sécurité euh bah il crée un skill

01:35:52 pour supprimer tous tes autres skills et

01:35:54 tu es MCP par exemple. Hop là, c'est

01:35:57 fini, c'est fini, c'est mort. Faut le

01:35:57 savoir ça.

01:35:59 Si en fait ce qu'il faut savoir c'est

01:36:01 que c'est que les données qui vont être

01:36:02 données en entrée sont très très

01:36:04 importantes parce que il y a pas s'il y

01:36:07 a pas de contrôle derrière euh quelqu'un

01:36:10 peut vraiment tuer peut tuer ton agent.

01:36:13 Donc euh la modification au-delà de pour

01:36:17 euh de de pour des des problématiques

01:36:19 très spécifique où tu as besoin vraiment

01:36:23 euh de de de faire une tâche qui n'est

01:36:24 pas qui est relativement peu commune,

01:36:26 bien que maintenant avec les skills, tu

01:36:27 peux quand même faire énormément de

01:36:29 choses. Euh

01:36:32 l'autre l'autre aspect et avantage de

01:36:34 pourquoi modifier le harm, c'est

01:36:37 vraiment une question de la sécurisation

01:36:39 de de ce qui se passe,

01:36:42 genre mettre plein de

01:36:45 de de checkup pendant les envois

01:36:47 d'input, les retours, les triggers de

01:36:49 skill, demander une vérification de s'il

01:36:51 a le droit dans ce cas de figure là de

01:36:52 le faire par exemple. Après moi ça fait

01:36:53 un petit moment que j'ai pas touché

01:36:55 armé, ça va faire quelques mois, tu

01:36:56 vois. Donc je sais pas s'il y a eu des

01:36:57 choses qui ont été incorporées à ce

01:37:00 niveau-là, mais forcément avec les les

01:37:02 100 commits par jour qui nous font,

01:37:03 ouais, il y a forcément des trucs qui

01:37:06 arrivent mais pour moi il faut il faut

01:37:09 il faut quand même en amont avant que ça

01:37:12 rentre dans le dans l'agent, il faut que

01:37:14 il y ait des sécurités mises en place.

01:37:16 OK. Ouais, j'ai préparé une grosse vidéo

01:37:19 d'ailleurs sur on en avait parlé là

01:37:22 juste avant là sur

01:37:23 C1 que j'ai j'apprécie particulièrement

01:37:26 de l'incorporer dans un RMS pour en

01:37:28 faire un second cerveau. Donc c'est une

01:37:30 chose très fastidieuse. J'avais un peu

01:37:32 galéré avec le 5.5. avec le 5.6 là,

01:37:34 j'avais beaucoup moins galéré et

01:37:37 l'intérêt c'est que avant de mettre du

01:37:39 contexte ou autre chose en fait, il va

01:37:41 directement chercher avec comme si one

01:37:43 c'estqlite

01:37:45 derrière, il va directement taper en

01:37:47 fait dans la base de données voir s'il a

01:37:49 un dire

01:37:51 il a quelque chose à récurrent. Ouais.

01:37:53 Ouais, c'est ça. Et ça évite du coup

01:37:57 d'utiliser un skill qui embume, on va

01:38:00 dire, le contexte pour pour faire une

01:38:02 une tâche ou autre chose. Et ça

01:38:03 fonctionne très très bien sur les

01:38:06 styles. Justement, l'écriture. Euh

01:38:08 toutes mes descriptions de vidéos

01:38:10 maintenant sont faites sont faites

01:38:13 uniquement avec ce ce C1 de ce second

01:38:16 là. Donc euh

01:38:18 voilà un carel de quel avantage modifier

01:38:20 le RMS au final ? Ben alors après j'ai

01:38:22 fait moi j'ai fait un benchmark récursif

01:38:25 du du de dessus donc je sais pas s'il a

01:38:27 modifié le harnet mais en tout cas ouais

01:38:31 il a modifier son enfin mon user.md sur

01:38:33 sur ça quoi. Donc j'ai l'impression que

01:38:35 ça ça marche quoi.

01:38:37 Bah je sais pas s'il l'a fait euh s'il

01:38:39 l'a fait directement

01:38:41 dans sa dans sa code base à lui. Mais en

01:38:43 tout cas oui ça ça fonctionne par les

01:38:45 skills mais par les skill les point MD.

01:38:47 Mais moi je aussi pourquoi j'aime

01:38:48 beaucoup modifier, c'est que j'aime

01:38:50 beaucoup extérioriser ce qui est dans

01:38:52 les skill et les points MD pour euh pour

01:38:54 que je puisse mettre autre chose dedans

01:38:56 en fait, tu vois. C'està-dire que au

01:38:57 lieu de voir aussi comment ça

01:38:58 fonctionne.

01:39:00 Ouais, exactement. Après ça, ceci c'est

01:39:02 un ça c'est un point à ne pas oublier,

01:39:05 c'est que moi étant développeur

01:39:07 je j'aime comprendre ce que je fais.

01:39:10 Donc j'aime beaucoup bidouiller euh

01:39:12 refaire ce qui existe déjà d'une autre

01:39:14 manière pour voir les interactions que

01:39:16 qui sont possible de faire et voir si au

01:39:18 final trigger un skill ou pas juste

01:39:20 faire un petit bout de code à côté.

01:39:21 C'est pas plus intéressant de faire un

01:39:24 bout de code à côté qui le fait et juste

01:39:26 je l'envoie au bon moment que trigger

01:39:27 des skill parce que ça c'est des cas de

01:39:30 figure où c'est beaucoup mieux.

01:39:31 OK. Ouais, c'est intéressant en tout

01:39:33 cas. Ouais. Si si je fais rajouter pour

01:39:35 quelqu'un qui débute ou qui veut pas

01:39:37 forcément trop se casser la tête, les

01:39:39 skills, c'est largement suffisant.

01:39:41 Déjà, on fait pas mal, hein. Pense que

01:39:42 tu fais énormément.

01:39:42 Ouais,

01:39:43 c'est c'est juste que

01:39:45 j'avais fait un test justement dans ma

01:39:47 enfin dans une de mes dernières vidéos

01:39:49 sur les skills. Je vous invite à la

01:39:51 regarder. C'est assez assez surprenant

01:39:53 avec ou sans skill justement, exactement

01:39:55 le même prompt,

01:39:57 c'est pas mal du tout. Euh, j'avais une

01:39:59 avant-dernière question. selon toi,

01:40:02 comment va évoluer l'IA ou comment tu

01:40:03 aimerais qu'elle évolue ? C'est dire en

01:40:06 terme de peut-être en moderne en en

01:40:07 modèle local, est-ce que tu voudrais

01:40:10 justement un je sais pas un opus 4.8 en

01:40:10 local ?

01:40:14 Bah honnêtement, au vu de au vu de ce

01:40:15 qui se passe à l'heure actuelle, tu vois

01:40:19 là euh les Chinois commencent à se poser

01:40:21 des questions de s'il devrait open

01:40:24 mettre en open source des modèles aussi

01:40:25 puissants que ce qu'il nous ont donné

01:40:26 récemment. Tu vois, il y a beaucoup de

01:40:28 problématiques et de questions qui sont

01:40:28 soulevées.

01:40:30 Alors, je veux juste juste petite

01:40:32 réctification. Kimi à l'heure actuelle,

01:40:34 Kimi 3 n'est pas open source pour le

01:40:35 moment.

01:40:36 Je parle pas forcément de là, je parlais

01:40:39 pas de Kimi. Non, non, mais je je dis

01:40:40 juste

01:40:41 OK.

01:40:43 Voilà. Mais tu vois, tu as tout cet

01:40:46 aspect-là euh tu as tout cet aspect là

01:40:48 qu'il faut prendre en compte

01:40:50 qui est politique euh entre les deux

01:40:54 blocs qui font qui font la course Alia

01:40:57 qui est Amérique Chine. Tu as tu as tu

01:40:59 as quand même ça ça évolue beaucoup. tu

01:41:03 as euh tu as eu toutes les les les

01:41:06 réglementations de bah en fait Fable

01:41:07 l'Europe il y a pas accès, le reste du

01:41:08 monde il a pas accès pendant un certain

01:41:11 temps. Tu as eu la même chose avec

01:41:13 récemment un autre modèle, je sais plus

01:41:15 lequel aussi. Enfin, ça bouge beaucoup.

01:41:17 On y a reaxé depuis, je sais pas si tu

01:41:18 l'as vu.

01:41:20 Ouais, j'ai vu, j'ai vu bien sûr. Mais

01:41:22 euh mais il il y a une autre

01:41:23 problématique avec un autre modèle

01:41:25 américain récemment là-dessus aussi,

01:41:29 j'ai plus le nom en tête, mais il y a en

01:41:32 tout cas pour l'instant que ça soit du

01:41:34 côté des LLM ou dans de dans d'autres

01:41:35 côtés, tu peux regarder au niveau de la

01:41:39 robotique, euh ça évolue très vite. Donc

01:41:41 pour moi, on est on reste quand même

01:41:44 dans d'une évolution exponentielle

01:41:48 sur plein de plein plein de secteurs

01:41:51 différents. Donc te dire jusqu'où ça

01:41:53 peut aller honnêtement et vu comment ça

01:41:54 avance.

01:41:56 Moi ce que j'aimerais

01:41:57 franchement c'est travailler depuis chez

01:42:00 moi avec des agents qui font tout je te

01:42:01 le dis.

01:42:04 Ça ça franchement mais honnêtement c'est

01:42:06 déjà quasiment possible. Mais on y est,

01:42:08 hein. Je pense que là avec Hermes,

01:42:12 on y est. Mais euh mais on on en tout

01:42:14 cas pour moi, on n'y est pas encore à

01:42:15 100 %. C'est-à-dire que il y a encore un

01:42:17 peu de travail à fournir pour que ton

01:42:19 Hermest te permette de réellement bien

01:42:21 vivre. Et enfin, c'est pas un seul

01:42:23 Hermè, çaen est plusieurs hein. Enfin,

01:42:24 bien sûr, mais euh

01:42:26 plus de contexte, on va dire, disons.

01:42:29 Ouais, mais euh mais ça commence à se

01:42:32 faire et que pour moi euh des des harnet

01:42:33 de la qualité d'ermé, c'est que le début

01:42:35 et tu vas en avoir de plus en plus

01:42:36 puissant.

01:42:41 Euh donc franchement

01:42:43 ça ça on il va encore se passer beaucoup

01:42:46 de chose. Donc l'agentique pour moi

01:42:47 c'est que le début. C'est-à-dire que

01:42:50 pour l'instant on est on a eu les on a

01:42:53 eu les les les chatbots puis après on a

01:42:56 eu les les agents. Euh après tu vas

01:42:58 avoir les les systèmes d'agent,

01:43:00 c'est-à-dire que tu vas voir des agents

01:43:02 qui vont interagir avec d'autres agents.

01:43:05 Euh c'est déjà un peu le cas maintenant.

01:43:07 Euh puis après tu vas avoir encore une

01:43:10 étape d'au-dessus potentiellement des

01:43:13 des des agents qui vont réger qui vont

01:43:15 qui vont gérer des systèmes d'agents et

01:43:16 cetera. Tu enf tu peux scaler à

01:43:17 l'infini, tu vois.

01:43:19 Genre pour moi euh

01:43:21 c'est Oui, ça ça commence à vraiment

01:43:23 être le cas. Je pense open clown, on

01:43:26 avait le agent to agent sur AMS, on

01:43:28 avait bah le sub agent et bien sûr mais

01:43:33 là vraiment une soit vraiment plus à une

01:43:35 échelle DevOps là, c'est-à-dire que là

01:43:37 on est plus sur une stack logiciel

01:43:38 genre

01:43:40 ça fait penser au je sais pas si tu l'as

01:43:42 vu au gitup de alors ça fonctionne pas,

01:43:44 c'est pas fonctionnel du tout mais je

01:43:47 crois que c'est paper clip ça s'appelle.

01:43:48 Ouais, je ouais, je vois je vois très

01:43:49 bien.

01:43:51 Ouais, mais c'est pas du tout

01:43:52 fonctionnel pour le moment. Donc et puis

01:43:55 ça bouge du token à gogo, on va dire.

01:43:57 Donc à voir.

01:44:00 Mais en ce qui concerne

01:44:01 l'évolution de Lia, est-ce que on va

01:44:02 rentrer dans un nouveau paradigme ?

01:44:03 Qu'est-ce que j'appelle un nouveau

01:44:05 paradigme ? C'est-à-dire une nouvelle

01:44:07 architecture ? Pour moi, c'est possible.

01:44:08 En tout cas, les LLM, c'est pas la

01:44:11 finalité. Pour moi, les LLM et les

01:44:13 autres modèles DI branchés ensemble,

01:44:15 c'est c'est la finalité. C'est-à-dire

01:44:19 que c'est pas créer une seule euh qui

01:44:21 fait tout, c'est pas c'est pas réaliste

01:44:23 pour moi. C'est plein de systèmes d'IA

01:44:24 que tu vas brancher les uns aux autres

01:44:27 qui vont te permettre d'atteindre entre

01:44:28 guillemets la GI, tu vois ou des

01:44:30 systèmes qui s'en rapprochent

01:44:33 sortent une sorte d'énorme MOE, c'est ça

01:44:33 ?

01:44:35 Ouais. Entre guillemets, si on

01:44:37 raccourcit bien et qu'on prend trois

01:44:39 diriftes au passage. Ouais.

01:44:41 OK. Mais après au niveau des nouvelles

01:44:44 tech aussi euh au-delà de ça, c'est que

01:44:46 pour moi ce qui va vraiment vraiment

01:44:49 révolutionner Lia là, c'est les board

01:44:52 model, ça commence à arriver. Mais euh

01:44:53 en fait ce qu'il faut se dire, c'est que

01:44:55 pourquoi les boels, pour moi, ça va

01:44:56 vraiment révolutionner encore plus le

01:44:57 monde de là. pour la simple et bonne

01:45:00 raison que tes robots euh pour les

01:45:02 entraîner euh faut faut les entraîner

01:45:03 énormément, tu vois, pour qu'ils

01:45:05 puissent et cetera, faire les bonnes

01:45:07 tâches modèle, ça peut te permettre de

01:45:09 simuler euh des mondes physiques et ça

01:45:10 commence à se mettre en place petit à

01:45:13 petit et il faut se dire que ça pour moi

01:45:15 c'est

01:45:18 le grand pas qui va débloquer énormément

01:45:20 la robotique. Tu veux dire les les

01:45:22 compagnies là qui euh qui font entraîner

01:45:24 des Indiens justement sur des gestes

01:45:27 mécaniques, on va dire 3D et euh c'est

01:45:27 ça,

01:45:28 c'est dans la même vibe.

01:45:29 Ouais. OK.

01:45:31 En tout cas euh pour pour moi en fait

01:45:33 c'est que là ce genre de chos est fait

01:45:34 par des humains, tu vois. Mais là on est

01:45:36 en train déjà de commencer à développer

01:45:38 des une alternative humaine, tu vois.

01:45:41 D'accord. Ouais.

01:45:43 Je t'invite à regarder les World Model.

01:45:47 C'est le fait de générer des mondes 3D.

01:45:50 Tu peux très bien euh Non, c'est ça. Je

01:45:51 pas que forcément à partir d'une image

01:45:53 en fait, tu peux en fait c'est-à-dire

01:45:56 que c'est un modèle dia qui va simuler

01:46:00 le monde en très en très en vague, tu

01:46:03 vois, en simplifié. Donc tu peux te dire

01:46:05 que tu vas modéliser ton entreprise

01:46:09 et euh tu vas entraîner tes IA euh à

01:46:10 marcher dans l'entreprise, tu vois, à

01:46:12 aller du point A point B, transporter un

01:46:15 truc. Et du coup, vu que tu simules un

01:46:16 monde 3D, bah tu peux donner du poids,

01:46:18 de la gravité à tes objets. Donc tu peux

01:46:19 leur apprendre à bien marcher, à

01:46:22 optimiser les temps de trajet et cetera

01:46:23 et cetera, tu vois.

01:46:23 OK.

01:46:26 Donc euh c'est c'est très très très

01:46:27 puissant.

01:46:29 Intéressant en tout cas. Ouais. Bon,

01:46:31 dernière petite question. Alors, est-ce

01:46:33 qu'on est-ce que s'il y a des débutants

01:46:35 ou des membres de ma connauté, on peut

01:46:38 te retrouver en commentaire euh si s'ils

01:46:40 ont bien sûr des commentaires à faire

01:46:43 sur d'éventuelles questions sur les

01:46:43 Je je je

01:46:45 je pourrais répondre en commentaire pour

01:46:46 étayer un peu mes propos et puis même

01:46:49 dans tous les cas, je suis sur euh je

01:46:51 suis sur ton Discord donc euh ça s'il y

01:46:54 a des gens qui veulent venir me voir euh

01:46:55 pour ils pourront quand même venir me

01:46:56 poser des questions, il y a pas de

01:46:56 problème.

01:46:58 Ça marche. Et ben écoute, de toute

01:46:59 façon, tout est en description.

01:47:02 N'hésitez pas à aller voir, à regarder,

01:47:05 mettez un j'aime, abonnez-vous et puis

01:47:07 pensez au boost aussi, hein. C'est c'est

01:47:09 important en ce moment. Et sur ce, à

01:47:11 plus.

01:47:13 Et si vous voulez voir ce que Hermes

01:47:14 peut faire une fois connecté à un vrai

01:47:16 outil concret, j'ai aussi cette vidéo où

01:47:18 je le branche directement à Shopify avec

01:47:20 un MCP. Là, on ne parle plus juste avec

01:47:21 Hermes, on peut directement commencer à

01:47:23 exploiter sa boutique directement. La

【PODCAST】IA en local & Hermes Agent : on en parle sans bullshit

Transcription horodatee