Intelligence artificielle

[Marlenus]

Tiens, je ne sais pas si cela a sa place sur ce fil, mais un truc qui me gêne avec l'IA c'est que je suis devenu incapable de savoir si une photo historique découverte au hasard du net est une création IA ou pas.

 

Cela me gâche un des plaisirs de m'émerveiller que j'avais en surfant sur le net.

 

Je parle des photos historiques mais j'aurais put prendre d'autres photos sympas.

 

 

[Lancelot]

28 minutes ago, Azref said:

Ah mais je suis d'accord, j'avais juste écrit comme si j'avais utilisé chatgpt pour la (mauvaise) blague!

Les modèles les moins chers (chatgpt gratuit, copilot, gemini flash), sont très faciles à détecter en tout cas.

Ce qui illustre un autre point : c'est plus facile à détecter quand on s'y attend 

 

26 minutes ago, Marlenus said:

Tiens, je ne sais pas si cela a sa place sur ce fil, mais un truc qui me gêne avec l'IA c'est que je suis devenu incapable de savoir si une photo historique découverte au hasard du net est une création IA ou pas.

 

Cela me gâche un des plaisirs de m'émerveiller que j'avais en surfant sur le net.

 

Je parle des photos historiques mais j'aurais put prendre d'autres photos sympas.

 

 

[Azref]

il y a 32 minutes, Marlenus a dit :

Tiens, je ne sais pas si cela a sa place sur ce fil, mais un truc qui me gêne avec l'IA c'est que je suis devenu incapable de savoir si une photo historique découverte au hasard du net est une création IA ou pas.

 

Cela me gâche un des plaisirs de m'émerveiller que j'avais en surfant sur le net.

 

Je parle des photos historiques mais j'aurais put prendre d'autres photos sympas.

 

 

Reverse image search avec google, et avec un peu de chance si tu trouves une source plus vieille que 2022 tu seras sûr que ce n'est pas de l'IA.

[L'affreux]

il y a une heure, Lancelot a dit :

Et là se pose une question intéressante: à un moment donné, si tu retravailles tellement ce que te donne l'IA qu'elle n'a sur le produit final pas vraiment plus d'influence que, disons, un correcteur orthographique, est-il réellement si vital de le signaler ?

 

Non. Et d'ailleurs ce genre de mention vieillira mal. La mention inverse en revanche peut avoir du sens : "rédaction 100% humaine et sans assistance". Le "pensé-humain" aura vite une valeur comparable au "fait-main".

 

Il y a 3 heures, Lancelot a dit :

mais pourquoi mentir en ajoutant ce paragraphe qui n'a pas lieu d'être

 

Tu ne t'aides pas du tout de l'intelligence artificielle lorsque tu rédiges ? Pourquoi ?

[Lancelot]

34 minutes ago, L'affreux said:

Tu ne t'aides pas du tout de l'intelligence artificielle lorsque tu rédiges ? Pourquoi ?

C'est une étape de plus dont je ne vois pas l'utilité. Je pourrais être tenté quand il s'agit de remplir des formulaires à la con que personne ne lira de toute façon.

[Soda]

Il y a 8 heures, L'affreux a dit :

dem pour les traders. Ils partiront avant que les chauffeurs de taxi ne soient remplacés par des voitures autonomes.

Surtout qu'il faut un certain degrés de civilité pour accepter les voiture autonomes, en Asie c'est bien accueilli, mais à LA il y a souvent des actes de vandalisme. Et on peu oublier de voir des voiture autonomes à Paris vu le niveau d'ensauvagement, une voiture autonome ne survivra pas à la place de l'etoile.

[L'affreux]

il y a 7 minutes, Lancelot a dit :

C'est une étape de plus dont je ne vois pas l'utilité. Je pourrais être tenté quand il s'agit de remplir des formulaires à la con que personne ne lira de toute façon.

 

Ah OK, au fond je ne cerne pas très bien ton travail et à quoi peuvent ressembler les documents que tu rédiges. Pour quelque chose comme un essai, il serait peut-être intéressant d'utiliser l'IA pour challenger et vérifier la solidité du raisonnement.

 

À titre personnel j'essaie aussi d'utiliser l'IA comme une aide à la rédaction : j'écris un brouillon et je demande à améliorer marginalement le texte sur la qualité du français.

[fm06]

Soumettre son texte à une IA c’est prendre le risque qu’il fuite. Quand on travaille dans la recherche c’est un risque qui peut être lourd de conséquences.

[Azref]

il y a 22 minutes, fm06 a dit :

Soumettre son texte à une IA c’est prendre le risque qu’il fuite. Quand on travaille dans la recherche c’est un risque qui peut être lourd de conséquences.

Note que la plupart des web front LLMs, de copilot à chatgpt en passant par claude, offrent des souscriptions entreprise qui contiennent expressément une clause de non utilisation des prompts utilisés.

[Jensen]

1 hour ago, Lancelot said:

C'est une étape de plus dont je ne vois pas l'utilité. Je pourrais être tenté quand il s'agit de remplir des formulaires à la con que personne ne lira de toute façon.

Plutôt que du copier coller depuis des interfaces en ligne, imagine une appli compagnon à ton traitement de texte/logiciel de prise de note, à qui tu puisse demander:

- d'écrire l'abstract et une partie de la conclusion en s'appuyant sur le papier

- de vérifier tes citations, et qu'elles supportent bien ce pourquoi elles sont cités

- si tu fais une répétition

- de chercher d'autres papiers supportant un point spécifique (en puisant au choix dans toute la littérature, ou dans ta bibliographie perso)

- et évidemment forme/orthographe/typo/...

 

Il y a aussi un potentiel énorme en terme d'organisation de bibliographie.

 

Les chats en ligne, c'était la première génération d'application, mais maintenant on va voir des appli spécialisés qui s'intègrent au workflow. Claude code et cie ouvrent la voie pour les programmeurs, je m'attends à ce que chaque métier ait sa petite appli, qui permet à la fois d'augmenter les capacités, de fiabiliser le résultat et de rendre l'utilisation de l'outil plus fluide. 

[L'affreux]

 

il y a 19 minutes, Jensen a dit :

Claude code et cie ouvrent la voie pour les programmeurs, je m'attends à ce que chaque métier ait sa petite appli, qui permet à la fois d'augmenter les capacités, de fiabiliser le résultat et de rendre l'utilisation de l'outil plus fluide. 

 

À ce propos, Anthropic a récemment lancé Cowork dans le but d'améliorer la bureautique etc.

 

 

 

Je n'ai pas encore essayé.

 

[Lancelot]

1 hour ago, Jensen said:

Plutôt que du copier coller depuis des interfaces en ligne, imagine une appli compagnon à ton traitement de texte/logiciel de prise de note, à qui tu puisse demander:

- d'écrire l'abstract et une partie de la conclusion en s'appuyant sur le papier

- de vérifier tes citations, et qu'elles supportent bien ce pourquoi elles sont cités

- si tu fais une répétition

- de chercher d'autres papiers supportant un point spécifique (en puisant au choix dans toute la littérature, ou dans ta bibliographie perso)

- et évidemment forme/orthographe/typo/...

 

Il y a aussi un potentiel énorme en terme d'organisation de bibliographie.

 

Les chats en ligne, c'était la première génération d'application, mais maintenant on va voir des appli spécialisés qui s'intègrent au workflow. Claude code et cie ouvrent la voie pour les programmeurs, je m'attends à ce que chaque métier ait sa petite appli, qui permet à la fois d'augmenter les capacités, de fiabiliser le résultat et de rendre l'utilisation de l'outil plus fluide. 

Ma prédiction a toujours été que l'avenir sera à la spécialisation plutôt qu'aux gros modèles fourre-tout oui, mais c'est un pas difficile à franchir pour ceux qui veulent/voient l'IA en tant que Skynet et pas l'IA en tant qu'outil. Dans mon cas particulier, d'une part ça n'existe pas, d'autre part je ne trouve pas le pitch séduisant parce que soit ça répond à des problèmes que je n'ai pas (l'abstract est le premier et souvent le seul truc que les gens lisent, j'ai au contraire envie de passer beaucoup de temps à l'écrire moi-même), soit à des problèmes pour lesquels des outils existent déjà (la bibliographie). Ce qui ne veut pas dire qu'il n'y aura jamais de use case, un exemple que j'ai en tête est la mise en forme d'un article selon le format d'un journal en particulier. Certains proposent des templates latex mais ils peuvent être périmés donc dans tous les cas ça demande de se taper des pages de règlement.

[Sloonz]

28 minutes ago, Lancelot said:

Ma prédiction a toujours été que l'avenir sera à la spécialisation plutôt qu'aux gros modèles fourre-tout oui

 

À terme, c’est une prédiction simple qui fait à peu près consensus. La question à quelques centaines de milliards de dollars est : est-ce que cet objectif est directement atteignable, ou faut-il nécessairement passer par l’intérmediaire d’un énorme modèle fourre-tout (et pour lequel le plus gros est le mieux) qu’on essaie ensuite de réduire et spécialiser ? Et pour le coup j’ai l’impression que seul DeepMind pense que la voie « sans gros modèle intermédiaire » vaut la peine d’être explorée (mais je ne me base que sur les interview publiques, je n’ai pas d’entrée dans les labos, donc je peux me tromper).

[Jensen]

34 minutes ago, Lancelot said:

ils peuvent être périmés donc dans tous les cas ça demande de se taper des pages de règlement.

j'étais déjà sur le cul en 2010 que ça ne soit pas un problème réglé, et on est 15 ans plus tard, et c'est toujours pareil 😢

 

35 minutes ago, Lancelot said:

Ma prédiction a toujours été que l'avenir sera à la spécialisation plutôt qu'aux gros modèles fourre-tout oui,

Ce que fait un claude code et équivalent, ça n'est pas de créer un modèle spécialisé, mais plutôt de créer une suite d'outils spécialisés qui utilisent le modèle général (et vice versa). C'est un mélange de pré-prompt (à la fois de la boîte, et perso où tu décris ton workflow et tes préférences) et d'outils à disposition du modèle, qui peut donc lire tes fichiers (avec garde-fou), les modifiers, aller lire de la doc en ligne, compiler ton code, et appeler une nouvelle instance du modèle pour accomplir une sous-tâche.

La version comptable, j'imagine que ça serait une description des textes de lois en vigueur (beaucoup plus fiable que de compter sur ce qui est embarqué dans le modèle), accès au logiciel de compta de la boîte et aux mails, liste de "tâches" bien décrites à executer, et une sous-tâche de vérification.

[L'affreux]

Un LLM c'est deux choses : 1 / une capacité de raisonnement sur étagère, 2/ une base de connaissance approximative. 

 

Un outil spécialisé ce n'est pas un LLM spécialisé. Du moins aujourd'hui, ce n'est pas du tout ça dont on parle. Un outil spécialisé c'est un logiciel qui utilise la capacité de raisonnement d'un LLM pour traiter un besoin spécialisé, à l'aide bien souvent d'une base de connaissance en dehors du LLM. Lorsque le LLM a déjà une idée intuitive de comment les choses doivent être, on obtient de meilleurs résultats, ça évite qu'il découvre les choses depuis zéro, mais il n'empêche que l'outil spécialisé lui fournit bien les informations.

 

Comme on a souvent intérêt à utiliser la capacité de raisonnement la meilleure qui existe, on est tenté de rester sur les modèles les plus gros et les plus récents.

[L'affreux]

Il y a 16 heures, Lancelot a dit :

je ne trouve pas le pitch séduisant parce que soit ça répond à des problèmes que je n'ai pas

 

Au départ personne de compétent n'en a besoin puisqu'on sait tous bien travailler sans. De plus, quand on s'y met, on commence par perdre du temps.

 

La bonne question pour savoir si tu en aurais besoin ressemblerait plutôt à : est-ce que tu serais intéressé par un(e) partenaire/employé(e) attitré(e) ou bien tu préfères réellement tout faire tout seul ?

 

Le travail de petites mains comme la mise en page est certainement un bon cas d'usage même si c'est souvent décevant dans mon expérience parce que pas si facile à déléguer.

[Lancelot]

J'ai déjà des partenaires avec qui je partage mes tâches. Mais je sens que la conversation dérive très fort vers le "on va te trouver un problème pour notre solution", et ça ne peut qu'être décevant parce que je ne suis ni néophile ni néophobe. Si un use case clair apparaît, très bien, sinon jusqu'à maintenant je me porte très bien sans.

[cedric.org]

Si vous n'utilisez pas un llm pour déléguer la moitié de votre travail, vous êtes déjà en retard et sous-productif.

[Lancelot]

Si on n'a pas de Rolex à 50 ans, c'est qu'on a raté sa vie.

[cedric.org]

Ca y est, on est à l'équivalent où on se foutait de nos parents parce qu'ils ne savaient pas utiliser un PC et qu'on allait 4 fois plus vite qu'eux pour faire à peu près n'importe quelle tâche administrative. Sauf que désormais c'est nous les parents, et que ce ne sont pas que les tâches administratives mais à peu près tout.

 

J'ai automatisé 100% de la rédaction de mon CIR. Je peux, car je me fiche complètement de la qualité du document produit. Si ça m'intéressait et que je ne voulais pas déléguer la partie rédaction, je pourrais à minima lui demander de vérifier tout ce que je fais, voire d'imaginer des protocoles expérimentaux avec moi et de valider les résultats. Bref : ça va aller très vite entre le "nan mais le LLM me fait perdre du temps, ça ne sert à rien et c'est pour les branques" et le chomage parce que tu fais perdre du temps à ton employeur et que tu es devenu le branque.

[Lameador]

10 minutes ago, cedric.org said:

Ca y est, on est à l'équivalent où on se foutait de nos parents parce qu'ils ne savaient pas utiliser un PC et qu'on allait 4 fois plus vite qu'eux pour faire à peu près n'importe quelle tâche administrative. Sauf que désormais c'est nous les parents, et que ce ne sont pas que les tâches administratives mais à peu près tout.

 

J'ai automatisé 100% de la rédaction de mon CIR. Je peux, car je me fiche complètement de la qualité du document produit. Si ça m'intéressait et que je ne voulais pas déléguer la partie rédaction, je pourrais à minima lui demander de vérifier tout ce que je fais, voire d'imaginer des protocoles expérimentaux avec moi et de valider les résultats. Bref : ça va aller très vite entre le "nan mais le LLM me fait perdre du temps, ça ne sert à rien et c'est pour les branques" et le chomage parce que tu fais perdre du temps à ton employeur et que tu es devenu le branque.

Je suis en retard et je flippe.

 

Mais oui, ce que tu dis est évidemment vrai.

[Lancelot]

12 minutes ago, cedric.org said:

Ca y est, on est à l'équivalent où on se foutait de nos parents parce qu'ils ne savaient pas utiliser un PC et qu'on allait 4 fois plus vite qu'eux pour faire à peu près n'importe quelle tâche administrative. Sauf que désormais c'est nous les parents, et que ce ne sont pas que les tâches administratives mais à peu près tout.

 

J'ai automatisé 100% de la rédaction de mon CIR. Je peux, car je me fiche complètement de la qualité du document produit. Si ça m'intéressait et que je ne voulais pas déléguer la partie rédaction, je pourrais à minima lui demander de vérifier tout ce que je fais, voire d'imaginer des protocoles expérimentaux avec moi et de valider les résultats. Bref : ça va aller très vite entre le "nan mais le LLM me fait perdre du temps, ça ne sert à rien et c'est pour les branques" et le chomage parce que tu fais perdre du temps à ton employeur et que tu es devenu le branque.

Ah mais tu étais sérieux en fait ? Franchement je ne comprends pas ce contre quoi tu penses te battre. Tu as l'air de confondre "ça n'a pas d'intérêt pour moi actuellement" avec "je ne sais pas faire et je ne peux pas apprendre". Je vois les gens qui ont autant d'enthousiasme que toi pour l'IA dans mon domaine, et devine quoi, ils sont peut-être 4 fois plus rapides mais leur output c'est de la merde (gros soucis notamment avec les éditeurs de journaux, ces feignasses).

[Rincevent]

Il y a 6 heures, cedric.org a dit :

Si vous n'utilisez pas un llm pour déléguer la moitié de votre travail, vous êtes déjà en retard et sous-productif.

C'est actuellement très limité pour le SQL. C'est un coin de l'informatique où il faut non seulement pondre du code (le DSL et DML), mais aussi comprendre l'infrastructure (le DDL) sur lequel ce code porte ; et pour autant que je sache l'IA a encore énormément de mal à garder en tête le modèle de données sous-jacent.

 

(Je ne parle même pas de l'optimiser, ça c'est mon boulot et j'ai encore 5 ans d'avance supplémentaires sur les LLM).

[L'affreux]

il y a 16 minutes, Rincevent a dit :

C'est actuellement très limité pour le SQL. C'est un coin de l'informatique où il faut non seulement pondre du code (le DSL et DML), mais aussi comprendre l'infrastructure (le DDL) sur lequel ce code porte ; et pour autant que je sache l'IA a encore énormément de mal à garder en tête le modèle de données sous-jacent.

 

(Je ne parle même pas de l'optimiser, ça c'est mon boulot et j'ai encore 5 ans d'avance supplémentaires sur les LLM).

 

Ah bon ? Ça m'étonne beaucoup. De mon côté ça fonctionne depuis des mois. On peut en parler sur le thread des machines à coder si tu veux. Tu as essayé avec quels outils ?

[Bézoukhov]

Il y a 2 heures, Lancelot a dit :

Ah mais tu étais sérieux en fait ?

 

J'ai quand même un gros doute là. Il vient de t'expliquer que les LLM sont géniaux parce qu'il a pu automatiser sans avoir à y jeter un œil le rapport réglementaire le plus casse pied de son périmètre  

[Rincevent]

Il y a 2 heures, L'affreux a dit :

Ah bon ? Ça m'étonne beaucoup. De mon côté ça fonctionne depuis des mois. On peut en parler sur le thread des machines à coder si tu veux. Tu as essayé avec quels outils ?

Je n'ai pas pu essayer personnellement parce que ma boîte n'aime pas cette idée, en tous cas a priori (les données personnelles de santé, c'est sensible) mais les MVP habituels (du genre de Brent Ozar) ne sont clairement pas satisfaits, ou pas encore.

[L'affreux]

il y a 25 minutes, Rincevent a dit :

Je n'ai pas pu essayer personnellement parce que ma boîte n'aime pas cette idée, en tous cas a priori (les données personnelles de santé, c'est sensible) mais les MVP habituels (du genre de Brent Ozar) ne sont clairement pas satisfaits, ou pas encore.

 

J'avoue ne pas savoir ce qu'est Brent Ozar. Je n'ai pas non plus le droit, dans ma boîte, de donner accès aux données à un agent IA. En revanche le DDL je peux (on ne parle pas d'un ChatGPT perso, mais plutôt d'un Cursor payé par la boîte) et donc j'ai de l'aide sur les requêtes SQL.

[cedric.org]

3 hours ago, Rincevent said:

C'est actuellement très limité pour le SQL. C'est un coin de l'informatique où il faut non seulement pondre du code (le DSL et DML), mais aussi comprendre l'infrastructure (le DDL) sur lequel ce code porte ; et pour autant que je sache l'IA a encore énormément de mal à garder en tête le modèle de données sous-jacent.

 

(Je ne parle même pas de l'optimiser, ça c'est mon boulot et j'ai encore 5 ans d'avance supplémentaires sur les LLM).

Concernant ce point, on a enfin un mécanisme capable de regarder d'un seul coup le code et l'infra, et donc d'être capable d'adapter en fonction de ce qu'il y a en dessous. Et/ou d'adapter ce qu'il faut adapter. Ca ne remplace ni tout le travail humain ni les règles de génération d'infra mais ça automatise les éléments fastidieux très largement.

On est même proche d'avoir un agent qui regarde seul, sans input humain, si on a des problèmes de performance, pour proposer une pull request au bon endroit, que l'on peut ensuite reprendre avec 75% du boulot fait au pire. Oui des fois il pond des changements de l'espace qu'on met à la poubelle.

 

2 hours ago, Bézoukhov said:

 

J'ai quand même un gros doute là. Il vient de t'expliquer que les LLM sont géniaux parce qu'il a pu automatiser sans avoir à y jeter un œil le rapport réglementaire le plus casse pied de son périmètre  

J'ai expliqué que j'ai gagné des jours de travail pour me concentrer sur ce qui est important.

 

5 hours ago, Lancelot said:

Tu as l'air de confondre "ça n'a pas d'intérêt pour moi actuellement" avec "je ne sais pas faire et je ne peux pas apprendre".

Sans vouloir être pédant, je ne crois pas que ça n'ait pas d'intérêt pour toi actuellement, nulle part dans ton travail. C'était peut-être vrai il y a 12 mois. Plus aujourd'hui.

 

5 hours ago, Lancelot said:

Je vois les gens qui ont autant d'enthousiasme que toi pour l'IA dans mon domaine, et devine quoi, ils sont peut-être 4 fois plus rapides mais leur output c'est de la merde (gros soucis notamment avec les éditeurs de journaux, ces feignasses).

"Des gens font n'imp, donc tout le monde qui a autant d'enthousiasme que moi pour l'IA fait n'imp."

[Rincevent]

il y a 57 minutes, L'affreux a dit :

J'avoue ne pas savoir ce qu'est Brent Ozar.

C'est un gars, pas une chose. Plus précisément, une des quelques stars du monde de SQL Server, le genre à pondre des scripts que nombre de DBA consciencieux utilisent, et à prodiguer des conseils que tout le monde écoute (ça ne veut pas dire que tout le monde est d'accord, mais tout le monde écoute).

 

Au fond, c'est un problème qui s'approche un peu du source control : il a fallu peut-être 10 ans ou plus pour que les solutions de source control commencent à comprendre qu'on ne contrôlait pas le code d'une base de données comme celui d'une application, et pour la même raison : le DDL constitue une couche persistante non pas par hasard, mais par nature, couche sur laquelle le DML s'appuie directement et de manière profondément couplée.

[L'affreux]

Il n'empêche que SQL est un langage bien compris par les agents. La vraie raison qui fait que tu n'utilises pas l'intelligence artificielle, c'est parce que ton employeur te l'interdit.