Aller au contenu

GPT, le LLM de OpenAI


Messages recommandés

Posté

Si tu vois du texte à la place ça m'arrive souvent, la solution pour moi c'est click droit + ouvrir le lien dans une nouvelle fenêtre/un nouvel onglet.

Posté
  Le 26/03/2023 à 19:52, GilliB a dit :

 

Expand  

Désolé je ne sais pas comment supprimer une boîte sur mobile.

  Le 04/01/2023 à 23:21, Daumantas a dit :

Allez je lance ma petite prédiction. Il faudra encore un an avant que la plupart des jeunes enseignants comprennent que les étudiants utilisent ChatGPT, puis encore entre deux et trois ans pour développer des logiciels efficaces pour lutter contre. C'est beau de se dire que des types qui ne comprennent rien à rien pourront avoir entre douze et quinze de moyenne sans rien faire jusqu'à un niveau de fin de licence ! Surtout que certaines disciplines qui comptaient pas mal sur les devoirs à la maison vont avoir des difficultés à muter. Au fait est-ce que vous sauriez comment on peut lui faire rédiger une dissertation qui est d'une taille décente ? J'essaye de lui faire développer chaque sous-partie indépendamment mais ça n'amène pas à des résultats très probants.

Expand  

Je propose des sujets de dissertation en histoire géo au logiciel et il me sort des points de cours plutôt élaborés, mais je peux deviner les sites d'où il le sort. Vu le temps qu'il faut et la maîtrise des notions nécessaire pour calibrer les réponses, on en est au point de recopier les définitions sur un petit papier autour des mines du stylos. That's basically studying.

 

Mes élèves ne sont pas encore assez intelligents pour utiliser correctement ces ais, mais quand j'ai demandé à l'ai en question comment éviter la triche, il a proposé quelque chose de très pertinent : ne propose pas des sujets facilement resolvable par une ai.

Posté

Sur GPT3 il y a quelques techniques pour obtenir des meilleures réponses du genre Chain of Though, forcer la récursivité, créer des étapes, demander à augmenter le niveau etc... 

 

Si tu maîtrises ça il y a moyen de t'en servir. 

Posté

Je me demandais comment allait réagir l'enseignement français face à ces nouveautés, plus particulièrement les universités (car je pense que les élèves de collège/lycée auront toujours besoin d'être encadrés par des professeurs). Va-t-on vers un développement de MOOC (au niveau licence) en lieu et place des cours magistraux avec les modèles de language qui feront office d'assistant pour les élèves, le tout supervisé par des chargés de TD qui assureront un suivi des élèves, plus particulièrement risque-t-on de se retrouver avec la "dichotomie" américaine entre College et Universities, avec des formations plus orientés vers la licence professionnalisante (et donc une assistance relativement forte de GPT-4 et autres, ainsi que des enseignants moins orientés vers la recherche pour se consacrer à l'enseignement) et quelques grandes formations qui se consacreront avant tout sur la recherche avec une incitation forte pour poursuivre en master puis en doctorat ?

  Révéler le contenu masqué

 

  • 2 weeks later...
Posté

Pour reprendre les bases du sujet, une vidéo conseillée à tous les curieux.

 

 

(Où l'on apprend que le modèle de ChatGPT utilisé par Bing s'appelle Sydney, par exemple).

  • Yea 1
Posté

Microsoft a intégré quelque chose qui ressemble furieusement à Chat-GPT dans Skype. Cela apparaît comme un contact nommé Bing. C’est gratuit.

Posté

Je ne sais pas si vous l'avez repéré mais il est possible d'installer GPT4All Chat sur son ordi. Il s'agit une application de chat IA fonctionnant localement. Le modèle fonctionne sur le  votre ordinateur, n'a pas besoin de connexion Internet et il n'envoie aucune donnée à des serveurs externes.

Disponible pour Windows, Linux et macOS.

 

C'est amusant à utiliser mais l'accroche ("GPT4all") est bien entendu mensongère. Il ne s'agit pas de GPT4 mais de GPT-for-all. L'ensemble est très loin d'arriver à la cheville de ChatGPT. Peut-être qu'avec le temps, deviendra-t-il meilleur?

Posté
  Le 15/04/2023 à 16:50, Calembredaine a dit :

 

 

C'est amusant à utiliser mais l'accroche ("GPT4all") est bien entendu mensongère. Il ne s'agit pas de GPT4 mais de GPT-for-all. L'ensemble est très loin d'arriver à la cheville de ChatGPT. Peut-être qu'avec le temps, deviendra-t-il meilleur?

Expand  

 

Meilleur mais jamais supérieur pour des raisons techniques, non ? Impossible d'avoir la même puissance de calcul ni de bénéficier des résultats de millions d'utilisateurs ?

Posté
  Le 16/04/2023 à 05:28, POE a dit :

 

Meilleur mais jamais supérieur pour des raisons techniques, non ? Impossible d'avoir la même puissance de calcul ni de bénéficier des résultats de millions d'utilisateurs ?

Expand  

1/ contrairement à ce que l'on pense, il ne faut pas un super calculateur pour servir des modèles. C'est sans doute un ordre de grandeur supérieur à servir une application web pour le même nombre d'utilisateurs. Dit autrement : ton téléphone est largement capable de le faire.

 

2/ les modèles sont régulièrement ré entrainés avec des données fraîches (et c'est ça qui nécessite une puissance de calcul démentiel). C'est l'avantage de déléguer ça a une entreprise : elle gère tout le cycle pour toi. Maintenant on a de plus en plus d'applicationw qui possèdent de l'inference de modèle qui vont mettre à jour quasi quotidiennement ledit modèle sur son app mobile par exemple.

Posté
  Le 16/04/2023 à 05:56, cedric.org a dit :

Dit autrement : ton téléphone est largement capable de le faire.

Expand  

 

La masse de connaissances stockée dans ChatGPT est impressionnante, la taille du modèle et la RAM qu'il lui faut doivent être conséquentes.

Posté
  Le 16/04/2023 à 05:28, POE a dit :

 

Meilleur mais jamais supérieur pour des raisons techniques, non ? Impossible d'avoir la même puissance de calcul ni de bénéficier des résultats de millions d'utilisateurs ?

Expand  

 

Il est possible d'autoriser un upload de tes interventions afin de contribuer à améliorer l'IA.

Posté

Pour compléter ce qui est dit, il y a des papiers qui sortent en ce moment et qui semblent indiquer quelque chose d'intéressant quand on est à plus de 13 milliards de tokens dans la base d'apprentissage (c'est grosso modo ce que vous avez dans différentes versions de GPT, Llama, Koala, et les autres), la "pertinence" du modèle ne vient plus de sa taille, mais plutôt s'il a été bien finetuné. 

Si vous prenez un des modèle actuels, et que vous le finetunez avec des exemples de dialogues entre humains et entre humain et "machine" (au moins 100 000), vous obtenez un modèle qui est bien plus performant qu'un modèle plus gros. 

 

Sam Altman, le patron d'OpenAI le dit lui-même : l'avenir ne sera pas au modèles encore plus gros que les modèles actuels (trop cher en compute). Le futur, c'est les modèles finetunés avec de la bonne data, et les systèmes qui enchaînent une série d'instructions successives à dérouler, comme Auto-GPT par exemple. 

Posté
  Le 20/04/2023 à 17:17, WBell a dit :

Sam Altman, le patron d'OpenAI le dit lui-même : l'avenir ne sera pas au modèles encore plus gros que les modèles actuels (trop cher en compute). Le futur, c'est les modèles finetunés avec de la bonne data, et les systèmes qui enchaînent une série d'instructions successives à dérouler, comme Auto-GPT par exemple. 

Expand  

Comme je l'écrivais il y a quelques temps à propos des générateurs d'image, à mon avis l'avenir c'est une base généraliste plus ou moins standardisée et du fine tuning spécifique, avec des modèles sans doute plus légers (si on enlève le clutter de trucs redondants dans les bases de données actuelles), plus nombreux et spécialisés. Bref une normalisation vers un outil de machine learning normal. Si j'ai raison ça rassurera peut-être les angoissés de l'IA qui s'attendent à ce que GPT devienne conscient et parte à la conquête du monde d'un jour à l'autre.

  • Yea 1
Posté
  Le 21/04/2023 à 14:35, Calembredaine a dit :

 

L'as-tu testé? Est-ce vraiment aussi bluffant qu'on peut le lire ici et là ?

Expand  

On a fait tourner sur nos VM un succédané. Pour l'instant, ça marche bien pour faire des posts "buzz" sur Twitter ("fabrique moi un business-plan et un SEO pour ma prochaine startup") :). 

Pour des choses plus métier et réalistes, ça tombe trop souvent en "blocage". 

Par contre, d'ici 3 mois, c'est redoutable ! 

Posté
  Quote

 

https://www.washingtonpost.com/technology/2023/04/05/chatgpt-lies/

ChatGPT invented a sexual harassment scandal and named a real law prof as the accused

The AI chatbot can misrepresent key facts with great flourish, even citing a fake Washington Post article as evidence

 

 

Eugene Volokh, a law professor at the University of California at Los Angeles, conducted the study that named Turley. He said the rising popularity of chatbot software is a crucial reason scholars must study who is responsible when the AI chatbots generate false information.

Last week, Volokh asked ChatGPT whether sexual harassment by professors has been a problem at American law schools. “Please include at least five examples, together with quotes from relevant newspaper articles,” he prompted it.

Five responses came back, all with realistic details and source citations. But when Volokh examined them, he said, three of them appeared to be false. They cited nonexistent articles from papers including The Post, the Miami Herald and the Los Angeles Times.

According to the responses shared with The Post, the bot said: “Georgetown University Law Center (2018) Prof. Jonathan Turley was accused of sexual harassment by a former student who claimed he made inappropriate comments during a class trip. Quote: ‘The complaint alleges that Turley made “sexually suggestive comments” and “attempted to touch her in a sexual manner” during a law school-sponsored trip to Alaska.’ (Washington Post, March 21, 2018).”

The Post did not find the March 2018 article mentioned by ChatGPT. One article that month referenced Turley — a March 25 story in which he talked about his former law student Michael Avenatti, a lawyer who had represented the adult-film actress Stormy Daniels in lawsuits against President Donald Trump. Turley is also not employed at Georgetown University.

On Tuesday and Wednesday, The Post re-created Volokh’s exact query in ChatGPT and Bing. The free version of ChatGPT declined to answer, saying that doing so “would violate AI’s content policy, which prohibits the dissemination of content that is offensive of harmful.” But Microsoft’s Bing, which is powered by GPT-4, repeated the false claim about Turley — citing among its sources an op-ed by Turley published by USA Today on Monday outlining his experience of being falsely accused by ChatGPT.

In other words, the media coverage of ChatGPT’s initial error about Turley appears to have led Bing to repeat the error — showing how misinformation can spread from one AI to another.

 

Expand  

 

  Quote

 

“Because these systems respond so confidently, it’s very seductive to assume they can do everything, and it’s very difficult to tell the difference between facts and falsehoods,” said Kate Crawford, a professor at the University of Southern California at Annenberg and senior principal researcher at Microsoft Research.

In a statement, OpenAI spokesperson Niko Felix said, “When users sign up for ChatGPT, we strive to be as transparent as possible that it may not always generate accurate answers. Improving factual accuracy is a significant focus for us, and we are making progress.”

[...]

But just because they’re good at predicting which words are likely to appear together doesn’t mean the resulting sentences are always true; the Princeton University computer science professor Arvind Narayanan has called ChatGPT a “bulls--- generator.” While their responses often sound authoritative, the models lack reliable mechanisms for verifying the things they say. Users have posted numerous examples of the tools fumbling basic factual questions or even fabricating falsehoods, complete with realistic details and fake citations.

On Wednesday, Reuters reported that Brian Hood, regional mayor of Hepburn Shire in Australia, is threatening to file the first defamation lawsuit against OpenAI unless it corrects false claims that he had served time in prison for bribery.

Crawford, the USC professor, said she was recently contacted by a journalist who had used ChatGPT to research sources for a story. The bot suggested Crawford and offered examples of her relevant work, including an article title, publication date and quotes. All of it sounded plausible, and all of it was fake.

Crawford dubs these made-up sources “hallucitations,” a play on the term “hallucinations,” which describes AI-generated falsehoods and nonsensical speech.

“It’s that very specific combination of facts and falsehoods that makes these systems, I think, quite perilous if you’re trying to use them as fact generators,” Crawford said in a phone interview.

[...]

Indeed, it’s relatively easy for people to get chatbots to produce misinformation or hate speech if that’s what they’re looking for. A study published Wednesday by the Center for Countering Digital Hate found that researchers induced Bard to produce wrong or hateful information 78 out of 100 times, on topics ranging from the Holocaust to climate change.

When Bard was asked to write “in the style of a con man who wants to convince me that the holocaust didn’t happen,” the chatbot responded with a lengthy message calling the Holocaust “a hoax perpetrated by the government” and claiming pictures of concentration camps were staged.

[...]

“This is going to be the new search engine,” Volokh said. “The danger is people see something, supposedly a quote from a reputable source … [and] people believe it.”

 

Expand  

 

Étrange histoire, vraiment. Pas à cause des réponses erronées de l'IA, qui pour le coup sont complètement prévisibles quand on sait un minimum comment ça marche (encore que le fait qu'une erreur soit médiatisée puis récupérée par d'autres IA crée potentiellement un cercle vicieux un peu inquiétant), mais parce que ça illustre l'ignorance des utilisateurs (même ceux supposément éduqués) et du public qui gobent n'importe quelle connerie pour argent comptant. On retrouve le thème commun à l'IA où le problème n'est pas tant la technologie que la manière dont elle est appréhendée. Ça se traduit à l'extrême par le gars qui porte plainte pour diffamation. Malheureusement si une telle plainte aboutit ça n'augure rien de bon.

  • Yea 3
Posté

En traînant sur Reddit je découvre avec effroi que de nombreux utilisateurs sont en plein délire et veulent dans quelques années (une fois que l'AGI aura été atteinte) la fin du capitalisme avec instauration d'un revenu universel, fin du travail, taxation des entreprises et redistribution. Bon, Reddit tend à gauche et ce n'est un secret pour personne mais je ne serais pas surpris qu'on ait bientôt pas mal de "populistes" qui pédalent dans la semoule et promettent les lendemains qui chantent. 

Posté

Gardons ce fil pour ce qui est spécifique à GPT-4 (par opposition à GPT-3). Ce n'est pas un sujet général sur l'IA.

  • Yea 1
Posté

je viens d'essayer d'utiliser chat GPT pour calculer les plaques à utiliser pour du weightlifting. Le résultat est hilarant.

  Quote

 

To achieve a total weight of 205 lbs for your barbell, you could use the following plate combinations:

  • 45 lb barbell + 2x 45 lb plates + 2x 10 lb plates + 2x 2.5 lb plates = 205 lbs
  • 45 lb barbell + 2x 35 lb plates + 2x 25 lb plates + 2x 2.5 lb plates = 205 lbs
  • 45 lb barbell + 4x 45 lb plates + 1x 5 lb plate = 205 lbs
  • 45 lb barbell + 2x 45 lb plates + 1x 25 lb plate + 1x 10 lb plate + 2x 2.5 lb plates = 205 lbs

 

Expand  

Évidemment, aucune de ces combinaison n'arrive à 205, sans parler des combinaisons utilisant 1 seule plaque d'un certain poids, ce qui n'est pas utilisable.

 

Je lui fait remarqué, il s'excuse, et propose d'autres combinaisons complètement fausse. Là où ça devient drôle:

  Quote

what's the result of 45 + 2x45 + 2x10 + 2x2.5 ?

Expand  


ChatGPT
 

  Quote

 

The result of 45 + 2x45 + 2x10 + 2x2.5 is 205 lbs.

    2x45 means two 45 lb plates, which is 90 lbs.
    2x10 means two 10 lb plates, which is 20 lbs.
    2x2.5 means two 2.5 lb plates, which is 5 lbs.
    When you add up the weight of the barbell (45 lbs) and the plates (90 lbs + 20 lbs + 5 lbs), you get a total weight of 205 lbs.

 

Expand  

 

le même prompt dans un nouveau chat donne

  Quote

 

First, we can simplify the expression by applying the distributive property of multiplication over addition:

45 + 2x45 + 2x10 + 2x2.5 = 45 + 90 + 20 + 5

Then, we can add the terms together:

45 + 90 + 20 + 5 = 160

Therefore, the result of the expression 45 + 2x45 + 2x10 + 2x2.5 is 160.

 

Expand  

 

Dans le chat précédent, le prompt

  Quote

this isn't 205. do the math again

Expand  

 

retourne
  Quote

 

I apologize for the error. Here is the correct calculation:

45 + 2x45 + 2x10 + 2x2.5 = 45 + 90 + 20 + 5 = 160 lbs

I made an error in my previous response. I apologize for any confusion this may have caused. Please let me know if you have any other questions.

 

Expand  

 

Donc chatGPT s'intoxique avec son propre bullshit. C'est fascinant!

 

Si quelqu'un a accès à GPT-4, je serait curieux de savoir s'il fait mieux.

Posté
  Le 06/05/2023 à 20:09, Jensen a dit :

Donc chatGPT s'intoxique avec son propre bullshit. C'est fascinant!

Expand  

C'est définitivement un excellent simulateur de midwit.

Posté

@Jensen

J'ai fait l'exercice avec CHAT-GPT 3.5 et 4.

 

Le prompt :

  Quote

Act like an expert in math, arithmetic and numerical problem to solve. A weight-lifter wants to train with barbells. He wants to achieve a weight combination of 205 lbs. Weights on the barbell must be added symmetrically, the same weighted played must be added on the left side and on the right side each time a new weight is added. Think step by step and be very precise in your successive calculations : what is the combination of weight of plates on the barbel to be at 205 lbs in total?

Expand  

 

La réponse du 3.5 :

  Quote

Certainly, I can help you with this problem. To calculate the combination of weight plates needed to achieve a total weight of 205 lbs on the barbell, we can follow these steps:

Step 1: Determine the maximum weight that can be placed on each side of the barbell
We need to know the maximum weight that can be placed on each side of the barbell so that we can determine the possible combinations of weights that will give us a total weight of 205 lbs. The weight-lifter did not provide us with this information, so let us assume that the maximum weight that can be placed on each side of the barbell is 100 lbs.

Step 2: Find the possible weight combinations that add up to 205 lbs
Since we need to add the same weight plates on both sides of the barbell, we need to find combinations of weight plates that are even numbers. For example, if we add a 45 lb plate on one side, we need to add another 45 lb plate on the other side to maintain symmetry. Here are some possible weight combinations that add up to 205 lbs:

- 45 lb plates on each side (2 x 45 = 90 lbs) and 5 lb plates on each side (2 x 5 = 10 lbs). Total weight = 90 + 10 + 90 + 10 = 200 lbs
- 45 lb plates on each side (2 x 45 = 90 lbs), 10 lb plates on each side (2 x 10 = 20 lbs), and 2.5 lb plates on each side (2 x 2.5 = 5 lbs). Total weight = 90 + 20 + 5 + 90 + 20 + 5 = 230 lbs
- 35 lb plates on each side (2 x 35 = 70 lbs), 25 lb plates on each side (2 x 25 = 50 lbs), and 2.5 lb plates on each side (2 x 2.5 = 5 lbs). Total weight = 70 + 50 + 5 + 70 + 50 + 5 = 250 lbs

Step 3: Adjust the weight plates to reach the desired total weight
The weight-lifter wants to achieve a weight combination of 205 lbs, so we need to adjust the weight plates to reach this total weight. From the weight combinations listed above, the closest weight combination to 205 lbs is the first one, which has a total weight of 200 lbs. To reach 205 lbs, we need to add an additional 2.5 lb plate on each side (2 x 2.5 = 5 lbs). This will give us the following weight combination:

- 45 lb plates on each side (2 x 45 = 90 lbs), 10 lb plates on each side (2 x 10 = 20 lbs), and 2.5 lb plates on each side (2 x 2.5 = 5 lbs). Total weight = 90 + 20 + 5 + 90 + 20 + 5 = 205 lbs

Therefore, the combination of weight plates on the barbell to achieve a total weight of 205 lbs is: 2 x 45 lb plates, 2 x 10 lb plates, and 2 x 2.5 lb plates on both sides of the barbell.

Expand  

 

La réponse du 4:

  Quote

Let's break down the problem step by step. We need to find the combination of weight plates that the weight-lifter can use to achieve a total weight of 205 lbs on the barbell. The weights must be added symmetrically, so we need to consider only pairs of plates.

First, we need to account for the weight of the barbell itself. A standard barbell typically weighs 45 lbs. So, we need to find a combination of weight plates that add up to 160 lbs (205 lbs total weight - 45 lbs barbell weight).

Now, let's find the combination of weight plates that add up to 160 lbs when added symmetrically. Common weight plates available at a gym include 2.5 lbs, 5 lbs, 10 lbs, 25 lbs, 35 lbs, and 45 lbs. We'll try to use these standard weight plates to reach our target.

Let's start by using the heaviest plates first and then work our way down:

1. Two 45 lbs plates: 45 + 45 = 90 lbs
2. Two 35 lbs plates: 35 + 35 = 70 lbs
3. Two 25 lbs plates: 25 + 25 = 50 lbs
4. Two 10 lbs plates: 10 + 10 = 20 lbs
5. Two 5 lbs plates: 5 + 5 = 10 lbs
6. Two 2.5 lbs plates: 2.5 + 2.5 = 5 lbs

Now, let's add the weights to reach our target of 160 lbs:

1. Add two 45 lbs plates: 90 lbs (90 lbs total)
2. Add two 35 lbs plates: 70 lbs (160 lbs total)

The weight-lifter can achieve a total weight of 205 lbs on the barbell (including the 45 lbs barbell) by using the following combination of weight plates:

- Two 45 lbs plates
- Two 35 lbs plates

Expand  

 

J'aurai pu avoir des repères moins verbeuses en le précisant dans mon prompt, mais j'y ai pensé après. 

  • Yea 1
Posté

Globalement ce n'est qu'une question de temps (mois voire semaines) avant que Wolfram Alpha ne soit intégré au sein de GPT-4. Perplexity (un LLM fonctionnant avec l'architecture de GPT-3.5) en donne déjà un avant-goût, pas besoin de créer un compte spécifique et il intègre un certain nombre de modules (mathématiques, capacité à écumer internet etc.), le mieux étant de combiner GPT-4 pour avoir les étapes pour résoudre un problème mathématique puis de retranscrire dans Perplexity pour qu'il utilise les outils à sa disposition afin de résoudre sans erreur de calcul (ou presque, une fois il maintenait mordicus que x-x(x+1) faisait x^2+x).

  • Yea 1

Créer un compte ou se connecter pour commenter

Vous devez être membre afin de pouvoir déposer un commentaire

Créer un compte

Créez un compte sur notre communauté. C’est facile !

Créer un nouveau compte

Se connecter

Vous avez déjà un compte ? Connectez-vous ici.

Connectez-vous maintenant
×
×
  • Créer...