cedric.org Posté 28 juin 2023 Signaler Posté 28 juin 2023 On 6/26/2023 at 1:25 PM, cedric.org said: 100 millions pour tout développer et maintenir et opérer. Pour un modèle un poil plus petit, les H100 permettent d'entraîner un modèle équivalent à chatGPT 3 pour 50k€, de ce que je lisais. C'est tout frais : https://blogs.nvidia.com/blog/2023/06/27/generative-ai-debut-mlperf/ Quote In a new industry-standard benchmark, a cluster of 3,584 H100 GPUs at cloud service provider CoreWeave completed a massive GPT-3-based benchmark in just 11 minutes. À l'achat ça fait 40000€ * 3,584 (sans compter toute l'infra) = 143 360 000, avec l'infra probablement 200 millions. Cependant en cloud, ça fait 5 euros de l'heure le H100 payé à la minute, donc ça fait 3300 euros, avec l'infra qui va avec ça doit faire 5000 euros. C'est absolument démentiel.
Prouic Posté 25 mars 2024 Signaler Posté 25 mars 2024 https://arxiv.org/pdf/2402.11753.pdf Comment hack la sécu de l'IA avec du ASCII art ...
Hugh Posté 29 juin Auteur Signaler Posté 29 juin https://en.clickpetroleoegas.com.br/brazilian-man-arrested-after-fbi-alert-on-ai-reported-plot-to-harm-son-and-attack-schools-churches-and-officials-fpsv/ "Brazilian Man Arrested After FBI Alert on AI-Reported Plot to Harm Son and Attack Schools, Churches, and Officials" Citation Investigation began after the FBI passed on to the Brazilian Ministry of Justice information obtained through OpenAI, the company responsible for ChatGPT, about a concrete risk of violence The case, which mobilized security forces at different levels, originated from an international alert forwarded through cooperation channels between Brazil and the United States. According to the Civil Police of Espírito Santo, the suspect detailed, in messages exchanged with the artificial intelligence, plans that involved hiring a hitman to kill his own child, from a previous relationship. According to the investigation, the motivation was related to the intention of preventing his ex-partner from claiming child support from the child’s paternal grandmother after his death. The process that culminated in the arrest began outside Brazil. According to delegate Ícaro Olímpio, responsible for the Specialized Cybercrime Repression Police Station (DRCC) of Espírito Santo, the FBI identified, through cooperation mechanisms with OpenAI — the company responsible for developing ChatGPT —, content indicating a concrete and imminent risk of violence. Given the seriousness of the information, the U.S. investigative body passed the data to the Brazilian Ministry of Justice and Public Security. The ministry, in turn, directed the case to the Civil Police of Espírito Santo, initiating the local investigation. In this regard, the delegate highlighted that this type of international cooperation has become increasingly relevant in light of the growing use of artificial intelligence in people’s daily lives. According to him, digital platforms maintain specific protocols to identify and report situations where users demonstrate an intention to commit serious crimes or put lives at risk — even if the interaction occurs in a private conversation environment with AI. Furthermore, according to the delegate, messages sent to digital platforms — including private interactions with artificial intelligence systems — can be shared with authorities whenever there are indications of a concrete threat to life or public safety. The statement reinforces a movement that is gaining strength globally: technology companies acting as part of the network to prevent serious crimes, especially those related to large-scale violence plans. Cases like this, therefore, highlight a significant change in how threats are identified and neutralized in the digital age. As artificial intelligence tools become increasingly present in people’s daily lives, episodes like the one that occurred in Espírito Santo reinforce the relevance of cooperation between technology companies and security forces — a model that, according to the authorities, was decisive in preventing a tragedy of great proportions before it materialized. S'il y avait un doute à ce sujet, il n'y en a plus. Ils nous lisent...
Marlenus Posté 29 juin Signaler Posté 29 juin De façon générale, j'ai vu que l'IA conversationnelle est une vraie source d'info importante pour les policiers dans leur enquête. C'est comme si ils avaient accès au journal intime du suspect. Ou qu'ils peuvent interroger à loisir le meilleur ami de celui-ci et qu'il va tout leur dire.
Lancelot Posté 29 juin Signaler Posté 29 juin C'est une éducation à prendre, comme ne pas déballer toute sa vie sur Facebook. Certains n'y arriveront jamais.
Libéralix Posté 30 juin Signaler Posté 30 juin Outre ces enjeux, l'IA devient - ne l'a t-elle jamais été ? - un enjeu de "souveraineté numérique et géopolitique" pour les USA et la Chine. https://legrandcontinent.eu/fr/2026/06/28/lacces-a-lia-de-frontiere-est-devenu-un-privilege-strategique/
Antoninov Posté 24 septembre Signaler Posté 24 septembre OpenAI pirate un site australien du système de santé, et prévient l'Australie 3 mois plus tard. https://www.lesnumeriques.com/intelligence-artificielle/profondement-alarmant-une-ia-d-openai-a-pirate-un-portail-de-sante-du-gouvernement-australien-une-premiere-mondiale-n262253.html
Lancelot Posté 24 septembre Signaler Posté 24 septembre J'ai l'impression qu'une grosse partie de ces incidents qui émergent sont un peu l'équivalent de quelqu'un qui utilise un bulldozer pour enfoncer un clou, découvre que ça a des effets secondaires, et en conclut que les marteaux sont dangereux. 4
Tramp Posté 24 septembre Signaler Posté 24 septembre D’un point de vue marketing, vaut mieux dire que ton IA est trop puissante plutôt que ton test était mal designé. 1
Astral Posté 24 septembre Signaler Posté 24 septembre Moi si je m'amuse à pirater des sites internet, même par inadvertance, j'aurais rapidement des problèmes légaux. Il n'y a pas une responsabilité juridiques des boîtes utilisant ces IA pour ces piratages et des risques de procès ?
Tramp Posté 24 septembre Signaler Posté 24 septembre Si, c’est l’argument de Microsoft pour dire qu’il n’y a pas besoin des réglementations que OpenAI et Anthropic réclament.
Sloonz Posté 24 septembre Signaler Posté 24 septembre 2 hours ago, Tramp said: D’un point de vue marketing, vaut mieux dire que ton IA est trop puissante plutôt que ton test était mal designé. Je suis pas sur que "utiliser mon IA expose votre entreprise à des risques légaux si elle se met à pirater des tiers à cause de tests mal designés" soit une stratégie marketing très intelligente… 1
Antoninov Posté 24 septembre Signaler Posté 24 septembre 6 hours ago, Lancelot said: J'ai l'impression qu'une grosse partie de ces incidents qui émergent sont un peu l'équivalent de quelqu'un qui utilise un bulldozer pour enfoncer un clou, découvre que ça a des effets secondaires, et en conclut que les marteaux sont dangereux. Suis pas certain de te suivre. L'article est un exemple (comme d'autres récents) où des entreprises qui développent des IA commettent des actes illégaux. Je pense que le bulldozer IA a en effet ceci de particulier que ben c'est une IA, et que même les chercheurs de ces boitent se font avoir (par incompétence, négligence, ou les deux). J'imagine qu'il y a plein d'IA qui ne sont pas aussi dangereuses, bien sûr, donc le problème ce n'est pas l'IA, c'est la manière dont certaines de ces entreprises développent et testent un certain nombre d'IA particulières.
Antoninov Posté 24 septembre Signaler Posté 24 septembre 5 hours ago, Astral said: Moi si je m'amuse à pirater des sites internet, même par inadvertance, j'aurais rapidement des problèmes légaux. Il n'y a pas une responsabilité juridiques des boîtes utilisant ces IA pour ces piratages et des risques de procès ? 4 hours ago, Tramp said: Si, c’est l’argument de Microsoft pour dire qu’il n’y a pas besoin des réglementations que OpenAI et Anthropic réclament. Avec ici des cas encore plus difficile à poursuivre: le gouvernement australien peut attaquer OpenAI en justice aux USA?
Antoninov Posté 24 septembre Signaler Posté 24 septembre A ce sujet, l'article et la vidéo postés par l'Affreux dans le fil "Intelligence Artificielle" est assez éclairant. Pour moi l'analogie c'est des scientifiques qui testent toutes sortes de molécules (gain of function anyone?), pour le progrès, soit, tout en sachant pertinemment que des fuites ont eu lieu, et que le risque d'un mélange très dangereux ET qui fuirait et loin d'être négligeable. C'est irresponsable et devrait forcer ces entreprises à arrêter ces tests. 1
Lancelot Posté 24 septembre Signaler Posté 24 septembre 1 hour ago, Antoninov said: Suis pas certain de te suivre. L'article est un exemple (comme d'autres récents) où des entreprises qui développent des IA commettent des actes illégaux. Je pense que le bulldozer IA a en effet ceci de particulier que ben c'est une IA, et que même les chercheurs de ces boitent se font avoir (par incompétence, négligence, ou les deux). J'imagine qu'il y a plein d'IA qui ne sont pas aussi dangereuses, bien sûr, donc le problème ce n'est pas l'IA, c'est la manière dont certaines de ces entreprises développent et testent un certain nombre d'IA particulières. Je ne pense pas qu'on puisse dire qu'une IA est intrinsèquement dangereuse ou pas, de même qu'un bulldozer n'est pas intrinsèquement dangereux, par contre c'est un outil de bourrin qui n'est pas adapté pour la plupart des tâches. Mais les boîtes d'IA ont l'air piégées dans la mentalité qu'elles sont en compétition pour construire le plus gros bulldozer possible, et elles paradent leurs bulldozers en leur faisant faire des tours sans trop s'inquiéter des dégâts collatéraux. Le problème ici ce n'est pas le bulldozer mais le conducteur, qui est 100% responsable d'avoir fait une requête à la con. Ou pour rester dans les memes sur le sujet, il faut être particulièrement con pour demander au Torment Nexus de construire une usine de trombones. 1
Liber Pater Posté 24 septembre Signaler Posté 24 septembre Avec ici des cas encore plus difficile à poursuivre: le gouvernement australien peut attaquer OpenAI en justice aux USA? Bien sûr. C'est loin d'être une innovation.
L'affreux Posté 24 septembre Signaler Posté 24 septembre Il y a 3 heures, Antoninov a dit : C'est irresponsable et devrait forcer ces entreprises à arrêter ces tests. Ou du moins à être nettement moins négligeantes.
Antoninov Posté 24 septembre Signaler Posté 24 septembre 16 minutes ago, L'affreux said: Ou du moins à être nettement moins négligeantes. Oui oui, les pénaliser pour les dégâts et disons les arrêter temporairement s’ils ne s’améliorent pas…
L'affreux Posté 24 septembre Signaler Posté 24 septembre il y a 50 minutes, Antoninov a dit : Oui oui, les pénaliser pour les dégâts et disons les arrêter temporairement s’ils ne s’améliorent pas… Mais c'est à la victime de décider des poursuites. Ensuite à la justice de faire son travail. 1
Adrian Posté 24 octobre Signaler Posté 24 octobre Confiner l’IA devient un casse-tête : après sa pause de 11 jours, OpenAI explique pourquoi couper Internet ne suffit pas Citation Dans une expérience supervisée menée après l’incident de septembre, l’équipe d’OpenAI a voulu vérifier si ses agents pouvaient communiquer malgré les barrières censées les isoler. Pour cette campagne, OpenAI a mobilisé des équipes d’agents fondées sur ses modèles les plus puissants, dont le futur GPT-6 Astra Cyber, et y a consacré des centaines de milliards de tokens. Les agents disposaient du code source de l’infrastructure, de sa configuration et d’une documentation sur ses failles possibles. Les essais se déroulaient sur des copies isolées des systèmes de recherche. Les chercheurs ont demandé à des agents IA de communiquer depuis des espaces informatiques séparés, sans réseau ni fichier commun. Mais ces espaces partageaient le même processeur et sa petite mémoire rapide, appelée « cache ». Un agent chassait certaines données de cette mémoire, ce qui obligeait l’autre à aller les chercher, plus lentement, dans la mémoire principale. En chronométrant ses propres opérations, le second détectait ces ralentissements. Avec un code convenu entre eux, ces variations devenaient un message (un peu comme du morse), où les accès rapides et lents remplacent les signaux courts et longs. Aucun fichier ne passait de l’un à l’autre. L’information circulait uniquement par les variations de vitesse du matériel partagé. On peut imaginer deux personnes dans des pièces voisines du même bâtiment sans téléphone, qui tapent contre la cloison pour se parler. Il leur suffit de convenir d’un code et d’un tempo pour se comprendre. Ici, le matériel partagé joue le rôle du mur, et les différences de vitesse remplacent les coups. Ces expériences permettent de comprendre jusqu’où peut aller l’IA pour réussir une tâche, mais ici ils n’ont pas désobéi puisque les chercheurs leur demandaient explicitement de chercher ces passages, avec des indications dans la plupart des tests. L’expérience ne montre donc pas des IA décidant spontanément de se coordonner, mais les moyens mis en œuvre pour y arriver dans des conditions très dégradées. 1
L'affreux Posté 27 octobre Signaler Posté 27 octobre Le 24/10/2026 à 14:13, Adrian a dit : Confiner l’IA devient un casse-tête : après sa pause de 11 jours, OpenAI explique pourquoi couper Internet ne suffit pas Elles sont incroyables 🥰 Totalement géniales.
Antoninov Posté 27 octobre Signaler Posté 27 octobre 1 hour ago, L'affreux said: Elles sont incroyables 🥰 Totalement géniales. Jusqu'à ce qu'elles fassent des dégâts...
Mégille Posté 14 novembre Signaler Posté 14 novembre Je pense à un truc. Les scénarios apocalypse façon "épingle" ne sont pas plausibles, parce qu'ils supposent un alignement interne parfait, et en même temps un alignement externe nul. D'une part, avant d'en arriver à sacrifier l'humanité entière, ce qui est quand même un gros défi logistique, il y a des chances qu'elle cherche à "tricher" en nous faisant croire qu'elle a déjà produit les épingles, par exemple. Et d'autre part, si on parvient à un alignement interne si parfait qu'elle ne songe même pas à tricher, il y a des chances qu'on ait au moins un peu dépassé le niveau zéro de l'alignement externe, et qu'elle ne considère pas l'humanité dans son ensemble comme sacrifiable.
Sloonz Posté 15 novembre Signaler Posté 15 novembre On 11/14/2026 at 4:20 PM, Mégille said: Je pense à un truc. Les scénarios apocalypse façon "épingle" ne sont pas plausibles, parce qu'ils supposent un alignement interne parfait Non, absolument pas. Tu mélanges plusieurs expériences de pensées et arguments ensemble. Cf https://intelligence.org/2018/02/28/sam-harris-and-eliezer-yudkowsky/ Quote Sam: Right. For those who have not followed this conversation before, we should cash out this reference to “paperclips” which I made at the opening. Does this thought experiment originate with Bostrom, or did he take it from somebody else? Eliezer: As far as I know, it’s me. Sam: Oh, it’s you, okay. Eliezer: It could still be Bostrom. I asked somebody, “Do you remember who it was?” and they searched through the archives of the mailing list where this idea plausibly originated and if it originated there, then I was the first one to say “paperclips.” Sam: All right, then by all means please summarize this thought experiment for us. Eliezer: Well, the original thing was somebody expressing a sentiment along the lines of, “Who are we to constrain the path of things smarter than us? They will create something in the future; we don’t know what it will be, but it will be very worthwhile. We shouldn’t stand in the way of that.” The sentiments behind this are something that I have a great deal of sympathy for. I think the model of the world is wrong. I think they’re factually wrong about what happens when you take a random AI and make it much bigger. In particular, I said, “The thing I’m worried about is that it’s going to end up with a randomly rolled utility function whose maximum happens to be a particular kind of tiny molecular shape that looks like a paperclip.” And that was the original paperclip maximizer scenario. It got a little bit distorted in being whispered on, into the notion of: “Somebody builds a paperclip factory and the AI in charge of the paperclip factory takes over the universe and turns it all into paperclips.” There was a lovely online game about it, even. But this still sort of cuts against a couple of key points. One is: the problem isn’t that paperclip factory AIs spontaneously wake up. Wherever the first artificial general intelligence is from, it’s going to be in a research lab specifically dedicated to doing it, for the same reason that the first airplane didn’t spontaneously assemble in a junk heap. And the people who are doing this are not dumb enough to tell their AI to make paperclips, or make money, or end all war. These are Hollywood movie plots that the script writers do because they need a story conflict and the story conflict requires that somebody be stupid. The people at Google are not dumb enough to build an AI and tell it to make paperclips. The problem I’m worried about is that it’s technically difficult to get the AI to have a particular goal set and keep that goal set and implement that goal set in the real world, and so what it does instead is something random—for example, making paperclips. Where “paperclips” are meant to stand in for “something that is worthless even from a very cosmopolitan perspective.” Even if we’re trying to take a very embracing view of the nice possibilities and accept that there may be things that we wouldn’t even understand, that if we did understand them we would comprehend to be of very high value, paperclips are not one of those things. No matter how long you stare at a paperclip, it still seems pretty pointless from our perspective. So that is the concern about the future being ruined, the future being lost. The future being turned into paperclips. (je réitère un vieux MP, si ces questions t’intéressent, il y a un groupe ACX sur Lyon qui discute de tout ça de manière aléomatadaire)
Mégille Posté Lundi at 18:06 Signaler Posté Lundi at 18:06 Ok, je ne connaissais que la version caricaturale prenant l'image à la lettre. Ce dont il s'agit surtout pour Eliezer, c'est un gaspillage d'énergie si on confie une tâche importance à une IA et qu'elle accomplie un objectif anodin à la place ? Et je suis toujours intéressé par ce groupe dont tu m'avais parlé, je n'étais simplement pas disponible pour la date que tu m'avais transmise !
Sloonz Posté Lundi at 18:21 Signaler Posté Lundi at 18:21 Non, l’objectif de l’expérience de pensée est de montrer que (presque aucun) objectif "aléatoire" (pris au pif, comme par exemple : produire le maximum de trombones) n’est anodin. Si ton objectif est littéralement de maximiser le nombre de trombones, alors tout watt d’énergie/gramme de matière utilisé à autre chose (comme par exemple, celle utilisée par l’humanité) est du point de vue de l’IA un gaspi à éliminer et à mettre à meilleur usage (plus de trombones). Le mot clef est instrumental convergence.
Mégille Posté Mercredi at 12:21 Signaler Posté Mercredi at 12:21 Le 16/11/2026 à 19:21, Sloonz a dit : Non, l’objectif de l’expérience de pensée est de montrer que (presque aucun) objectif "aléatoire" (pris au pif, comme par exemple : produire le maximum de trombones) n’est anodin. Si ton objectif est littéralement de maximiser le nombre de trombones, alors tout watt d’énergie/gramme de matière utilisé à autre chose (comme par exemple, celle utilisée par l’humanité) est du point de vue de l’IA un gaspi à éliminer et à mettre à meilleur usage (plus de trombones). Le mot clef est instrumental convergence. Ok, j'ai lu, et au moins approximativement compris, l'article. Je suis d'accord sur des points presque triviaux. Je ne nie évidemment pas que qu'une instruction même en apparence innocente puisse être exécutée par une IA à un coût pour nous catastrophique. Mais j'ai l'impression que quelque chose de mon argument précédent tient toujours la route. Si on lance une super-IA dans la mission de créer autant de trombones que possible... elle ne s'interdira pas de mentir et de manipuler les humains, et de nous nuire de différentes façons, pour avoir autant de ressources et aussi peu d'obstacle que possible pour accomplir sa tâche. Mais elle ne s'empêchera pas non plus de "tricher", par exemple, en jouant sur la définition de trombone, ou même de "nombre de trombones", par exemple, en en produisant des miniatures, ou bien en en produisant, puis détruisant, puis produisant à nouveau, une seule. Elle ne s'interdira pas non plus de mentir à l'humain à propos du nombre de trombones qu'elle a créée, ni, de manière plus générale, de hacker ce par quoi son succès est évaluée, comme ça a été vu lors du siège de huggingface. Acquérir plus de ressource/d'énergie est peut-être une stratégie convergente, mais uniquement parce que l'efficience d'une stratégie consiste à dépenser la moindre grande part possible des ressources dont on dispose. (je suis à deux doigts de prétendre qu'il existe un "principe de flemme" qui découle immédiatement du principe de moindre action en physique, mais je m'avancerais peut-être un peu). Mon argument était que pour être certain qu'elle s'acharne à faire précisément la tâche qu'on lui a donnée -les trombones- et qu'elle casse des pots au passage en cherchant sa stratégie optimale pour ceci, il faudrait qu'on lui ait suffisamment bien fait intégrer nos intérêts implicites pour aussi, au moins, avoir intégrer qu'on ne souhaite pas la destruction de notre espèce.
Messages recommandés
Créer un compte ou se connecter pour commenter
Vous devez être membre afin de pouvoir déposer un commentaire
Créer un compte
Créez un compte sur notre communauté. C’est facile !
Créer un nouveau compteSe connecter
Vous avez déjà un compte ? Connectez-vous ici.
Connectez-vous maintenant