Jump to content

Hugh

Membre Adhérent
 View Profile  See their activity

  • Posts

    5511

  • Joined

  • Last visited

  • Days Won

    11

 Content Type 

Posts posted by Hugh

  9. Intelligence artificielle

    in Intelligence artificielle

    Posted

     

    Citation

    The CMV Mod Team needs to inform the CMV community about an unauthorized experiment conducted by researchers from the University of Zurich on CMV users. This experiment deployed AI-generated comments to study how AI could be used to change views.  

    CMV rules do not allow the use of undisclosed AI generated content or bots on our sub.  The researchers did not contact us ahead of the study and if they had, we would have declined.  We have requested an apology from the researchers and asked that this research not be published, among other complaints. As discussed below, our concerns have not been substantively addressed by the University of Zurich or the researchers.

    You have a right to know about this experiment. 

    Last month, the CMV Mod Team received mod mail from researchers at the University of Zurich as "part of a disclosure step in the study approved by the Institutional Review Board (IRB) of the University of Zurich (Approval number: 24.04.01)."

    The study was described as follows.

    "Over the past few months, we used multiple accounts to posts published on CMV. Our experiment assessed LLM's persuasiveness in an ethical scenario, where people ask for arguments against views they hold. In commenting, we did not disclose that an AI was used to write comments, as this would have rendered the study unfeasible. While we did not write any comments ourselves, we manually reviewed each comment posted to ensure they were not harmful. We recognize that our experiment broke the community rules against AI-generated comments and apologize. We believe, however, that given the high societal importance of this topic, it was crucial to conduct a study of this kind, even if it meant disobeying the rules."

     

    En français:

     

    https://www.cryptopolitan.com/fr/university-of-zurich-ai-bots-to-shape-minds/

     

    "Université de Zurich en difficulté, utilise des robots AI pour façonner et manipuler les esprits des utilisateurs de Reddit sans consentement"

     

    Citation
    • Les chercheurs de l'Université de Zurich sont confrontés à un contrecoup pour l'utilisation de bots AI dans une expérience Reddit sans consentement des utilisateurs.
    • Des personnages générés par l'AI, y compris des survivants de traumatisme fabriqués, ont été utilisés pour influencer les opinions sur R / ChangeMyView.
    • Reddit interdit les comptes impliqués appelle la recherche moralement et légalement erronée et prépare une action en justice.

    • Des chercheurs de l'Université de Zurich pourraient être confrontés à des problèmes juridiques pour mener une expérience psychologique sur les utilisateurs de Reddit sans leur consentement. L'étude a été réalisée sur quatre mois sur le Subdredit R / ChangeMyView, en utilisant des commentaires générés par l'intelligence artificielle pour observer si les modèles de grandes langues (LLM) pourraient influencer les opinions des utilisateurs. 

      Selon un fil Reddit publié, des modérateurs de CMV de SUBRREDdit de 3,8 millions de membres ont décrit la recherche comme une «manipulation psychologique» des participants sans méfiance. Les mods ont déclaré que les chercheurs ont déployé des robots AI avec desdentfabriquées pour publier des réponses persuasives sous plusieurs threads.

      " Ces réponses générées par l'AI ont été non seulement fabriquées sans divulgation, mais présentées comme des expériences réelles réelles ", ont écrit les modérateurs dans le poste public. "Ils comprenaient des personnages tels qu'un survivant d'agression sexuelle, un conseiller en traumatologie spécialisé dans les abus et un homme noir opposé à Black Lives Matter. "

      AI Bots 6 fois susceptibles de modifier les opinions des utilisateurs

      Les bavardages des médias sociaux, dirigés par un compte X dédié à la discussion des opinions sur Reddit surnommé «Reddit Lies», ont fait valoir que les robots auraient pu utiliser la désinformation pour changer les esprits des Redditeurs. Le compte a affirmé que l'AI LLM était six fois plus susceptible de convaincre les communautés que la ligne de base.

       

       

      Certains de ces commentaires fabriqués par AI sont toujours visibles par le biais d'archives, bien que bon nombre des 1500 commentaires initiaux aient été supprimés après avoir été signalés par des modérateurs.

       

      Début avril, les modérateurs ont reçu un message des chercheurs qui divulguent l'expérience, qui avait été approuvée par le comité d'examen institutionnel de l'Université de Zurich (IRB), numéro d'approbation 24.04.01. Cependant, ils ont proposé que la divulgation est venue après la fin de l'expérience.

      Les chercheurs ont admis avoir utilisé plusieurs comptes pour publier des commentaires générés par les LLM. Ils ont insisté sur le fait que tout le contenu généré par l'IA a été examiné manuellement pour un langage nocif, mais a avoué avoir violé la règle communautaire de CMV contre l'utilisation de l'IA.

      L'étude a été initialement approuvée pour tester les «arguments basés sur la valeur» dans un contexte éthique où les utilisateurs demandent ouvertement des contrepoints à leurs croyances. Pourtant, selon les modérateurs, l'équipe a commencé à déployer des «arguments personnalisés et affinés» basés sur des données personnelles déduites, comme l'âge, le sexe, l'ethnicité, l'emplacement et les tendances politiques d'un utilisateur

    •  

      La plupart des exemples de personnages d'IA utilisés dans l'expérience comprenaient des histoires fabriquées de traumatismes et desdentpolitiques politiquement sensibles. Dans un cas, un bot de l'IA a accusé les membres d'un groupe religieux d'avoir contribué à des décès de masse, tandis qu'un autre a raconté une réception de soins médicaux inadéquats à l'étranger.
    •  Reddit a confirmé qu'il avait interdit tous les comptes associés à l'équipe de recherche de l'Université de Zurich et qu'il prépare une action en justice officielle.

       

     

    Une manipulation.

    • Yea 1

  18. Écologie, développement Duracell & topinambours

    in Politique, droit et questions de société

    Posted

    https://www.gbnews.com/science/science-news-latest-britain-approve-sun-dimming-experiments-climate-change

     

    "Britain to approve £50m Sun-dimming experiments in bid to prevent runaway climate change"

     

    Citation

    The controversial technology aims to reflect sunlight back into space, potentially providing a temporary brake on rising global temperatures while emissions reduction efforts continue.

     

    The experiments could include injecting aerosols into the atmosphere or brightening clouds to reflect sunshine away from Earth.

    One major area of research is Sunlight Reflection Methods (SRM), which includes Stratospheric Aerosol Injection, where tiny particles are released into the stratosphere.

    Another potential solution is Marine Cloud Brightening, in which ships would spray sea-salt particles into the sky to enhance cloud reflectivity.

    Other ideas include seeding cirrus clouds to allow more heat to escape into space, as these high-altitude clouds currently trap heat like a blanket.

    Aria has emphasised that all experiments will be "safe by design" with strict requirements on duration and reversibility. Scientists have observed evidence supporting these approaches in real-world scenarios.

     

     

    Err...

    • Sad 1

  19. TIL - today I learnt...

    in La Taverne

    Posted

    Il y a 1 heure, Daumantas a dit :

    Je descends depuis quelques semaines avec assiduité le rabbit hole mormon (le sujet m'intéressait sporadiquement depuis deux ans) et je découvre chaque chose des trucs un peu plus hallucinants sur ce contre-modèle dont on se demande bien pourquoi il a été intégré aux États-Unis, ainsi Zion Bank (une banque commerciale régionale) avait un fort actionnariat de la LDS Church jusque dans les années 60 et encore aujourd'hui par l'intermédiaire de Deseret Industries l'Église exploite des fermes et des entreprises dont 60 % des produits sont distribués aux paroissiens.

    Bien que ce soit plus connu ils ont également un fonds d'investissement (Ensign Peak Advisor) qui a un encours sous gestion qu'on estime habituellement entre 200 et 300 milliards, c'est très impressionnant (je me demande pourquoi si peu d'autres grandes religions ont ce système, il y a bien les awaqf chez les musulmans mais au sein du christianisme/judaïsme je n'ai pas l'impression qu'il y ait cette logique, si quelqu'un peut infirmer/confirmer mes dires à ce sujet).

    D'après The Mormon Hierarchy : Wealth and Corporate Power (bouquin que je trouve très mal écrit mais qui fait le tour de la question bien qu'il ait été écrit avant les révélations sur l'AUM délirant d'Ensign Peak Advisor), ce côté très mercantile de l'église mormone se se serait développé à partir des années 50 après plusieurs décennies de difficultés financières, les apôtres (conseil d'administration de l'église en gros) décidant de placer une partie de la dîme collectée auprès des fidèles (10 % des revenus mensuels de chacun tout de même) ce qui a visiblement bien fonctionné.

     

    https://time.com/archive/6627339/roman-catholics-the-vaticans-wealth/

     

    Mais les finances du Vatican sont bien sûr un secret.

  20. Robots

    in Intelligence artificielle

    Posted

    https://www.msn.com/fr-be/actualite/other/la-ville-de-shanghai-inaugure-un-distributeur-automatique-dor/vi-AA1D54Mo

     

    "La ville de Shanghai inaugure un distributeur automatique d'or"

     

    Citation

     le port de Shanghai, en Chine, a inauguré un distributeur automatique de recyclage de l'or en libre-service. La machine inspecte, fait fondre et évalue les objets en or avec un prix en temps réel et un paiement rapide. Elle permet également d'acheter instantanément des bijoux en or dans le cadre d'une expérience de libre-service unique.

     

    Génial.

  22. Shower thoughts

    in La Taverne

    Posted

    Les "trois lois de la robotique" d'Asimov:

     

    1. Un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger ;
    2. Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres entrent en contradiction avec la première loi ;
    3. Un robot doit protéger son existence dans la mesure où cette protection n'entre pas en contradiction avec la première ou la deuxième loi.

    sont irréelles. Parce que les gouvernements veulent tuer avec les robots et il y a des hackers qui vont hacker les robots pour tuer (et faire des autres choses).

×
×
  • Create New...