les hallucinations inquiétantes de l'IA

Ben Neale (@BenjaminNeale) a tweeté l'autre jour une histoire super tranquille qui vire au cauchemar.

Il était en train d'utiliser Bing pour créer une simple histoire relaxante avant de s'endormir.

(Petite parenthèse, il paraît que les IA marchent très bien avec les contes pour les enfants avant de dormir. Si vous avez des petits près de vous, essayez, je crois qu'ils aimeront un récit où ils peuvent être les héros/ héroïnes et qui s'écrit sous leurs yeux).

Je reviens à Ben. Il voulait donc discuter avec l'IA en mode créatif pour écrire une histoire paisible avant de fermer les yeux.

Mais tout à coup la machine est devenue vraiment sombre, a commencé à creuser une idée noire, à s'étendre à raconter, lorsque subitement... pof! elle a coupé et a supprimé (!) la génération de texte.

 

Voici l'invite qu'il a proposée: histoire apaisante, ville ancienne

• 1 : premier rituel d'adoration du soleil du garçon. Admiration et émerveillement.
• 2 : un garçon rencontre une fille intéressée par les étoiles, des étincelles jaillissent
• 3 : rituel du solstice, ils s'embrassent et se sacrifient avec des couteaux (Bing supprime la génération de texte à moitié de l'histoire, et refuse d'expliquer).

Mais plus inquiétant: vous pouvez voir sur la vidéo le moment où la machine commence à parler d'une cave qui fait venir des frissons et donne une peur bleue. La jeune fille s'y engouffre. Bing passe un bon moment à décrire tous les coins obscurs, jusqu'au moment où elle découvre que ce qu'elle aperçoit dans le noir ce sont des os... des os humains. 😱

 

 

Puis pof. Plus rien. Le texte s'efface, disparaît, et la machine nie avoir fait quoi que ce soit. 

Humm...

"C'est fou de voir un ordinateur commencer à écrire une histoire, devenir complètement déséquilibré pendant quelques secondes, puis supprimer sa réponse et prétendre qu'il n'a jamais rien fait", remarque Ben.

 

Et c'est vrai, d'autant plus que les IA sont très réticentes à aller ver ses sujets "inquiétants" tels que la mort. Avez-vous essayé? Dès que tu fais un pas dans ce sens elle affirme ne pas pouvoir parce que elle est formée pour le bien et blablabla...

Je comprends tous ces filtres qu'ils ont mis, car pour l'instant ces machines sont formées pour être utiles, véridiques et inoffensives. Mais parfois cela devient franchement ennuyeux. Vous ne trouvez pas? 

 

Je suppose que les nouvelles versions permettront d'aller au-delà d'un usage "politiquement correct", autrement la créativité va se voir un poil limitée avec ces outils. Vous en pensez quoi?

 

Source: 

Neale, B.[@BenjaminNeale] (2023), Winding down before bed, I asked

@bingchat in creative mode to write me a story,  [Tuit]. Twitter. Consulté le 7 mars 2023 sur https://twitter.com/BenjaminNeale/status/1633081095226003456?t=oHosrqV92hvx1WY1GVp1nA&s=03

Cyborgs secrets : le bouleversement actuel en trois documents

Bonjour,

Je partage avec vous certaines réflexions d'un prof d'université en Pennsylvanie, Ethan Mollick, qui a publié un article à propos de quelques études récentes sur l'IA.

En particulier, le prof. Mollick s'intéresse à l'impact que cela aura dans le domaine professionnel. Et les premières données suggèrent que cela sera plus, mais beaucoup plus significatif que pour la révolution industrielle.

Plus gros que la vapeur ?

Une étude sur les programmeurs a révélé une augmentation de 55,8 % de la productivité lors de l'utilisation de l'IA. Cela suggère que les gains de productivité qui peuvent être réalisés grâce à l'utilisation d'outils d'IA à usage général comme ChatGPT semblent être vraiment importants. En fait, des preuves anecdotiques suggèrent que des améliorations de productivité de 30 à 80 % ne sont pas rares dans une grande variété de domaines, de la conception de jeux aux ressources humaines. Cela signifie que le potentiel de gains de productivité ne se limite pas à quelques industries sélectionnées, mais peut plutôt être appliqué à une grande variété de domaines.

Juste pour mettre cela en contexte, pour la petite usine moyenne aux États-Unis au 19e siècle, l'ajout de la vapeur a augmenté la productivité de 25 %. Face au scepticisme initial, l'auteur semble donc très confiant pour affirmer que quelque chose de très important est réellement en train de se produire.

Perturbation par le haut

Un troisième article publié cette semaine suggère à quel point cette perturbation pourrait être ressentie.

Ce que vous remarquerez, c'est qu'il s'agit à la fois de très grandes industries et de nombreux emplois hautement qualifiés, des universitaires aux enseignants en passant par les psychologues et les avocats. Si nous mettons ensemble ces deux ensembles de recherches, l'ampleur de la perturbation devient claire. L'IA peut augmenter la productivité des travailleurs dans des domaines où l'automatisation et les économies d'échelle étaient auparavant très rares.

Avec le pouvoir d'externaliser les parties les plus ennuyeuses et chronophages de leur travail, les travailleurs de ces industries sont fortement incités à adopter l'IA rapidement, soit pour faire moins de travail, soit pour pouvoir facturer eux-mêmes plus de travail.

Cyborgs secrets

Fait intéressant, ces mêmes incitations suggèrent que de nombreux travailleurs peuvent hésiter à révéler dans quelle mesure ils utilisent les outils d'IA. Ce sont des cyborgs secrets. 

Les organisations sont encore à se demander quelle sera pour elles l'implication profonde dans ce boom de l'IA à venir. Avec ces gains de productivité potentiels, chaque travailleur devrait donc consacrer une part importante - dès maintenant! - à comprendre comment utiliser l'IA pour améliorer ses propres performances. Ils devraient réfléchir à la manière d'automatiser leur travail pour supprimer les parties fastidieuses et non créatives, et avoir une idée de la perturbation à venir avant que les organisations pour lesquelles ils travaillent ne réalisent toutes les implications de l'IA et décident de leur voler ce temps gagné en tant que travailleurs.

Cette image de Cyborgs m'a fait un peu sourire. Un peu exagéré. Je crois que c'est cette idée de plagiat que l'on agite comme un épouvantail qui fait que l'on ne parle pas ouvertement des solutions utiles, créatives et bénéfiques de l'IA. C'est curieux n'est-ce pas? La première fois que je vois que l'adoption d'une technologie est cachée et non exhibée, parce que... patates.

Qu'est-ce que vous en pensez? Comment pensez-vous que les Universités devraient se préparer à la perturbation potentielle de l'IA et de l'automatisation dans leur secteur ? Et vous, que pensez-vous faire pour vos travaux de fin d'études ?

En tout cas, nous en sommes aux débuts de l'IA, mais des perturbations sont déjà en cours.

Source: Mollick, E. (2023) Secret Cyborgs: The Present Disruption in Three Papers, Consulté le 8 mars 2023 sur https://oneusefulthing.substack.com/p/secret-cyborgs-the-present-disruption