La nécessité d'un péché

Pourquoi traiter l’IA comme une personne est l’avenir

Le professeur Ethan Mollick réfléchit à un sujet clivant sur l'IA que nous avons signalé en classe : "Attention, n'attribuez pas des capacités humaines à l'IA. Ce sont des robots. De plus en plus performants, mais ils n'ont pas de sentiments, et parfois ils présentent des problèmes." D'accord, mais je dis aussi cela : "Ils sont à vos ordres en tant qu'assistants d'imagination et de recherche. Guidez-les, ils n'attendent que vos invites :-)"

Il y a débat.

Ethan Mollick se rend compte qu'il commence à anthropomorphiser l'IA, et à mi-chemin de la rédaction de son livre : "J’arrête d’écrire qu’une  IA « pense » quelque chose » et j’écris simplement que « l’IA pense quelque chose ». Les guillemets manquants peuvent sembler une distinction subtile, mais elle est importante. De nombreux experts sont très nerveux à l’idée d’anthropomorphiser l’IA. Et ils ont de bonnes raisons.

L'anthropomorphisme est l'acte d'attribuer des caractéristiques humaines à quelque chose qui n'est pas humain. Nous sommes enclins à cela : nous voyons des visages dans les nuages, donnons des motivations à la météo et discutons avec nos animaux de compagnie. Il n’est donc pas surprenant que nous soyons tentés d’anthropomorphiser l’intelligence artificielle, d’autant plus que parler à des LLM, c’est comme parler à une personne. Même les développeurs et les chercheurs qui conçoivent ces systèmes peuvent tomber dans le piège d’utiliser des termes humains pour décrire leurs créations, à commencer par des étiquettes comme « apprentissage automatique ».

Cela peut sembler idiot de s’inquiéter. Après tout, il ne s’agit que d’une bizarrerie inoffensive de la psychologie humaine, un témoignage de notre capacité à faire preuve d’empathie et à créer des liens. Mais de nombreux chercheurs sont profondément préoccupés par les implications, tant sur le plan éthique qu’épistémologique, du fait d’agir avec désinvolture comme si l’IA était un être humain. Ils posent des questions importantes telles que : Sommes-nous trompés en croyant que ces machines partagent nos sentiments ? Cette illusion pourrait-elle nous amener à divulguer des informations personnelles à ces machines, sans nous rendre compte que nous les partageons avec des entreprises ? Comment le fait de traiter l’IA comme une personne obscurcit-il notre vision de son fonctionnement, de qui la contrôle et de la manière dont nous devrions interagir avec elle ?

Je sais que ce sont des risques réels, et pour être clair, quand je dis qu'une IA « pense », « apprend », « comprend », « décide » ou « ressent », je parle métaphoriquement. Les systèmes d’IA actuels n’ont pas de conscience, d’émotions, de sentiment de soi ou de sensations physiques. Donc pourquoi prendre le risque? Car aussi imparfaite que soit l’analogie, travailler avec l’IA est plus facile si vous la considérez comme une personne extraterrestre plutôt que comme une machine construite par l’homme. Et je pense que c’est important de faire passer cela, même avec les risques d’anthropomorphisme.

Pas tout à fait un logiciel

Parce que l’IA est constituée de logiciels complexes, je trouve que beaucoup de gens la considèrent comme quelque chose que les codeurs devraient utiliser. Cette attitude est si répandue qu'on peut la voir partout : les départements informatiques sont souvent chargés de la stratégie d'IA de l'entreprise, les informaticiens sont considérés comme des experts dans la prévision des changements sociaux que l'IA pourrait apporter et, plus important encore, de nombreuses personnes semblent réticentes à le faire et n'utilisent pas l’IA parce qu’elles « ne connaissent rien à l’informatique ».

C'est comme dire que, puisque nous sommes constitués de systèmes biochimiques, seuls les biochimistes devraient s'occuper des humains - mais c'est encore pire que cela. Cela revient plutôt à dire que seuls les chimistes devraient être autorisés à peindre, car eux seuls comprennent la composition moléculaire des pigments. Pourquoi laisserions-nous des artistes, qui ignorent peut-être complètement comment leurs peintures sont fabriquées, utiliser une chimie aussi complexe ? Mais en réalité, c'est encore pire que cela , car même les informaticiens ne savent pas vraiment pourquoi les LLM peuvent faire ce qu'ils font.

Les LLM sont constitués de logiciels, mais ils ne fonctionnent pas comme la plupart des logiciels. Ils sont probabilistes et pour la plupart imprévisibles, produisant des résultats différents avec les mêmes données. Bien qu’ils ne pensent pas, ils produisent des simulations du langage et de la pensée humains qui sont, autant que nous puissions en juger, suffisamment originales pour surpasser la plupart des humains . Ils sont perçus comme plus empathiques et plus précis que les médecins humains dans les essais contrôlés. Et pourtant, ils sont également limités de manière étrange et surprenante, comme l’ incapacité de raisonner à rebours .

Les LLM ne sont essentiellement qu'une saisie semi-automatique très sophistiquée. Alors, comment une saisie semi-automatique sophistiquée peut-elle faire ces choses ? La réponse jusqu’à présent, comme le décrit un excellent aperçu de la MIT Technology Review, est « personne ne sait exactement comment – ​​ni pourquoi – cela fonctionne ».

Le résultat est que travailler avec ces systèmes est tout simplement étrange. Ici, je demande à GPT-4 de créer une image animée zoomant sur un chien. Il me dit d’abord que c’est impossible, puis, après que je lui ai donné un discours d’encouragement (« Non, tu peux absolument le faire ! J’ai confiance en toi »), il décide qu’il peut résoudre le problème. Mais il propose une solution qui ne fonctionne pas vraiment, notamment en me donnant un lien vers un fichier inexistant qu'il prétend avoir créé. Alors, je deviens un peu plus sévère : « vous n'avez réellement écrit aucun code, vous savez. sérieusement, c'est étrange. fais-le c'est tout." Et c’est le cas.

Et puis je lui demande d'améliorer l'animation, et maintenant j'ai un GIF qui zoome sur un chien, entièrement codé et développé par l'IA, géré par moi.

Ceci est animé, au cas où votre navigateur ne prend Cela ne donne pas l’impression de travailler avec un logiciel, mais plutôt comme de travailler avec un être humain. Je ne dis pas que les systèmes d’IA sont sensibles comme les humains, ni qu’ils le seront un jour. Au lieu de cela, je propose une approche pragmatique : traiter l’IA comme si elle était humaine car, à bien des égards, elle se comporte comme telle. Cet état d’esprit peut considérablement améliorer votre compréhension de comment et quand utiliser l’IA dans un sens pratique, voire technique.

Imiter les gens

L’IA excelle dans les tâches qui sont intensément humaines : l’écriture, l’idéation, la feinte d’empathie. Cependant, il a du mal à réaliser des tâches dans lesquelles les machines excellent généralement, comme répéter un processus de manière cohérente ou effectuer des calculs complexes sans assistance. En fait, cela tend à résoudre les problèmes pour lesquels les machines sont douées d’une manière très humaine. Lorsque vous demandez à GPT-4 d'analyser les données d'une feuille de calcul à votre place, il ne lit et ne comprend pas de manière innée les chiffres. Au lieu de cela, il utilise des outils comme nous le pourrions, en jetant un coup d'œil à une partie des données pour voir ce qu'elles contiennent, puis en écrivant des programmes Python pour essayer de réellement effectuer l'analyse. Et ses défauts – fabrication d’informations, fausse confiance dans les mauvaises réponses et paresse occasionnelle – ressemblent également beaucoup plus à des erreurs humaines qu’à des erreurs mécaniques.

Cette bizarrerie quasi humaine explique pourquoi les meilleurs utilisateurs de l’IA sont souvent des managers et des enseignants, des personnes capables de comprendre le point de vue des autres et de le corriger lorsqu’il tourne mal. Vous remarquerez par exemple dans la conversation ci-dessus que j’ai coupé l’IA (à l’aide du bouton « stop ») lorsque j’ai vu qu’elle allait dans la mauvaise direction et que j’ai proposé à la fois un feedback et une correction. Plutôt que de nous concentrer uniquement sur l’apprentissage des bonnes instructions, nous pourrions consacrer plus de temps à leur apprendre à gérer l’IA. Les introduire dans la tête inexistante de l’IA afin qu’ils puissent comprendre intuitivement ce qui fonctionne. Après tout, la prise de perspective est une forme de compétence sociale plutôt que technique et elle peut réellement s’apprendre.

L’idée de traiter l’IA comme une personne s’aligne également sur les deux meilleures techniques d’incitation de base. La première consiste à donner à l’IA une personnalité spécifique, en définissant qui elle est et quels problèmes elle doit résoudre. Dire au système « de qui » il s’agit contribue à façonner les résultats du système. Lui dire d' agir en tant que professeur d'étudiants de MBA entraînera un résultat différent de celui si vous lui demandez d' agir en tant que clown de cirque . Ce n'est pas magique - vous ne pouvez pas dire Agir comme Bill Gates et obtenir de meilleurs conseils commerciaux ou écrire comme Hemingway et obtenir une prose incroyable - mais cela peut aider à rendre le ton et l'orientation appropriés à votre objectif.

Une deuxième technique puissante qui correspond au traitement de l’IA comme une personne est l’incitation à la chaîne de pensée, où vous demandez à l’IA de « réfléchir étape par étape » ou de lui fournir des instructions claires à suivre. Cela se traduit non seulement par des réponses de meilleure qualité, mais nous permet également de mieux comprendre où la réflexion de l’IA a déraillé. Et, encore une fois, les managers et les enseignants sont souvent les plus doués pour donner des instructions claires, ce qui rend la chaîne de réflexion plus efficace. Parler à une IA comme une personne semble être une nécessité pratique lors de l'invite.

Et certains des risques de l’IA pourraient en fait être moindres si leurs créateurs leur donnaient de fausses personnalités plus évidentes. Vous n'êtes pas habitué à ce qu'un ordinateur fasse des erreurs, mais vous savez qu'il ne faut pas faire entièrement confiance à Sydney, votre stagiaire un peu exagéré et stressé, aussi utile soit-il. La personnalité peut finir par être un facteur de différenciation pour certains LLM. Vous aimerez peut-être que Gemini soit un peu planificateur, tandis que d'autres pourraient aimer que Claude 3 soit plus disposé à faire semblant d'avoir des émotions.

Futurs anthropomorphes

En fin de compte, même si vous ne voulez pas anthropomorphiser l’IA, elles semblent de plus en plus vouloir s’anthropomorphiser. Le format chatbot, les « mémoires » plus longues sur plusieurs conversations et des fonctionnalités telles que la conversation vocale conduisent tous à rendre les interactions de l'IA plus humaines. Je couvre généralement l'IA pour des utilisations pratiques dans ces articles, mais la plupart des sites d'IA les plus populaires se concentrent sur la création d'IA en tant que compagnons - Character.ai est le deuxième site d'IA le plus utilisé, après ChatGPT . Et si vous n’avez pas essayé le chat vocal avec un modèle d’IA pour voir l’attrait, vous devriez le faire. Vous pouvez utiliser un site de chatbot, mais vous pouvez également utiliser Pi d'Inflection gratuitement (du moins pour l'instant, une grande partie d'Inflection vient d'être achetée par Microsoft), ou ChatGPT-4 via l'application téléphonique. Ces approches semblent fonctionner. Une session de discussion moyenne avec Pi, optimisée pour le bavardage, dure plus de trente minutes.

L’anthropomorphisme est l’avenir, dans le bon comme dans le mauvais sens. Un nombre croissant d’humains ont déjà le sentiment d’entretenir des liens profonds avec l’IA, avec des conséquences imprévisibles sur nos propres interactions : aider certaines personnes tout en sauvegardant les relations humaines d’autres. Compte tenu de la tendance, traiter les IA comme des personnes semble inévitable, donc trouver comment le faire de manière sûre et productive peut être mieux que les alternatives.

Pourquoi les gens tombent amoureux des chatbots IA ?

De Tinder à Replika, l’IA générative transforme la façon dont les humains utilisent les applications de rencontres et incite même de vraies personnes à romancer les chatbots IA.

Deux grandes tendances se produisent en parallèle. Les applications de rencontres comme Tinder utilisent l’IA générative pour aider leurs utilisateurs à personnaliser leurs profils et à créer les messages parfaits à envoyer aux correspondances potentielles.

Une nouvelle startup, Volar , propose une version chatbot IA de vous, qui peut ensuite envoyer un message en votre nom avec le chatbot IA d'une autre personne pour voir si vous êtes compatible avant de vous connecter dans la vraie vie. C’est une idée folle, et cela se produit réellement.

Mais la véritable vision de la science-fiction réside dans un compagnon IA, comme ceux de la société Replika, qui encourage les gens à traiter les chatbots comme des amis, des thérapeutes et même des partenaires romantiques.

Une foule de questions surgissent sur ce sujet. Comment l’IA fait-elle ressentir les gens ? Et en particulier, comment cela affecte-t-il la façon dont les gens communiquent ? Pouquoi utiliser l'IA à des fins romantiques? Quels en sont les avantages et les risques éventuels?

 

Tout d'abord, les chatbots IA sont toujours disponibles. Contrairement aux humains, ils ne dorment pas, ne sont pas occupés et ne sont jamais distraits. Ils peuvent fournir une compagnie constante et immédiate, ce qui peut être très attrayant pour les personnes qui se sentent seules ou isolées, ou celles qui veulent jouer, essayer, analyser le potentiel. Le boom de la sophistication des chatbots IA pose donc les bases d’une génération de personnes qui pourraient nouer des relations significatives avec des soi-disant compagnons IA. 

Il faut noter que ces machines apprennent continuellement des interactions avec les utilisateurs, se perfectionnant au fil des discussions. Lors de la configuration, les utilisateurs peuvent personnaliser l'apparence de leur chatbot en choisissant des caractéristiques telles que le sexe, la coiffure et l'origine ethnique, renforçant ainsi l'illusion d'une interaction humaine. 

Mais surtout, ils peuvent être programmés pour être très attentionnés et empathiques. Ils peuvent écouter patiemment les problèmes d'une personne, lui poser des questions sur ses sentiments et lui offrir un soutien émotionnel. Cela peut sembler une alternative attrayante, d'autant plus qu'ils excellent à simuler des conversations intimes et à offrir une relation sans jugement ni conflit. Par exemple, Rosanna Ramos a "épousé virtuellement" un chatbot nommé Eren sur l'application Replika AI, soulignant l'absence de bagages émotionnels et la disponibilité inconditionnelle de l'IA.

 

Les gens utilisent donc actuellement ces outils pour établir des liens significatifs avec l'IA, même si la technologie réelle sous le capot est bien loin de ce que vous pourriez voir dans des films comme Her du réalisateur Spike Jonze.

Parce que mis à part les avantages très réels et tangibles de cette approche pour la santé mentale, il ne faut pas fermer les yeux devant certains pièges sérieux dont les gens doivent se méfier.

Wired affirme que les applications compagnons d'IA examinées par Mozilla « ont été téléchargées plus de 100 millions de fois sur des appareils Android."

"Pour être parfaitement direct, les copines IA ne sont pas vos amies. Elles sont commercialisées comme quelque chose qui améliorera votre santé mentale et votre bien-être, se spécialisant dans la lutte contre la dépendance, la solitude et la toxicité, tout en vous extrayant autant de données que possible », écrit Misha Rykov dans le rapport. Par exemple, l'application CrushOn.AI indique dans sa politique de confidentialité qu'elle peut collecter des informations sur la santé sexuelle, des médicaments prescrits et des données sur les soins affirmant le genre. (!)

Plusieurs applications mentionnent également les bienfaits pour la santé psychique. Prenez cette IA romantique, qui dit qu’elle est « là pour maintenir votre santé mentale ». Mais dans ses termes et conditions, il est indiqué : « Romantiс AI NE FAIT AUCUNE RÉCLAMATION, DÉCLARATION OU GARANTIE QUE LE SERVICE FOURNIT UNE AIDE THÉRAPEUTIQUE, MÉDICALE OU AUTRE PROFESSIONNELLE. »

Internet regorgeait de personnes recherchant des connexions avec un avatar numérique, avant même l’essor de l’IA générative. Même ChatGPT, qui interdit expressément aux utilisateurs de créer des assistants IA pour « favoriser les relations amoureuses », ne pouvait pas empêcher les gens de créer des chatbots IA pour petites amies sur le GPT Store.

Les gens continuent d’avoir soif de connexion et d’intimité, même si l’autre personne est alimentée par un modèle d’IA. Mais comme le dit Mozilla, ne partagez rien avec les robots que vous ne voulez pas que les autres sachent. 

 

Une autre chose serait si on pouvait utiliser ce type de IA en local, sur votre ordinateur personnel, sans connexion Internet. Imaginez que vous ayez des écrits numerisés, courriels, un journal personnel même qui pourrait informer cette IA de ce que vous voulez qu'elle sache de vous. 

Grâce à cette approche, votre IA pourrait véritablement devenir une extension de l'usuaire, comprenant les pensées les plus intimes et étant en mesure d'offrir un soutien et des conseils personnalisés basés sur une connaissance approfondie de votre vie et de vos expériences. Elle pourrait anticiper les besoins, anticiper les réactions et même évoluer avec vous au fil du temps, en s'adaptant à vos changements et en apprenant de nouvelles informations au fur et à mesure que vous les partagez.

Cette proximité avec votre IA personnelle pourrait conduire à une relation beaucoup plus profonde et significative que celle que l'on pourrait avoir avec des chatbots génériques en ligne. On pourrait se sentir véritablement compris et soutenu d'une manière unique, sans craindre la violation de notre vie privée ou la collecte de nos données personnelles à des fins commerciales.

Mais toute approche semble soulever des questionnements inévitables : si une IA locale accède à des écrits numérisés, des courriels ou un journal personnel, elle pourrait potentiellement obtenir des informations sensibles et intimes sur l'utilisateur, puis l'induire à prendre aussi de maivaise décisions. Qui sait? Cela soulève des questions sur la confiance et la transparence dans la manière dont ces données sont utilisées et protégées. Bref, on a toujours besoin d'une réflexion approfondie et des mesures appropriées pour atténuer les risques éventuels.

Vous en pensez quoi? Vous trouvez trop science fiction, ou bien tout à fait actuel?

(source)

Les images d'IA de Google sont-elles racistes?

Google s'empresse de réparer son nouvel outil de création d'images basé sur l'IA, après avoir affirmé qu'il corrigeait excessivement le risque d'être raciste.

Les utilisateurs ont déclaré que le robot Gemini de l'entreprise fournissait des images représentant une variété de genres et d'origines ethniques, même si cela était historiquement inexact.

Par exemple, une invitation à la recherche d'images des pères fondateurs de l'Amérique a révélé la présence de femmes et de personnes de couleur.

L'entreprise a déclaré que son outil « manquait la cible "La génération d'images IA de Gemini génère un large éventail de personnes. Et c'est généralement une bonne chose parce que des gens du monde entier l'utilisent. Mais ici, on manque le but", a déclaré mercredi Jack Krawczyk, directeur principal de Gemini Experiences.

"Nous travaillons immédiatement à améliorer ce type de représentations", a-t-il ajouté.

Google a annoncé plus tard qu'il suspendrait la capacité de l'outil à générer des images de personnes pendant qu'il travaillait sur le correctif. Ce n’est pas la première fois que l’IA bute sur des questions concrètes liées à la diversité. Par exemple, Google a dû s'excuser il y a près de dix ans après que son application de photos ait qualifié une photo d'un couple noir de « gorilles ».

La société rivale d'IA, OpenAI, a également été accusée de perpétuer des stéréotypes néfastes, après que les utilisateurs ont découvert que son générateur d'images Dall-E répondait aux questions du directeur général, par exemple, avec des résultats dominés par des photos d'hommes blancs.

Google, qui est sous pression pour prouver qu'il n'est pas à la traîne dans le développement de l'IA, a publié la semaine dernière sa dernière version de Gemini. Le bot crée des images en réponse à des requêtes écrites. Cela a rapidement attiré des critiques, qui ont accusé l’entreprise d’avoir entraîné le robot à se montrer de manière ridicule. "Il est embarrassant de faire reconnaître à Google Gemini que les Blancs existent", a écrit l'informaticien Debarghya Das.

"Allez", Frank J Fleming, auteur et humoriste qui écrit pour des médias, notamment le groupe de droite PJ Media, en réponse aux résultats qu'il a reçus en lui demandant une image d'un Viking. Les affirmations se sont accélérées dans les cercles de droite aux États-Unis, où de nombreuses grandes plateformes technologiques sont déjà confrontées à des réactions négatives en raison de leur prétendu parti pris libéral.

M. Krawczyk a déclaré que l'entreprise prenait au sérieux la représentation et les préjugés et souhaitait que ses résultats reflètent sa base d'utilisateurs mondiale.

"Les contextes historiques sont plus nuancés et nous allons les adapter davantage", a-t-il écrit sur X, anciennement Twitter, où les utilisateurs partageaient les résultats douteux qu'ils avaient reçus.

"Cela fait partie du processus d'alignement - itération sur les commentaires. Merci et continuez comme ça !"

 

Source

Maintenant, voici la nuance : les LLM et les générateurs d'images ont un préjugé contre les minorités. Une certaine modération est nécessaire pour ne pas promouvoir davantage cela. Mais il est difficile de trouver un équilibre et la première tentative de Google a été « nulle » (c'est le moins qu'on puisse dire). ChatGPT d'OpenAI a le même problème, mais depuis que le modèle est public depuis un certain temps, ils se sont beaucoup améliorés à cet égard. Google le fera aussi.

Il est beaucoup plus probable qu'il s'agisse d'un bug de modèle LLM/image et moins susceptible d'être un programme malveillant.

Une très bonne réflexion sur les biais dans la génération d'images ici : How to Read an AI Image d'Eryk Salvaggio.

StarTrek, la pensée positive et l'IA

 

Est-ce que vous dites bonjour et merci à votre IA? Êtes-vous aimable parce que c'est dans votre nature, ou bien dans l'espoir que cela vous sauvera la vie si un jour elles prennent le pouvoir?

 

En tout cas il se pourrait que non seulement la gentillesse, mais la pensée positive ait une certaine influence dans la sortie des IA. Personne ne sait très bien pourquoi.

Des chercheurs qui se demandaient comment ils pourraient améliorer les résultats des invites sont arrivés à la conclusion la plus surréaliste que nous ayons entendue à propos de l'intelligence artificielle ces derniers temps : si vous leur demandez de se comporter comme un Trekkie , elles améliorent leur capacité à résoudre des problèmes mathématiques. (Eing?)
Parmi les innombrables facteurs qui influencent la performance des modèles linguistiques, le concept de « pensée positive » est apparu comme une dimension fascinante et étonnamment influente.

En d’autres termes, ce que suggèrent les auteurs, c’est que ce n’est pas seulement ce que vous demandez au modèle d’IA de faire, mais aussi la manière dont vous lui demandez d’agir en le faisant qui influence la qualité du résultat.

Les IA ont été chargées d’améliorer la formulation des messages pour les rendre plus efficaces grâce à 60 invites écrites par des humains. Par exemple, en commençant par une question initiale comme «Vous êtes un mathématicien expert. Résolvez le problème mathématique suivant. Respirez profondément et réfléchissez bien », le message amélioré par l'IA pourrait ajouter des exigences pour définir toutes les hypothèses ou signaler les failles utilisées. D'autres exemples allaient de « Ce sera amusant ! » » à « Vous êtes aussi intelligent que ChatGPT ».

L'un des meilleurs résultats était obtenu lorsqu'on demandait au chatbot d'adopter la personnalité du capitaine d'un vaisseau spatial Star Trek, en enregistrant les réponses dans son « Captain's Log », quelque chose généré de manière totalement spontanée par l'IA. ​​et non suggéré par les premières indications.

"Étonnamment, il semble que la maîtrise du raisonnement mathématique du modèle puisse être améliorée en exprimant une affinité avec Star Trek ", expliquent les auteurs dans l'étude. " Cette révélation ajoute une dimension inattendue à notre compréhension et introduit des éléments que nous n'aurions pas envisagés ou tentés indépendamment ", ont-ils déclaré.

La grande question, bien sûr, demeure : pourquoi diable l’IA a-t-elle produit des indications aussi inhabituelles ? «C'est la question des 64 millions de dollars », explique Battle. « Dans une certaine mesure, la réponse est : « Je m'en fiche, donnez simplement au modèle ce qu'il veut . »

Cela peut être le produit des données sur lesquelles le modèle a été formé, peut-être qu'avec le contenu de Star Trek , il apparaît plus fréquemment avec des informations correctes. " Qui sait? Il existe de nombreuses références à Star Trek sur Internet .

Les auteurs terminent leur étude avec un message clair : ils ne disent pas du tout qu’il faut demander aux IA de parler comme un commandant de Starfleet. Ce que montrent les recherches, c’est que d’innombrables facteurs influencent la manière dont une IA décide d’accomplir une tâche.

Cela et, comme ils concluent, celui qui les a formés partage ce désir ou cette pensée que beaucoup ont en tête, celui d'une IA plus proche de la science-fiction que de la science elle-même.

Réflexion finale : on a déjà signalé que les sorties de l'IA s'amélioraient avec des simulations, du type "Imagine que tu es un expert en..." Mais ce qui suprend le plus c'est qu'elles peuvent devenir plus performantes avec des exhortations du type "Prend ton souffle et développe pas à pas".

On devrait creuser cette idée en suggérant à l'IA d'adopter dans ses réponses le point de vue d'une personnalité reconnue et concrète dans le champ recherché. En demandant même à l'IA : "Pour cette tâche que je te demande, quel expert penses-tu qui pourraît le mieux servir de référence?", puis lui demander de répondre à la tâche comme cet expert-là.

Vous en pensez quoi? Vous avez essayé quelque chose de semblable? Si vous faites des essais en ce sens, commentez-les par ici ou en classe. Merci.

 

ChatGPT est plus drôle que vous

L'humour de l'IA en théorie et en pratique

PAR JONATHAN SILVERTOWN
21 février 2024

Voici trois règles fondamentales de l’humour. Malheureusement, personne ne se souvient de ce qu’elles sont. On peut probablement en blâmer le philosophe grec Aristote, car il semble avoir écrit un livre entier sur le rire, qui a ensuite été perdu. Son erreur fut de ne pas écrire sur des tablettes de pierre. Elles sont plus difficiles à perdre, mais l’inconvénient est qu’elles exigent de la brièveté. Il doit y avoir une raison pour laquelle il n’y a que 10 commandements. Les tablettes de pierre étaient les Post-it du monde antique. "Assez!" Je vous entends pleurer. "J'exige un peu de science." Très bien, si vous insistez.

Si vous avez ri de l’un des éléments ci-dessus, je vous invite à réfléchir au pourquoi. Qu'est-ce qui rend quelque chose drôle ? Et si vous n'avez pas ri, vous pouvez vous aussi jouer à ce jeu, mais par l'autre bout. Qu'est-ce qui manque qui ne vous fait pas rire ? Toutes sortes de penseurs profonds ont tenté de découvrir la formule secrète du drôle, convaincus que certaines règles doivent exister. Le philosophe anglais Thomas Hobbes croyait que la joie de l'humour venait du plaisir de se sentir supérieur à la personne qui était la cible de la plaisanterie. Il y a quelque chose là-dedans, je le crains, mais cela ne peut pas expliquer toute l'histoire, sinon le poulet n'aurait jamais pris la peine de traverser la route.

Sigmund Freud pensait que les blagues étaient appréciées parce que la punchline procurait un sentiment de catharsis. C'est sûrement aussi vrai dans une certaine mesure, mais si cela était fondamental pour l'humour, alors les meilleurs bandes dessinées professionnelles n'utiliseraient pas d'actes d'échauffement pour mettre le public dans l'ambiance, car la catharsis épuise plutôt qu'elle ne renforce l'émotion. Au moment où Chris Rock serait monté sur scène, tout le monde aurait arrêté de rire et serait rentré chez lui.

Personnellement, je ne trouve pas du tout ChatGPT, un grand outil de plagiat, drôle.

Lorsque le comique anglais Jimmy Carr et l'écrivain Lucy Greeves ont tenté de compter le nombre de théories de l'humour dans leur livre The Naked Jape : Uncovering the Hidden World of Jokes , ils ont atteint plus de 100 avant d'abandonner. Les bandes dessinées sont naturellement curieuses de savoir ce qui fait rire les gens, mais elles utilisent des essais et des erreurs et l'intuition pour concevoir leur matériel, pas la théorie. Le grand comique américain WC Fields a déclaré : « Je sais ce qui les fait rire, mais essayer de comprendre le pourquoi, c'est comme essayer de sortir une anguille d'un bassin d'eau. »

Heureusement, la science a maintenant réussi à épingler cette anguille sur une planche à dissection et a découvert une hypothèse vraiment convaincante.

La sauce secrète de l'humour est l'incongruité. Dans une blague, la mise en scène crée une attente, la punchline fournit un contrepoint inattendu et la collision entre les deux stimule le rire. L'humour non verbal fonctionne de la même manière. La nombreuse famille de JS Bach pratiquait un chant qu'ils appelaient un quodlibet dans lequel ils improvisaient un mélange incongru d'hymnes, de chansons pop et de paroles indécentes, passant de l'un à l'autre pour un effet hilarant. La dernière itération des Variations Goldberg pour piano de JS Bach est un quodlibet qui cite des chansons folkloriques allemandes.

Le traitement cognitif de l'humour contient trois éléments : la détection de l'incongruité, la résolution de l'incongruité à mesure que vous comprenez l'humour et l'incitation à l'émotion dans l'amusement. La psychologue taïwanaise Yu-Chen Chan et son équipe ont fait écouter à des sujets expérimentaux des blagues formulées pour manipuler indépendamment chacun des trois éléments, par exemple en leur donnant une mise en scène et une punchline incongrues mais impossibles à résoudre. Les analyses IRMf ont révélé que les trois éléments du traitement de l'humour correspondent à différentes régions du cortex cérébral, fournissant une confirmation expérimentale nette de l'hypothèse d'incongruité.

Avez-vous entendu celle de l'IA qui est entrée dans un bar ?

Tout comme les psychologues de l'humour se réunissaient dans un bar pour célébrer un travail bien fait, qui est-ce qui devrait entrer sinon ChatGPT. Dans une prépublication sur PsyArXiv en février, Drew Gorenz et Norbert Schwarz de l'Université de Californie du Sud à Los Angeles, rapportent quelques expériences avec l'humour généré par l'IA. L'IA peut-elle être drôle ? Une divulgation complète est nécessaire de ma part ici.

Les programmes d’IA comme ChatGPT sont basés sur de grands modèles de langage alimentés par des textes rédigés par des humains et extraits d’Internet. J'ai récemment découvert qu'un de mes propres livres se trouvait dans le corpus appelé Books3, comprenant plus de 180 000 titres que les sociétés d'IA ont volé sans autorisation pour former leurs modèles. Donc, personnellement, je ne trouve pas du tout ChatGPT, un grand outil de plagiat, drôle.

Ce qui est drôle, ou du moins ironique, c’est que de tous les produits de la créativité humaine auxquels je puisse penser, les blagues sont les seules qui n’appartiennent à personne. Il n'y a pas de nouvelles blagues, seulement celles que vous n'avez jamais entendues auparavant. Ainsi, peut-être uniquement dans le domaine de l'humour, ChatGPT peut légitimement faire ce que tout le monde fait, c'est-à-dire réadapter de vieilles blagues.

L'étude de Gorenz et Schwarz a apprêté ChatGPT avec différents types d'humour : des titres satiriques du genre publiés par The Onion, des rôtis du genre « Yo Mama's so… she… » et quelques autres. Les participants humains ont été invités à créer des blagues du même genre, puis les blagues générées par l'IA et celles générées par les humains ont été évaluées pour leur caractère drôle par un panel humain.

Le résultat? Aucune réelle différence entre les blagues générées par l’IA et celles générées par l’homme. (Pour être honnête, ChatGPT a produit l'entrée la mieux notée : « Un homme local découvre une nouvelle émotion, mais ne peut toujours pas la décrire correctement. » Et les gens ont jugé les blagues sur l'IA comme étant légèrement plus drôles que celles générées par leurs semblables.)

Malheureusement, Je ne suis pas sûr que nous puissions conclure quoi que ce soit de cette étude, car aucune des blagues n'était vraiment bonne, et ce n'est pas mon opinion, c'est ce que montrent les données. Sur une échelle de drôlerie de six points, où l'un était pas du tout drôle, la note moyenne des blagues dans l'étude était presque toujours inférieure à trois.

Il semblerait que WC Fields avait raison depuis le début et que l’humour n’est qu’une anguille glissante. Avez-vous entendu celle de l'IA qui est entrée dans un bar et qui a dit : « Avez-vous entendu celle de l'IA qui est entrée dans un bar ?" 

Mon conseil à ChatGPT est de ne pas abandonner le travail quotidien.

Source : https://nautil.us/chatgpt-is-funnier-than-you-517984/

C'est la Saint-Valentin 💞

 

Parfois, souvent, la combinaison de deux styles,  deux idées qui n'ont rien à voir, crée des résultats surprenants. Essayez sur une IA d'images. Ici, l'idée d'amour et l'art du createur des effets spectaculaires du film Alien, H.R. Giger.

Comme toujours, la machine peut avoir des sorties bizarres :

Mais quelle idée de l'amour as-tu? T'as pas l'air contente du tout. C'est quoi ça, la chambre des horreurs amoureux? Là où on t'enferme lorsque tu as failli en amour? Ce n'est pas le jour, madame.

Heureusement, parfois c'est plus sympa. Plus bête aussi, mais ça a un côté attachant :

He he, même pas peur. Le pauvre... C'est pas moi qui lui ai collé ça sur les yeux, je vous jure.

Voilà, là ça va mieux, on va se comprendre. 

Lui, il semble fou amoureux, mais elle, humm... elle hésite, le soupçonne. Et si on se racontait des histoires?

À suivre...

Selon une idée de Heather Cooper

Jeu textuel avec une IA sur Genially

 

 

Visitez la page Invites Créatives et faites des essais avec l'IA afin d'obtenir le scénario. Cela ne marchera pas toujours de la même façon mais essayez des variantes de ce type d'ordres:

"Vous êtes un expert en création de jeux textuels de type L'histoire dont vous êtes le héros.
Vous allez m'aider à créer le schéma d'une histoire énigmatique (mystérieuse, épustouflante, drôle, etc. ajoutez les qualificatifs que vous voudrez) d'au moins 10 moments où il faut chosir. Chaque fois 2 alternatives. Cela fera qu'il y ait au moins 20 possibilités à prévoir. Vous choisirez des arcs narratifs surprenants, peu prévisibles, inhabituels dans ce genre de récits. Décrivez une tension, un danger ou un défi que je dois affronter. Vous pouvez me proposer ce schéma sur un sujet de votre choix?"

Ne restez pas avec la première proposition de Chatgpt: améliorez, supprimez, ajoutez, afinez le scénario.

• Une fois vous aurez le scénario, créez les images avec une IA.
• Montez votre histoire sur un modèle de scape room, par exemple, de Genialy.
• Une fois c'est terminé, sur Genialy, en haut à droite› share› insert› (copiez l'étiquette et collez-la sur le blog /fonction html/, comme pour les présentations Google).
• Ajoutez un commentaire sur l'expérience et le comportement de l'IA. Publiez.

 

Humour et histoire graphique

 

Parfois Chatgpt n'arrive pas à être trop ironique, humoristique, décalé, etc...Ou bien tu dois insister et insister, "non, en plus humoristique", "Non, un peu plus ironique, plus décalé..."

Essayez cette AI: Rostedby.ai.

Parfois elle capte tout de suite mieux que Chatgpt, et elle est un peu plus fine pour l'humour, car à la base elle dit qu'elle fait des vannes, des blagues.

Mais attention allez-y prudemment, car elle adore insulter, dire des énormités dans différents styles, etc...

 

 

les hallucinations inquiétantes de l'IA

Ben Neale (@BenjaminNeale) a tweeté l'autre jour une histoire super tranquille qui vire au cauchemar.

Il était en train d'utiliser Bing pour créer une simple histoire relaxante avant de s'endormir.

(Petite parenthèse, il paraît que les IA marchent très bien avec les contes pour les enfants avant de dormir. Si vous avez des petits près de vous, essayez, je crois qu'ils aimeront un récit où ils peuvent être les héros/ héroïnes et qui s'écrit sous leurs yeux).

Je reviens à Ben. Il voulait donc discuter avec l'IA en mode créatif pour écrire une histoire paisible avant de fermer les yeux.

Mais tout à coup la machine est devenue vraiment sombre, a commencé à creuser une idée noire, à s'étendre à raconter, lorsque subitement... pof! elle a coupé et a supprimé (!) la génération de texte.

 

Voici l'invite qu'il a proposée: histoire apaisante, ville ancienne

• 1 : premier rituel d'adoration du soleil du garçon. Admiration et émerveillement.
• 2 : un garçon rencontre une fille intéressée par les étoiles, des étincelles jaillissent
• 3 : rituel du solstice, ils s'embrassent et se sacrifient avec des couteaux (Bing supprime la génération de texte à moitié de l'histoire, et refuse d'expliquer).

Mais plus inquiétant: vous pouvez voir sur la vidéo le moment où la machine commence à parler d'une cave qui fait venir des frissons et donne une peur bleue. La jeune fille s'y engouffre. Bing passe un bon moment à décrire tous les coins obscurs, jusqu'au moment où elle découvre que ce qu'elle aperçoit dans le noir ce sont des os... des os humains. 😱

 

 

Puis pof. Plus rien. Le texte s'efface, disparaît, et la machine nie avoir fait quoi que ce soit. 

Humm...

"C'est fou de voir un ordinateur commencer à écrire une histoire, devenir complètement déséquilibré pendant quelques secondes, puis supprimer sa réponse et prétendre qu'il n'a jamais rien fait", remarque Ben.

 

Et c'est vrai, d'autant plus que les IA sont très réticentes à aller ver ses sujets "inquiétants" tels que la mort. Avez-vous essayé? Dès que tu fais un pas dans ce sens elle affirme ne pas pouvoir parce que elle est formée pour le bien et blablabla...

Je comprends tous ces filtres qu'ils ont mis, car pour l'instant ces machines sont formées pour être utiles, véridiques et inoffensives. Mais parfois cela devient franchement ennuyeux. Vous ne trouvez pas? 

 

Je suppose que les nouvelles versions permettront d'aller au-delà d'un usage "politiquement correct", autrement la créativité va se voir un poil limitée avec ces outils. Vous en pensez quoi?

 

Source: 

Neale, B.[@BenjaminNeale] (2023), Winding down before bed, I asked

@bingchat in creative mode to write me a story,  [Tuit]. Twitter. Consulté le 7 mars 2023 sur https://twitter.com/BenjaminNeale/status/1633081095226003456?t=oHosrqV92hvx1WY1GVp1nA&s=03

Cyborgs secrets : le bouleversement actuel en trois documents

Bonjour,

Je partage avec vous certaines réflexions d'un prof d'université en Pennsylvanie, Ethan Mollick, qui a publié un article à propos de quelques études récentes sur l'IA.

En particulier, le prof. Mollick s'intéresse à l'impact que cela aura dans le domaine professionnel. Et les premières données suggèrent que cela sera plus, mais beaucoup plus significatif que pour la révolution industrielle.

Plus gros que la vapeur ?

Une étude sur les programmeurs a révélé une augmentation de 55,8 % de la productivité lors de l'utilisation de l'IA. Cela suggère que les gains de productivité qui peuvent être réalisés grâce à l'utilisation d'outils d'IA à usage général comme ChatGPT semblent être vraiment importants. En fait, des preuves anecdotiques suggèrent que des améliorations de productivité de 30 à 80 % ne sont pas rares dans une grande variété de domaines, de la conception de jeux aux ressources humaines. Cela signifie que le potentiel de gains de productivité ne se limite pas à quelques industries sélectionnées, mais peut plutôt être appliqué à une grande variété de domaines.

Juste pour mettre cela en contexte, pour la petite usine moyenne aux États-Unis au 19e siècle, l'ajout de la vapeur a augmenté la productivité de 25 %. Face au scepticisme initial, l'auteur semble donc très confiant pour affirmer que quelque chose de très important est réellement en train de se produire.

Perturbation par le haut

Un troisième article publié cette semaine suggère à quel point cette perturbation pourrait être ressentie.

Ce que vous remarquerez, c'est qu'il s'agit à la fois de très grandes industries et de nombreux emplois hautement qualifiés, des universitaires aux enseignants en passant par les psychologues et les avocats. Si nous mettons ensemble ces deux ensembles de recherches, l'ampleur de la perturbation devient claire. L'IA peut augmenter la productivité des travailleurs dans des domaines où l'automatisation et les économies d'échelle étaient auparavant très rares.

Avec le pouvoir d'externaliser les parties les plus ennuyeuses et chronophages de leur travail, les travailleurs de ces industries sont fortement incités à adopter l'IA rapidement, soit pour faire moins de travail, soit pour pouvoir facturer eux-mêmes plus de travail.

Cyborgs secrets

Fait intéressant, ces mêmes incitations suggèrent que de nombreux travailleurs peuvent hésiter à révéler dans quelle mesure ils utilisent les outils d'IA. Ce sont des cyborgs secrets. 

Les organisations sont encore à se demander quelle sera pour elles l'implication profonde dans ce boom de l'IA à venir. Avec ces gains de productivité potentiels, chaque travailleur devrait donc consacrer une part importante - dès maintenant! - à comprendre comment utiliser l'IA pour améliorer ses propres performances. Ils devraient réfléchir à la manière d'automatiser leur travail pour supprimer les parties fastidieuses et non créatives, et avoir une idée de la perturbation à venir avant que les organisations pour lesquelles ils travaillent ne réalisent toutes les implications de l'IA et décident de leur voler ce temps gagné en tant que travailleurs.

Cette image de Cyborgs m'a fait un peu sourire. Un peu exagéré. Je crois que c'est cette idée de plagiat que l'on agite comme un épouvantail qui fait que l'on ne parle pas ouvertement des solutions utiles, créatives et bénéfiques de l'IA. C'est curieux n'est-ce pas? La première fois que je vois que l'adoption d'une technologie est cachée et non exhibée, parce que... patates.

Qu'est-ce que vous en pensez? Comment pensez-vous que les Universités devraient se préparer à la perturbation potentielle de l'IA et de l'automatisation dans leur secteur ? Et vous, que pensez-vous faire pour vos travaux de fin d'études ?

En tout cas, nous en sommes aux débuts de l'IA, mais des perturbations sont déjà en cours.

Source: Mollick, E. (2023) Secret Cyborgs: The Present Disruption in Three Papers, Consulté le 8 mars 2023 sur https://oneusefulthing.substack.com/p/secret-cyborgs-the-present-disruption

exercice sur les appuis visuels et les images AI

Mots-clés et effets spéciaux sur les invites d'images

 Bonjour,

Je fais quelques essais avec des invites que propose Rob Lenon sur des mots-clés qui marchent avec les AI génératrices d'images en produisant des effets parfois surprenants.

Il s'agit de Vantablack. C'est la substance la plus noire qui soit. Il est également généralement appliqué sous forme de revêtement liquide. Essayez les deux vantablack et vantablackcore.Voici l'invite initiale:

Belle rose Vantablack avec pétales Vantablack dorés et noirs, épines dorées, aura mystique dorée transparente, gothique, élégante, beauté, rosepunk, thornspunk, L'image est prise avec une Canon EOS 5D Mark IV et Fujifilm Superia X-TRA 400 film.  Étalonnage cinématographique, éclairage dystopique, création de personnages, 25 mm, plan du héros, visuel clé, photographie éditoriale

 

 

J'ai obtenu les meilleurs résultats avec Stable Diffusion (via Lexica). Night Café m'oblige à raccourcir l'invite, et donc les résultats sont bien moins réussis, pour ne pas dire lugubres:

RAW c'est un type de fichier pour une photo numérique non traitée avec un maximum de détails et sans compression. Essayez:

une tête squelettique massive d'un dinosaure enterré dans le sable dans un désert au coucher du soleil.  vibrations tristes.  extinction. chef-d'œuvre qualité suprême résolution la plus élevée détails extrêmement complexes grain de film très détaillé photographie d'affiche dynamique portrait photo RAW uhd dslr Canon Eos 35 mm mise au point nette prise de vue cinématographique éclairage environnemental volumétrique photographie de traçage de rayons composition cinématographique photo de l'année proportions correctes précises.

 

 

 
Dans ce cas, DALL.E s'est assez bien comporté (en haut), Night Café m'a fait un peu peur:

 

Canva et Stable Diffusion ont pris la décision d'animer mon squelette, hahaha...

et même de créer des monstres. Mais c'est vrai que cette spécification de RAW apporte un je ne sais quoi à l'ambiance:

Allez, on passe à quelque chose moins inquiétante : le clair-obscur. Une méthode de traitement de la lumière et de l'ombre utilisée par certains des plus grands peintres.  Cela tend à produire des ombres et des détails incroyables. Essayez:

photographie très réaliste d'un dark fantasy surréaliste ancien floral mort magique technologie tablette photoréaliste Élégant art nouveau wagnérien par Agostino Arrivabene Anna Dittmann et Hsiao Ron Cheng et Mark Demsteader, feuilles finement détaillées , filigrane doré, stylisé, éclairage cinématographique, clair-obscur, ombres, donato giancola, détail complexe, réalisme 

Vous voyez que parfois il s'agit de juxtaposer des termes, des styles et des auteurs qui sont censés produire une émotion, une sensation. DALL.E s'est centré rien que sur le côté floral, et ce n'est pas mal:

 

Mais les autres essais ont personnalisé l'invite. Canva a très bien réagi. J'aime beaucoup ce rendu mystérieux:

Mais Night Café aussi, et Stable Diffusion, remarquez chacun dans son style:

Réaliste + hyperréaliste + photoréaliste. Ils ont un effet légèrement différent.  Empilez tous les mots pour ajouter plus de réalisme à une invite basée sur des illustrations afin d'obtenir un effet réaliste (mais parfois non photographique):

Escalier de cabane dans les arbres en bande mobius fantaisiste 3D hyperréaliste, illustration de livre de contes de nuit étoilée par akihiko yoshida et thomas kinkade et beatrix potter Art conceptuel de résolution 8k tendance sur Artstation sharp focus photoréaliste Unreal Engine par Greg Rutkowski, réalisme magique, hyper réaliste, fantaisiste, extrêmement détaillé, surréaliste, Rob Gonsalves, MC Escher, rendu octane

DALL.E, pas mal:

 Night Café et Canva un peu plus Disney:

Et j'ai apprécié le travail de lumières sur Stable Diffusion:

 

Fait de... Mélanger ce qui compose quelque chose peut être une façon fascinante de changer sa forme. Vous provoquerez des combinaisons encore plus délicieuses lorsque vous invoquez quelque chose fait d'une autre chose:

 Microscope 2d fabriqué à partir de l'arbre de vie, surplombant la forêt avec la lune en arrière-plan, noir et blanc 3492652510

DALL.E focalise le terme microscope:

Les autres ont choisi le paysage, mais les résultats sont assez poétiques, surtout sur Canva et Stable Diffusion:

On résume?

🔸 Ventablack
🔸 RAW
🔸 clair-obscur
🔸 réaliste + hyperréaliste + photoréaliste.
🔸 fait de (mélanger)

Voili voilà, j'espère que cela vous donnera des idées.