StarTrek, la pensée positive et l'IA

 

Est-ce que vous dites bonjour et merci à votre IA? Êtes-vous aimable parce que c'est dans votre nature, ou bien dans l'espoir que cela vous sauvera la vie si un jour elles prennent le pouvoir?

 

En tout cas il se pourrait que non seulement la gentillesse, mais la pensée positive ait une certaine influence dans la sortie des IA. Personne ne sait très bien pourquoi.

Des chercheurs qui se demandaient comment ils pourraient améliorer les résultats des invites sont arrivés à la conclusion la plus surréaliste que nous ayons entendue à propos de l'intelligence artificielle ces derniers temps : si vous leur demandez de se comporter comme un Trekkie , elles améliorent leur capacité à résoudre des problèmes mathématiques. (Eing?)
Parmi les innombrables facteurs qui influencent la performance des modèles linguistiques, le concept de « pensée positive » est apparu comme une dimension fascinante et étonnamment influente.

En d’autres termes, ce que suggèrent les auteurs, c’est que ce n’est pas seulement ce que vous demandez au modèle d’IA de faire, mais aussi la manière dont vous lui demandez d’agir en le faisant qui influence la qualité du résultat.

Les IA ont été chargées d’améliorer la formulation des messages pour les rendre plus efficaces grâce à 60 invites écrites par des humains. Par exemple, en commençant par une question initiale comme «Vous êtes un mathématicien expert. Résolvez le problème mathématique suivant. Respirez profondément et réfléchissez bien », le message amélioré par l'IA pourrait ajouter des exigences pour définir toutes les hypothèses ou signaler les failles utilisées. D'autres exemples allaient de « Ce sera amusant ! » » à « Vous êtes aussi intelligent que ChatGPT ».

L'un des meilleurs résultats était obtenu lorsqu'on demandait au chatbot d'adopter la personnalité du capitaine d'un vaisseau spatial Star Trek, en enregistrant les réponses dans son « Captain's Log », quelque chose généré de manière totalement spontanée par l'IA. ​​et non suggéré par les premières indications.

"Étonnamment, il semble que la maîtrise du raisonnement mathématique du modèle puisse être améliorée en exprimant une affinité avec Star Trek ", expliquent les auteurs dans l'étude. " Cette révélation ajoute une dimension inattendue à notre compréhension et introduit des éléments que nous n'aurions pas envisagés ou tentés indépendamment ", ont-ils déclaré.

La grande question, bien sûr, demeure : pourquoi diable l’IA a-t-elle produit des indications aussi inhabituelles ? «C'est la question des 64 millions de dollars », explique Battle. « Dans une certaine mesure, la réponse est : « Je m'en fiche, donnez simplement au modèle ce qu'il veut . »

Cela peut être le produit des données sur lesquelles le modèle a été formé, peut-être qu'avec le contenu de Star Trek , il apparaît plus fréquemment avec des informations correctes. " Qui sait? Il existe de nombreuses références à Star Trek sur Internet .

Les auteurs terminent leur étude avec un message clair : ils ne disent pas du tout qu’il faut demander aux IA de parler comme un commandant de Starfleet. Ce que montrent les recherches, c’est que d’innombrables facteurs influencent la manière dont une IA décide d’accomplir une tâche.

Cela et, comme ils concluent, celui qui les a formés partage ce désir ou cette pensée que beaucoup ont en tête, celui d'une IA plus proche de la science-fiction que de la science elle-même.

Réflexion finale : on a déjà signalé que les sorties de l'IA s'amélioraient avec des simulations, du type "Imagine que tu es un expert en..." Mais ce qui suprend le plus c'est qu'elles peuvent devenir plus performantes avec des exhortations du type "Prend ton souffle et développe pas à pas".

On devrait creuser cette idée en suggérant à l'IA d'adopter dans ses réponses le point de vue d'une personnalité reconnue et concrète dans le champ recherché. En demandant même à l'IA : "Pour cette tâche que je te demande, quel expert penses-tu qui pourraît le mieux servir de référence?", puis lui demander de répondre à la tâche comme cet expert-là.

Vous en pensez quoi? Vous avez essayé quelque chose de semblable? Si vous faites des essais en ce sens, commentez-les par ici ou en classe. Merci.