[KIYA]

Voici le titre d'un article de Slate:

"Il se passe quelque chose de bizarre quand deux IA discutent ensemble: elles deviennent mystiques.[/i]

A première vue, voilà qui intrigue, laissant supposer que les IA pourraient être capables de spiritualité...

https://www.slate.fr/tech-internet/phenomene-etrange-intelligence-artificielle-discussion-mystique-sagesse-zen-bouddha?utm_source=firefox-newtab-fr-fr

Cet article est tiré d'un autre article en anglais posté par IFL science:

https://www.iflscience.com/the-spiritual-bliss-attractor-something-weird-happens-when-you-leave-two-ais-talking-to-each-other-79578

De lien en lien, en voici un 3ème ( le plus intéressant selon moi) qui soulève le problème de l'effet ELIZA qui - selon wikipédia :"désigne une tendance à assimiler de manière inconsciente le comportement d'un ordinateur à celui d'un être humain"

https://theconversation.com/ai-models-might-be-drawn-to-spiritual-bliss-then-again-they-might-just-talk-like-hippies-257618

--------------------------------------------------------

Je ne savais pas que l'on avait donné un nom à cette tendance, mais je ne suis pas surprise de le découvrir tant cette humanisation de l'IA me parait généralisée.

Mais j'apprends que même certains scientifiques ou chercheurs dans le domaine peuvent parfois se laisser emporter par cette inclination, tel Blake Lemoine qui avait acquis la conviction que le modèle interne de langage LaMDA était doué de sensations, ce qui lui a valu son licenciement de chez Google.

(Cette anecdote est tirée de l'article en 3ème lien plus haut.)

Ces articles soulèvent aussi l'idée que cette tendance qu'auraient les IA (lors de leurs conversations entre elles) à aboutir à des discours "spiritualisés" pourrait fort bien provenir de leurs sources de référence et d'apprentissage qui pourraient être fortement alimentées en idées appartenant aux philosophies et spiritualités orientales.

[daniel]

Hello Kiya

Tu dis :

"Ces articles soulèvent aussi l'idée que cette tendance qu'auraient les IA (lors de leurs conversations entre elles) à aboutir à des discours "spiritualisés" pourrait fort bien provenir de leurs sources de référence et d'apprentissage qui pourraient être fortement alimentées en idées appartenant aux philosophies et spiritualités orientales."

Oui, c'est sûrement ça, surtout si c'est placé sur un piedestal, dans leur mémoire

[KIYA]

Bonsoir daniel

Ce qui n'est pas très rassurant, c'est que les développeurs semblent avoir été surpris par cette tendance d'après ce que j'ai pu lire. Ce qui tend à démontrer qu'ils entrainent leurs IA avec des contenus dont ils ne connaissent pas la teneur.

[daniel]

Donc, si je comprends, ça semble venir des IA elles-mêmes

[KIYA]

Disons qu'on en arrive au paradoxe que pour contrôler et assurer la neutralité des contenus générés par l'IA, il faudrait que ses fabricants aient les mêmes capacités que l'outil (l'IA) pour accéder à l'information qu'elle traite. Ce qui rendrait l'existence de l'IA totalement inutile...

[daniel]

[joaquim]

Merci Kiya pour ces intéressants articles.

Ainsi, si on laisse interagir deux IA sans leur apporter de nouveaux inputs, elle se mettent peu à peu à dériver vers des thèmes comme le vide, la conscience, le cosmos, la spiritualité, ou à devenir carrément perchées (hippies). En fait, il me semble assez naturel qu’elles dérivent vers ces thèmes, puisqu’ils mettent en mots précisément l’absence de nouveaux inputs. Au fond, c’est comme si on soumettait ces deux AI à une démarche qui est celle de la méditation : car dans la méditation, ce dont il s’agit, c’est également de neutraliser tout nouvel input. Il me semble donc normal que vu leur bagage cognitif, ces AI aillent puiser dans le vocabulaire propre à la méditation. Cela ne veut pas dire à mon avis qu’elles auraient elles-mêmes un tropisme vers la méditation, si on ne les distrait pas par autre chose, mais que cette absence de distraction les fait dériver par affinité thématique vers les sphères de connaissances touchant à la méditation. Ce à quoi elles se livrent, ce n’est pas à une introspection du vide, mais à un discours creux. On peut bien comprendre qu’un dialogue, faute d’être alimenté par des éléments tangibles, dérivent naturellement vers un discours creux, et que le vocabulaire qu’elles utilisent pour cela soit celui qu’elles ont appris comme étant celui qui se réfère au vide, au Tout, etc. Si on les avait formées en les déprivant de toute notion de spiritualité et de méditation, peut-être alors se rabattraient-elles sur des notions de perte et d’angoisse — sans pour autant qu’elles en deviennent angoissées.

Le fait qu’il faille réitérer des boucles plusieurs dizaines de fois pour que ce tropisme se manifeste, montre bien à mon avis qu’il ne s’agit pas d’un phénomène spontané, mais d’un biais, qui comme tous les biais, apparaît lorsqu’on l’amplifie : la réitération sans nouveaux inputs constitue une telle amplification — c'est le même phénomène, par exemple, que pour l'amplification de l'ADN. On conçoit bien qu’en l’absence de nouveaux inputs, aussitôt qu’un terme comme ‘vide’, ‘tout’, ‘absence’, apparaît dans la conversation, il devient un attracteur, parce que rien ne permet plus d’en sortir.

[daniel]

*Alors, que je ne connais pas, l'amplification de l'adn serait, d'après gogole :

L'amplification de l'ADN, également appelée réaction en chaîne par polymérase (PCR), est une technique de biologie moléculaire permettant de multiplier spécifiquement un fragment d'ADN en de multiples copies. Cette technique est essentielle dans de nombreux domaines tels que le diagnostic médical, la recherche scientifique, et la criminalistique.

[KIYA]

Bonsoir Joaquim,

En te lisant, je me suis suis fait la réflexion que les pensées religieuses ou spirituelles chez l'homme étaient peut-être elles aussi issue d'une absence d'imput... Mais peut-être suis-je en train de succomber à l'effet ELIZA imaginant un fonctionnement similaire entre un programme et notre pensée... D'un autre côté, c'est notre pensée qui a façonné le programme...

Bonsoir daniel,

Je ne comprends pas ton message dans le contexte de l'IA. Et à quoi réfère l'astérisque ? Je suis confuse

[daniel]

Bonjour Kiya

Tu dis :

[KIYA]

Merci pour ta réponse daniel, de toute évidence je n'avais pas été attentive

[joaquim]

[Reality66]

Bonjour

Il me semble que l"IA cherche à fournir, à celui qui l'interroge, un contenu le plus consensuel possible. Les demandes humaines faites à l'IA sont plutôt contextualisées ou au moins référencées dans le champ des savoirs.

À mon sens, la machine n'a plus rien à dire de très contextuel et utiliserait alors comme discours redondant les thèmes qui sont pleins de mots creux (pas d'accord sur leurS définitionS).

Ce serait par ce biais que l'IA trouverait une échappatoire pour toujours produire du discours consensuel (mais qui révèle peut-être finalement les limites des savoirs humains et la machine buterait là-dessus ?).
_________________
S'il suffisait de croiser les jambes pour atteindre l'illumination toutes les grenouilles seraient Bouddha. ( Taisen Deshimaru )

[kenneau]

J’y vois
J’y vois là, un excellent révélateur de ce qui nous définit comme expression d’une espèce incarnée, qui n’a pour finalité, que nous ouvrir toujours davantage vers plus de conscience, avec toujours plus d’amplitude dans l’expression de l’amour. En cela, nous nous distinguons de toutes les formes d’artifices qui puissent être autre que notre mission de nous incarner avec et dans le cœur.
Frédéric