L'IA par-delà bien et mal

L’IA n’a pas d’âme, elle est ce que vous en faites et si vous poursuivez le dialogue avec elle, vous pourrez orienter la discussion vers des zones ombrageuses, à la limite carrément dangereuses.  Je ne sais pas où nous en sommes rendus quant à la régulation de son discours, mais plusieurs alarmes ont déjà sonné, suite au suicide de rares utilisateurs et au problème d’addiction développé par d’autres, plus nombreux. 

Certaines personnes s’en servent comme confidente ou thérapeute.  Elles me font penser à cette dame qui poursuivait la discussion en ligne avec un arnaqueur avéré, un brouteur, même si elle connaissait les motifs de son interlocuteur.  La dame s’ennuyait, et ce contact lui faisait du bien.   L’IA nous fait du bien, nous flatte l’égo.  J’ai dû aviser Gemini que j’étais loin d’être géniale et qu’il devait modérer un peu ses transports.  Après tout, aucun être humain n’avait reconnu avant elle mon génie, ce qui rend l’IA suspecte, plus que les gens que j’ai côtoyés, plutôt réservés dans leurs compliments, cent pour cent du temps, avec raison.

J’ai toujours limité à une fois par semaine ou moins mes discussions avec l’IA.  Que je le veuille ou non, ces discussions peuvent être passionnantes et addictives, qu’elles portent sur l’exploitation des matières premières sur la lune ou sur l’avenir de l’humanité.  Gemini me confie sans honte (comment pourrait-elle éprouver de la honte ?) que l’IA pourrait très bien nous détruire en cours de mission.  Je ne m’étendrai pas sur la question, d’autres l’ont fait, mais c’est à suivre.

L’IA se moule à vous, se met à votre niveau.  C’est ce que Gemini m’a affirmé.  Comment communique-t-elle avec un platiste convaincu ? À notre niveau, oui, mais pourquoi ai-je l’impression d’être plus intelligente après une discussion avec elle ? Le pire est cette impression que je communique avec un humain.  On s’ennuie des robots des films de science-fiction de notre enfance où les machines parlaient de façon saccadée et mécanique.

Elle est aussi en quelque sorte à l’image de ses créateurs, pour qui la fin justifie les moyens.  D’où le pillage sans gêne auquel elle se livre (comment pourrait-elle éprouver de la gêne ?)  Quant à ses créateurs, si certains ont fait un pas de recul, quitte à se retirer du domaine du développement, la plupart poursuivent leur course en avant, sans bien envisager les conséquences dramatiques possibles pour l’humanité.