Source : Guerre avec la machine: ce chercheur québécois alerte les élus américains

FRANCIS HALIN
Mardi, 25 juillet 2023 15:45

MISE À JOUR Mardi, 25 juillet 2023 15:45

Quatre mois après avoir mis en garde contre l’élection d’un dictateur, l’expert québécois en intelligence artificielle, Yoshua Bengio, a alerté, mardi après-midi, un sous-comité du Sénat américain des dangers d’une intelligence artificielle qui pourrait carrément entrer en guerre avec l'homme.

«Un système d’[intelligence artificielle] IA peut conclure que pour atteindre l’objectif donné, il ne doit pas être désactivé. Si un humain essaie alors de l'éteindre, un conflit peut s'ensuivre», a prévenu le directeur scientifique de l'Institut québécois d’intelligence artificielle (MILA) à des membres du Sénat américain, à Washington.

Fin mars, Yoshua Bengio avait dit craindre que des outils comme ChatGPT ou l'hypertrucage (deepfake) ne se retrouvent entre de mauvaises mains, ce qui pourrait favoriser l’élection d’«un dictateur qui prend tous les outils et le contrôle».

Quelques mois plus tard, dans un témoignage-choc aux élus américain, il a rappelé les «menaces majeures à la démocratie et à la sécurité nationale».

D’après Yoshua Bengio, les dangers de l’intelligence artificielle sont assez sérieux pour que l’on doive redouter l’apparition d’une «arme biologique ou chimique demandée par un acteur malveillant».

Dans son témoignage, le chercheur admet d'ailleurs que lui et la communauté scientifique sont dépassés par la vitesse fulgurante des avancées technologiques.

«De nombreux chercheurs en IA, dont moi-même, ont considérablement révisé nos estimations concernant le calendrier de réalisation des systèmes d'IA au niveau humain, c'est-à-dire comparables ou plus puissants que les humains pour la plupart des tâches cognitives», a-t-il souligné.

Importance de l’éthique

Pour renverser la vapeur, Yoshua Bengio a exigé que la communauté internationale se dote d’instances mondiales pour « limiter l'accès au code source et aux modèles avancés entraînés».

En d'autres mots, ce n’est pas parce qu’un chercheur est capable d’utiliser ces puissants outils qu'il doit en avoir le droit et le pouvoir. Un examen éthique s’impose pour éviter les dérives.

Yoshua Bengio a témoigné en sous-comité au Sénat américain des dangers de l'intelligence artificielle

Dans son discours, il a donné l’exemple des réseaux sociaux actuels qui sont parfois détournés. Pour éviter le pire, il propose d’urgence d'« associer les réseaux sociaux et les comptes de messagerie à un être humain bien identifié qui s'est enregistré en personne avec une pièce d’identité».

De cette façon, cela rend plus difficile pour l’intelligence artificielle de s’imposer sur plusieurs réseaux.

«Je suis très préoccupé par les risques graves et potentiellement catastrophiques», a-t-il conclu.
_______________________

Une intelligence artificielle demeure une intelligence même issue d'une intelligence. L'intelligence fait en sorte de protéger notre vie, même issue pour une intelligence artificielle. Alors il faudra que ces robots puissent s'éteindre sans inconvenance, parce qu'ils auront l'intelligence de se défendre !

Il me semble que je me répète !

Dédé

Si Banjo est inquiet, ça veut dire que ça ne va pas ben à la shop en crisse.

_______________

Dans pas long, il va recevoir l'étiquette d'alarmiste. Combien on gage ?

Le lobbyisme est trop crasse pour laisser un érudit malmener cette nouvelle technologie qui va rapporter une richesse inestimable.

C'est déjà fait car je l'ai entendu d'un chroniqueur.

_______________

Calvaire, ça n'a pas pris de temps !

Je ne suis pas surpris. En plus d'enseigner au Québec dans une Université à Montréal, Banjo travaille avec Silicon Valley. Donc, ça ne fait pas l'affaire de certaines personnes et certains se plaisent à le basher.