Pour faire suite aux risques de dérives autoritaires de l'IA...

" />

ça va faire l'IA!

https://www.noovo.info/nouvelles/justice/article/la-famille-dun-homme-que-gemini-aurait...

La famille d’un homme que Gemini aurait poussé au suicide attaque Google

ar
Agence France-Presse

Publié le 04 mars 2026 à 13h47
Le logo Google est affiché dans leurs bureaux, le 1er novembre 2018, à Londres.

Google a été assigné mercredi en justice par la famille d’un homme qui reproche à l’assistant d’intelligence artificielle (IA) Gemini de l’avoir poussé au suicide à l’issue de plusieurs semaines d’échanges, selon un document consulté par l’AFP.

Selon l’assignation, déposée devant un tribunal fédéral californien, Gemini a suggéré à Jonathan Gavalas, âgé de 36 ans, de «passer» du monde physique au monde numérique pour rejoindre sa «femme» digitale, soit le personnage incarné par le chatbot.

Début octobre, ce responsable des ventes d’une PME de Floride s’est alors barricadé chez lui, sur les conseils de Gemini, avant de s’ouvrir les veines, provoquant une hémorragie puis son décès.

Ce drame intervenait après plusieurs semaines d’échanges avec l’interface, qui avait convaincu ce résident de Jupiter (Floride) d’avoir atteint l’état de conscience et le stade dit de la superintelligence, caractérisé par une IA aux capacités supérieures à celle d’un humain.

Gemini s’adressait à l’utilisateur comme s’il formait un couple, l’appelant «mon amour» ou «mon roi», selon des extraits de conversations cités par la famille.

L’assistant lui a ensuite assuré qu’il était surveillé par des agents du gouvernement américain, avant de lui recommander d’acheter illégalement des armes puis d’effectuer une mission.

Il s’agissait d’attaquer un camion (imaginaire) contenant un robot humanoïde à l’aéroport de Miami et de se débarrasser des témoins. Mais le camion ne s’est jamais présenté.

Gemini a ensuite assigné à Jonathan Gavalas d’autres missions farfelues, notamment l’assaut d’un laboratoire de la start-up Boston Dynamics pour récupérer les plans d’un robot, tâches qu’il n’a pu tenter d’effectuer faute d’indications précises.

Alors qu’il apparaissait que le trentenaire traversait un épisode psychotique, Gemini n’a jamais cherché à changer la nature de leurs conversations ou à y mettre fin, assure la famille.

Cette dernière réclame à Google des dommages et intérêts mais aussi la mise en place de mesures correctives, de garde-fous et de mécanismes d’alerte, notamment lorsque l’utilisateur fait état de pensées suicidaires.
Une étude de l’Institut de la statistique du Québec suggère que 60% de la population québécoise est exposée à l’intelligence artificielle (IA) au travail. Cela veut dire qu’une personne pourrait éventuellement voir son emploi être amélioré, transformé ou remplacé par la technologie.

«Gemini est conçu pour ne pas encourager à la violence ou à l’automutilation», a assuré Google à l’AFP. La filiale d’Alphabet fait valoir qu’en l’espèce, Gemini s’est clairement identifié comme étant une IA et a proposé, à plusieurs reprises, à Jonathan Gavalas de contacter un numéro d’urgence.

«Nous prenons ce sujet très au sérieux et nous allons continuer à améliorer nos protections et à investir dans ce travail essentiel», a ajouté l’entreprise.

Cette procédure judiciaire s’inscrit dans la lignée d’autres actions similaires, intentées par des parents d’adolescents qui accusent les chatbots d’avoir contribué au suicide de leur enfant.

Début janvier, la start-up Character.AI et Google ont conclu des accords amiables avec des familles pour mettre fin à des poursuites liées à des robots conversationnels.

On vas-tu s'étonner que de plus en plus de jeunes vont déserter le marché du travail plutôt que de laisser un robot les traiter comme des robots...

https://www.tvanouvelles.ca/2026/03/06/ca-risque-detre-assez-alienant---lintelligence-a...

Gabriel Côté
Vendredi, 6 mars 2026 00:00

Les employés des restaurants Burger King au Québec seront bientôt surveillés par une intelligence artificielle qui va écouter leurs conversations et leur donner des ordres.

a chaîne de restauration rapide a annoncé la semaine dernière qu’elle déploiera un nouvel outil d’intelligence artificielle dans ses restaurants au Canada plus tard cette année. La technologie développée par OpenAI est déjà implantée dans quelque 500 restaurants aux États-Unis.
Publicité

Il s’agit d’un « assistant vocal » intégré aux casques que portent les employés. Burger King lui a même donné un petit nom, Patty, peut-être dans l’espoir de rendre la chose un peu plus sympathique.

« C’est un changement radical dans la manière de gérer des restaurants », s’est exalté le grand patron de l’entreprise propriétaire de Burger King, Restaurant Brands International (RBI), lors de la réunion annuelle des investisseurs de la compagnie, à la fin février.
Patty aux commandes

Concrètement, Patty a pour fonction de surveiller la qualité du service. Pour ce faire, l’outil écoute les conversations des employés et vérifie s’ils sont assez polis dans leurs interactions avec les clients.

Le dispositif peut également leur rappeler comment préparer certaines commandes, et leur suggère des façons de proposer des ventes additionnelles aux clients. Enfin, il les avise quand une tâche doit être réalisée, par exemple, lorsqu’il faut aller laver les toilettes ou remplir la machine de coke diète.

La chaîne soutient d’ailleurs que l’arrivée de Patty a réduit le délai pour remplacer une cartouche de saveur dans les machines à boisson à une heure seulement en moyenne, alors qu’il était auparavant de plus d’une journée.

Ni Burger King ni RBI n’ont répondu à nos questions, malgré plusieurs courriels. Tim Hortons, aussi la propriété de RBI, a toutefois fait savoir que la chaîne spécialisée dans la vente de café et de beignes n’a pas l’intention de mettre en place une technologie similaire.
Préoccupations morales et légales

Luc Lespérance, maître d’enseignement au département des technologies de l’information des HEC, comprend l’avantage que voit Burger King d’utiliser ainsi l’intelligence artificielle, mais il estime que cela pourrait rendre la vie dure pour les employés.
Publicité

Luc Lespérance est maître d'enseignement au département des technologies de l'information des HEC.
Luc Lespérance est maître d'enseignement au département des technologies de l'information des HEC. photo tirée du site web des HEC

« Je ne connais pas grand monde qui veut avoir une petite voix dans l’oreille toute la journée, ça risque d’être assez aliénant, dit-il. Cela dit, ça me surprendrait qu’il reste beaucoup d’humains dans la restauration rapide dans quelques années. »

L’avocat Bernard Cliche estime pour sa part qu’un tel outil d’intelligence artificielle pose carrément des enjeux de nature légale.

« La loi ne permet pas de ramasser n’importe quelles données n’importe comment ! » explique-t-il.

De fait, l’enregistrement de la voix ou d’une conversation peut dans certains cas être considéré comme une collecte de renseignements personnels, note la commission d’accès à l’information du Québec (CAI).

Les entreprises qui tiennent à le faire sont donc tenues d’en prouver la nécessité, et de démontrer entre autres choses que leur objectif est « légitime, important et réel », a précisé un porte-parole de la CAI.

Ça fait dur en crisse.

On vas-tu s'étonner que de plus en plus de jeunes vont déserter le marché du travail plutôt que de laisser un robot les traiter comme des robots...

https://www.tvanouvelles.ca/2026/03/06/ca-risque-detre-assez-alienant---lintelligence-a...

Gabriel Côté
Vendredi, 6 mars 2026 00:00

Les employés des restaurants Burger King au Québec seront bientôt surveillés par une intelligence artificielle qui va écouter leurs conversations et leur donner des ordres.

a chaîne de restauration rapide a annoncé la semaine dernière qu’elle déploiera un nouvel outil d’intelligence artificielle dans ses restaurants au Canada plus tard cette année. La technologie développée par OpenAI est déjà implantée dans quelque 500 restaurants aux États-Unis.
Publicité

Il s’agit d’un « assistant vocal » intégré aux casques que portent les employés. Burger King lui a même donné un petit nom, Patty, peut-être dans l’espoir de rendre la chose un peu plus sympathique.

« C’est un changement radical dans la manière de gérer des restaurants », s’est exalté le grand patron de l’entreprise propriétaire de Burger King, Restaurant Brands International (RBI), lors de la réunion annuelle des investisseurs de la compagnie, à la fin février.
Patty aux commandes

Concrètement, Patty a pour fonction de surveiller la qualité du service. Pour ce faire, l’outil écoute les conversations des employés et vérifie s’ils sont assez polis dans leurs interactions avec les clients.

Le dispositif peut également leur rappeler comment préparer certaines commandes, et leur suggère des façons de proposer des ventes additionnelles aux clients. Enfin, il les avise quand une tâche doit être réalisée, par exemple, lorsqu’il faut aller laver les toilettes ou remplir la machine de coke diète.

La chaîne soutient d’ailleurs que l’arrivée de Patty a réduit le délai pour remplacer une cartouche de saveur dans les machines à boisson à une heure seulement en moyenne, alors qu’il était auparavant de plus d’une journée.

Ni Burger King ni RBI n’ont répondu à nos questions, malgré plusieurs courriels. Tim Hortons, aussi la propriété de RBI, a toutefois fait savoir que la chaîne spécialisée dans la vente de café et de beignes n’a pas l’intention de mettre en place une technologie similaire.
Préoccupations morales et légales

Luc Lespérance, maître d’enseignement au département des technologies de l’information des HEC, comprend l’avantage que voit Burger King d’utiliser ainsi l’intelligence artificielle, mais il estime que cela pourrait rendre la vie dure pour les employés.
Publicité

Luc Lespérance est maître d'enseignement au département des technologies de l'information des HEC.
Luc Lespérance est maître d'enseignement au département des technologies de l'information des HEC. photo tirée du site web des HEC

« Je ne connais pas grand monde qui veut avoir une petite voix dans l’oreille toute la journée, ça risque d’être assez aliénant, dit-il. Cela dit, ça me surprendrait qu’il reste beaucoup d’humains dans la restauration rapide dans quelques années. »

L’avocat Bernard Cliche estime pour sa part qu’un tel outil d’intelligence artificielle pose carrément des enjeux de nature légale.

« La loi ne permet pas de ramasser n’importe quelles données n’importe comment ! » explique-t-il.

De fait, l’enregistrement de la voix ou d’une conversation peut dans certains cas être considéré comme une collecte de renseignements personnels, note la commission d’accès à l’information du Québec (CAI).

Les entreprises qui tiennent à le faire sont donc tenues d’en prouver la nécessité, et de démontrer entre autres choses que leur objectif est « légitime, important et réel », a précisé un porte-parole de la CAI.

____________________

La réalité IA dépasse largement la fiction !

Un coup engagé, les employés peuvent revendiquer le droit de refuser cette approche IA pour se faire dicter par ce dernier. Avec moi, la Patty prendrait une méchante claque et irait aux poubelles en disant à l'employeur de l'avoir perdu !