| schema:text
| - Les photos montrant des personnes âgées seules face à leur repas ont beaucoup fait réagir sur les réseaux sociaux.Elles sont un nouvel exemple d’images populaires générées par IA jouant cette fois si sur l’appel à la pitié.Des contenus servant à la fois à engranger des abonnés et potentiellement à des escrocs en ligne.
La photo inspire la tristesse et la pitié. "Mon nom est Joseph, et je suis assis ici, dans une maison de retraite, avec une assiette de raviolis devant moi", peut-on voir dans des publications Facebook (nouvelle fenêtre) qui atteignent parfois plusieurs milliers de partages. Et le récit est souvent le même : une personne âgée, face à un plat insipide, un café et un verre d’eau, tout seul pour fêter son anniversaire, loin de sa famille. "J’ai trois enfants, mais je ne les ai pas vus depuis longtemps. Ils m’ont amené ici en me disant que c'était pour mon bien, mais le temps passe, et le téléphone ne sonne pas", ajoute une de ces publications virales (nouvelle fenêtre) suscitant de nombreuses réactions. "Mon Dieu certains enfants ont souvent quoi à la place du cœur pour abandonner leurs parents". Beaucoup s’empressent de souhaiter un joyeux anniversaire à "Joseph", expliquant avoir un proche dans la même situation.
"Joseph" n’existe pourtant pas, pas plus que toutes les personnes âgées dans les mêmes situations dont les messages se multiplient ces derniers jours dans plusieurs groupes francophones de trucs et astuces, (nouvelle fenêtre) de "réveil citoyen", (nouvelle fenêtre)ou même parfois religieux (nouvelle fenêtre). Une de ces photos relayées dimanche 16 février sur X (nouvelle fenêtre) a connu le même succès, vue plus d’1,7 million de fois. Elles sont générées par intelligence artificielle, et sont le dernier exemple des “pièges à boomers”. (nouvelle fenêtre)
Des images générées par intelligence artificielle
Comme bien souvent sur des images suspectes, c’est au second plan que tout se joue. Sur celle de "Joseph", il est possible de constater qu'une horloge au-dessus de la tête du vieil homme a trois aiguilles de même taille. Un poster sur le mur présente des écritures illisibles, pendant que le panneau photoluminescent de sortie de secours ne présente aucun logo, contrairement aux panneaux classiques en France.
Le phénomène désigné par le nom de "slop", pour des images de mauvaise qualité générées par intelligence artificielle, n’est pas nouveau. En juin dernier, l’équipe des Vérificateurs documentait des images d'enfants prodiges générées par IA utilisées pour des arnaques en ligne. Depuis, les exemples n’ont pas cessé, souvent avec des images plutôt positives d’enfants créant de superbes gâteaux d’anniversaire ou d'adultes réalisant des œuvres d’art.
Difficile de distinguer avec certitude l’objectif de ces comptes : leur but principal semble cependant être d’engranger le maximum d’interactions, partages et "j’aime", dans le but de gagner des abonnés, dans un but possible de revendre leur compte au plus offrant sur des marchés en ligne. Un compte Facebook avec 42.000 abonnés, comme celui à l’origine de ces fausses images par IA (nouvelle fenêtre), peut notamment se revendre pour environ 190 euros.
Lire aussi
Boomer Traps : quelle est cette "arnaque sentimentale" générée par IA qui cible les baby boomers ?
Des images surfant sur la thématique de "l’abandon des anciens"
Mais ce n’est pas le seul risque de ces comptes : certains sont des appâts pour les escrocs, selon des spécialistes. "J’ai déjà vu des brouteurs (arnaqueur opérant sur Internet, particulièrement en Afrique, ndlr) s’engouffrer sur ces publications pour contacter des gens identifiés comme plus crédules", note David, aka MetaBrouteur (nouvelle fenêtre), administrateur d’un compte qui a pour habitude d’exposer ces escrocs sur les réseaux sociaux, qui a d’ailleurs alerté sur ces nouvelles photos par IA dans des maisons de retraite. "L’image a du sens car la personne retraitée est un sujet qui touche un grand nombre. C’est un appel à la pitié, et ça marche", poursuit David.
Beaucoup de publications identifiées par l’équipe des Vérificateurs font notamment le parallèle entre l’histoire racontée par la photo et “l’abandon de nos anciens dans les EHPAD”, affirmant que celle-ci n’est finalement qu’une "image d’illustration" d’un phénomène. "On est face à un grand classique qu'on voit depuis des années et des années : le 'ça aurait pu être vrai', notamment pour diffuser un message de nature politique. Il y a bien sûr eu des enquêtes sur des EHPAD où des gens étaient laissés à l’abandon. Mais utiliser de l'IA pour illustrer des récits fictifs, Ça peut très, très vite dégénérer", note Victor Baissait (nouvelle fenêtre), expert de l'IA et des escrocs en ligne.
Face à ces contenus, les deux experts redoutent l’évolution de l’intelligence artificielle qui rend les images de plus en plus crédibles. "Je constate qu’il y a encore beaucoup de gens qui n'ont pas suffisamment de culture numérique pour comprendre ce type de publication. Il ne faut pas les juger, il faut aller faire de la pédagogie", insiste Victor Baissait. Pour David, aka MetaBrouteur, c’est le bon sens qu’il faut aiguiser : "Pour moi la technologie n’est pas l’essentiel, c'est le contexte qui permet de comprendre qu’il s’agit d’une fausse publication : un membre d’une maison de retraite aurait-il le droit de prendre une photo d’une vieille personne comme ça et de la publier sur les réseaux sociaux ? Et aurait-elle écrit la publication ainsi ? Personne n’écrit comme ça dans la vraie vie". Des réflexes "pas toujours suffisant", reconnaît l’habitué des arnaques en ligne, soulignant une fois de plus l’importance de ne pas se laisser happer par des contenus "trop émotionnels".
Vous souhaitez nous poser des questions ou nous soumettre une information qui ne vous paraît pas fiable ? N'hésitez pas à nous écrire à l'adresse lesverificateurs@tf1.fr. Retrouvez-nous également sur X : notre équipe y est présente derrière le compte @verif_TF1LCI.
|
![[RDF Data]](/fct/images/sw-rdf-blue.png)
![[cxml]](/fct/images/cxml_doc.png)
![[csv]](/fct/images/csv_doc.png)
![[text]](/fct/images/ntriples_doc.png)
![[turtle]](/fct/images/n3turtle_doc.png)
![[ld+json]](/fct/images/jsonld_doc.png)
![[rdf+json]](/fct/images/json_doc.png)
![[rdf+xml]](/fct/images/xml_doc.png)
![[atom+xml]](/fct/images/atom_doc.png)
![[html]](/fct/images/html_doc.png)