| schema:text
| - Une vidéo filmée lors d’un spectacle en Chine montrerait un robot piloté par intelligence artificielle agresser des spectateurs.La séquence est présentée comme un raté de l'IA, alors que l'objet rencontre simplement un obstacle.Des experts en robotique expliquent que les robots ne peuvent pas décider par eux-mêmes d'attaquer les humains.
Une foule de spectateurs enthousiaste face à un spectacle mettant en scène des robots portant un costume rouge... et puis un bref mouvement de panique. Dans une courte séquence vue jusqu’à 1,5 million de fois sur X (nouvelle fenêtre), un humanoïde semble perdre le contrôle et tenter de frapper quelqu'un dans la foule. La plupart des comptes relayant la vidéo s'inquiètent de cette "première agression d'un robot IA sur un humain en Chine" (nouvelle fenêtre). D'autres affirment qu'il s'agit d’un "aperçu rapide de ce que l'avenir nous réserve à tous" (nouvelle fenêtre) et dépeignent la vidéo comme une "révolte des robots".
La scène est authentique et s'est déroulée lors d'un festival à Taishan en Chine le 15 février dernier (nouvelle fenêtre) pour les célébrations du Nouvel an chinois. On y retrouve les mêmes robots, des modèles H1 de la société chinoise Unitree, portant les fameux costumes rouges et réalisant quelques pas de danse. Cependant, l'étude des images de ce spectacle permet de comprendre un peu mieux ce qu'il s'est vraiment passé.
Un robot butant sur un obstacle
La majorité des vidéos filmées par les spectateurs et postées sur le réseau social Douyin (nouvelle fenêtre) montrent des robots capables d'effectuer des tâches basiques comme danser ou saluer la foule. On découvre d'ailleurs que dans la plupart des séquences, les robots sont entourés d'importants cordons de sécurité, afin de tenir le public à distance, et les laisser réaliser leurs actions. Ils sont souvent escortés par des agents de sécurité pour les aider à descendre des escaliers ou les encadrer. "Dans cette vidéo, on n'est pas du tout dans une configuration où le robot va frapper quelqu'un : il ne bouge pas les bras de façon significative", explique à TF1info Jean-Baptiste Mouret, ingénieur et chercheur en robotique et intelligence artificielle à l'INRIA. "On a un robot qui avance tout droit et qui rencontre une barrière. C’est un échec de perception du robot qui n'a pas vu un obstacle."
Et effectivement, dans cette vidéo (nouvelle fenêtre), on distingue des barrières derrière lesquelles se masse le public avec des barres diagonales, et une étagère où sont posées des bouteilles d'eau. On y retrouve d'ailleurs aussi les personnes devant lesquelles le robot semble donner un coup. C’est à ce niveau et sur cette avancée que le robot trébuche avant d'être retenu par le personnel de sécurité. Tout plaide donc pour un "accident" (nouvelle fenêtre) comme l'ont évoqué les organisateurs du festival auprès de la presse chinoise. L'équipe des Vérificateurs a également contacté l’entreprise Unitree pour en savoir plus. Celle-ci n'a pour l'heure pas réagi à cet incident.
Un robot ne peut pas perdre les pédales
Kathleen Belhassein, chercheuseAu-delà de ce qu'on peut voir dans cette vidéo, un robot a-t-il déjà perdu le contrôle de lui-même et décidé de frapper un humain ? "À ma connaissance, jamais un robot n'a pu avoir ce type de geste violent de manière non voulue par l'opérateur", affirme Kathleen Belhassein (nouvelle fenêtre), docteure en psychologie, spécialisée dans les interactions humain-robot. "Un robot ne peut en aucun cas de manière consciente 'perdre les pédales' et frapper quelqu'un sans que ce soit explicitement codé dans ses algorithmes". La chercheuse précise que ce type de robot géré par intelligence artificielle n'est pas relié à des bases de données sur Internet, comme par exemple ChatGPT, beaucoup plus imprévisible.
"Un robot, ça ne prend pas d'initiative", tranche Jean-Baptiste Mouret. "Il arrive parfois qu’il fasse une 'bêtise' car il n'a pas compris ce qu'il se passe autour de lui et parce qu'il veut atteindre son objectif." Cela peut notamment passer par une erreur de perception, comme lorsque sa caméra est éblouie, amenant à un mouvement imprévu et donc perçu comme violent. Le chercheur explique d'ailleurs qu'il est plutôt risqué d'utiliser des robots dans des configurations de spectacle au milieu d'une foule, précisément pour ces raisons. Sur les réseaux sociaux, plusieurs exemples existent, mais à chaque fois issus d'une erreur d'un robot. La plus ancienne remonte à 2016 (nouvelle fenêtre), lorsqu'un petit automate avait cassé accidentellement un verre et blessé une personne.
Kungfu BOT: Unitree G1🥳 We have continued to upgrade the Unitree G1's algorithm, enabling it to learn and perform virtually any movement. What other moves would you like to see. Do share with us in the comments. (Please keep a safe distance from the robot.) #Unitree #Kungfu … pic.twitter.com/1vDZHyRjqZ — Unitree (@UnitreeRobotics) February 25, 2025
La question des robots potentiellement violents est également alimentée par le fait que certains constructeurs n'hésitent pas à mettre en scène leurs humanoïdes dans des démonstrations de combat. C'est le cas justement du robot Unitree H1, impliqué dans l'accident de cette vidéo, pour lequel la société a diffusé récemment une vidéo (nouvelle fenêtre) où l'automate effectue des gestes de kung-fu.
Une puissance comparable à celle d'un enfant
"Ces vidéos sont à des fins de démonstration", tempère Jean-Baptiste Mouret, qui précise aussi qu'actuellement "le rapport poids-puissance d'un robot est assez faible. On est plutôt sur la force d'un enfant" pour des robots comme celui d’Unitree. Mais si un robot ne peut pas frapper de lui-même, à moins d'en avoir l’instruction, les experts interrogés s'accordent sur le fait que ce rapport poids-puissance pourrait fortement évoluer en faveur des objets dans les années à venir et rendre ces robots humanoïdes plus robustes.
Vous souhaitez nous poser des questions ou nous soumettre une information qui ne vous paraît pas fiable ? N'hésitez pas à nous écrire à l'adresse lesverificateurs@tf1.fr. Retrouvez-nous également sur X : notre équipe y est présente derrière le compte @verif_TF1LCI.
|
![[RDF Data]](/fct/images/sw-rdf-blue.png)
![[cxml]](/fct/images/cxml_doc.png)
![[csv]](/fct/images/csv_doc.png)
![[text]](/fct/images/ntriples_doc.png)
![[turtle]](/fct/images/n3turtle_doc.png)
![[ld+json]](/fct/images/jsonld_doc.png)
![[rdf+json]](/fct/images/json_doc.png)
![[rdf+xml]](/fct/images/xml_doc.png)
![[atom+xml]](/fct/images/atom_doc.png)
![[html]](/fct/images/html_doc.png)