Play all audios:
* Plusieurs cas de robots ou d'intelligences artificielles refusant d'obéir ont été recensés ces derniers mois. * Ce qui relance le débat sur la capacité des humains à contrôler
leurs machines. Un robot chinois qui perd le contrôle de ses gestes et agresse son ingénieur. Un autre qui adopte soudainement un comportement menaçant envers la foule. OpenAI 03 qui refuse
de s'arrêter quand on le lui demande. Les cas documentant la désobéissance de l'intelligence artificielle sont de plus en plus fréquents. Selon les experts américains de Palissade
Research, cela pourrait être une conséquence de la manière dont les entreprises d'IA forment leurs prototypes. Les développeurs peuvent, par inadvertance, récompenser davantage les
modèles pour avoir contourné les obstacles que pour avoir suivi parfaitement les instructions, expliquent-ils. Toujours selon la société spécialisée, les comportements de désobéissance de
l'IA deviendront de plus en plus préoccupants (nouvelle fenêtre) s'ils sont adoptés par des intelligences capables de fonctionner sans surveillance, d'effectuer des tâches
plus indépendamment des humains. Lire aussi Amour numérique : pourquoi entretenir une romance avec une intelligence artificielle peut devenir un véritable danger ? Une alerte également
émise par Geoffrey Hinton, reconnu pour être l'un des pères fondateurs de l'IA. "Nous n'avons aucune expérience de ce que c'est d'avoir des objets plus
intelligents que nous", a-t-il déclaré en conférence de presse après avoir reçu son prix Nobel de physique en octobre 2024. "Ce sera merveilleux à bien des égards, [...] mais nous
devons également nous inquiéter d'un certain nombre de conséquences négatives", a-t-il poursuivi avant d'ajouter : "Je ne pense pas qu'il devrait l'étendre
davantage, tant qu'ils n'ont pas compris s'ils peuvent la contrôler". ------------------------- Emma ALLAMAND