Le professeur Toby Walsh, l'un des principaux experts en intelligence artificielle, a averti des risques croissants posés par les "algorithmes de la mort" dans le cadre de la guerre en Iran, où les systèmes intelligents participent de plus en plus à la prise de décisions de meurtre. Walsh a déclaré dans une interview que l'absence de responsabilité légale menace de transformer les guerres en destructions entièrement automatisées.
Avec l'escalade du conflit en Iran, il est devenu clair que les combats ne sont plus seulement menés avec des armes conventionnelles, mais aussi avec des codes logiciels avancés et des données massives. La supériorité militaire ne dépend plus des arsenaux, mais de ce que certains appellent une "révolution algorithmique", indiquant que le monde a déjà dépassé le point de non-retour dans la militarisation de l'intelligence artificielle.
Détails de l'événement
Walsh a expliqué que les armées, en tête desquelles l'armée américaine, ne se contentent plus d'armes conventionnelles, mais s'appuient de plus en plus sur des systèmes de traitement de données massives pour identifier des cibles militaires. Des algorithmes avancés ont été utilisés pour analyser d'énormes quantités d'informations de renseignement, conduisant à des "recommandations de frappe" instantanées. Ces systèmes sont capables de choisir l'arme appropriée et le moment idéal pour l'attaque en fonction des probabilités de succès et de la réduction des pertes.
Ces transformations technologiques contribuent à accélérer le rythme du conflit, car l'intelligence artificielle réduit le "cycle de prise de décision" à des fractions de seconde, rendant les guerres plus rapides que la capacité des dirigeants humains à comprendre ou à se retirer. Cela soulève des questions éthiques sur la remise des "clés de la guerre" aux machines.
Contexte et arrière-plan
Dans ce contexte, Walsh a averti que les machines manquent d'"intelligence émotionnelle" et de capacité à exercer un "jugement moral" dans des situations complexes. Il a déclaré : "Nous devons être très inquiets, les machines ne possèdent pas nos qualités humaines, ne connaissent pas l'empathie, et plus dangereux encore, elles ne peuvent pas être tenues responsables des erreurs." Ces préoccupations rappellent des scénarios de films de science-fiction, où les guerres sont entièrement gérées par des systèmes automatisés.
Dans ce contexte, Walsh a révélé des mouvements internationaux à Genève visant à élaborer des cadres juridiques contraignants. L'idée actuellement proposée est de traiter l'"intelligence artificielle militaire" comme des armes chimiques et biologiques, ce qui nécessite d'interdire ou de restreindre toute technologie susceptible de plonger l'humanité dans des scénarios dangereux.
Conséquences et impact
L'utilisation de l'intelligence artificielle dans la guerre contre l'Iran n'a pas été simplement une expérience technique, mais un "proof of concept" pour une nouvelle génération de guerres. Nous sommes maintenant à un moment charnière, où soit la communauté internationale réussit à établir des "codes éthiques" contraignants pour ces logiciels, soit nous serons confrontés à un avenir où les conflits sont gérés par des algorithmes qui ne connaissent ni le remords ni la responsabilité.
Cette transformation dans la nature des guerres suscite une profonde inquiétude quant à l'avenir de l'humanité, où les guerres pourraient devenir plus sanglantes et complexes en l'absence de valeurs humaines. De plus, ces développements pourraient exacerber les crises humanitaires dans les zones de conflit, nécessitant une action urgente de la part de la communauté internationale.
Impact sur la région arabe
La région arabe est directement affectée par ces transformations, car l'utilisation de l'intelligence artificielle dans les guerres pourrait intensifier les conflits existants. De plus, l'absence de cadres juridiques pourrait ouvrir la voie à une utilisation irresponsable de ces technologies, menaçant la sécurité et la stabilité de la région.
En conclusion, Walsh a affirmé que la communauté internationale fait face à un grand défi, nécessitant une coopération internationale pour établir des règles régissant l'utilisation de l'intelligence artificielle dans les guerres, afin de garantir que l'humanité ne glisse pas vers un avenir sombre.