Jack Clark, co-fondateur d'Anthropic, a averti que l'intelligence artificielle pourrait atteindre un stade où elle pourrait évoluer sans intervention humaine. Lors d'une interview avec le programme "Newsnight" de la BBC, il a insisté sur la nécessité d'un "frein" dans l'industrie de l'intelligence artificielle, soulignant que la situation actuelle ressemble à avoir une pédale d'accélérateur sans aucun moyen de ralentir le développement.
Clark a déclaré : "Nous avons besoin d'une option qui nous permette de ralentir le progrès de l'intelligence artificielle, car l'industrie actuelle semble avancer à toute vitesse sans aucune restriction." Il a également souligné l'importance pour les citoyens, à travers des politiques gouvernementales, de garder le contrôle sur les systèmes d'intelligence artificielle qui deviendront de plus en plus puissants et influents sur la société.
Détails de l'événement
Clark a noté que 80% du code du célèbre chatbot "Claude" développé par Anthropic a été écrit par les systèmes eux-mêmes, ce qui signifie qu'atteindre 100% dans les deux prochaines années pourrait être possible, avec des implications significatives. Bien qu'il n'ait pas fourni de détails sur la manière de créer un "frein" pour la recherche et le développement dans le domaine de l'intelligence artificielle, il a tracé une analogie entre l'intelligence artificielle et le boom pétrolier du début du siècle dernier.
Il a expliqué que la réponse de la société à l'époque était de mettre en place un cadre réglementaire garantissant la confiance dans les bénéfices du pétrole, ce qui signifie que nous devrions adopter la même approche avec l'intelligence artificielle. Cependant, Anthropic a accueilli cette semaine un décret exécutif sur l'intelligence artificielle du président américain Donald Trump, qui était moins strict dans ses directives envers les entreprises.
Contexte et antécédents
Depuis sa création il y a cinq ans, Anthropic a connu une croissance rapide et se prépare maintenant à une introduction en bourse. Elle devrait être l'une des premières introductions en bourse d'une nouvelle entreprise d'intelligence artificielle, avec une valeur estimée à environ un trillion de dollars, ce qui en ferait l'une des introductions les plus précieuses de l'histoire.
Anthropic a été fondée par le directeur général Dario Amodei et s'est positionnée comme une voix claire sur les risques potentiels liés à l'intelligence artificielle, entrant en conflit public avec le ministère de la Défense américain en raison de préoccupations concernant l'utilisation de ses outils pour la surveillance de masse et les guerres autonomes.
Conséquences et impact
Clark a exprimé ses inquiétudes quant au fait que l'absence d'un dialogue sérieux sur les conséquences de l'avancement de l'intelligence artificielle pourrait affecter les générations futures. Il a noté qu'il existe de grands avantages potentiels, mais aussi des risques, y compris des effets négatifs sur l'économie, car des technologies d'intelligence artificielle telles que les "agents" pourraient remplacer certains emplois.
L'année dernière, plusieurs grandes entreprises technologiques ont procédé à des réductions massives d'effectifs, citant la capacité des outils d'intelligence artificielle à accomplir les tâches de centaines, voire de milliers, d'ingénieurs logiciels. Cependant, Clark a ajouté que les personnes les plus créatives et ayant de meilleures idées pourraient avoir un avantage sur cette technologie.
Impact sur la région arabe
Dans la région arabe, l'évolution de l'intelligence artificielle pourrait avoir des impacts significatifs sur le marché du travail et l'économie. Avec une dépendance croissante à la technologie, les pays arabes doivent réfléchir à la manière de réguler ce domaine pour s'assurer de ne pas manquer d'opportunités ou de faire face aux défis découlant de l'automatisation.
Il doit y avoir un dialogue communautaire sur la manière d'utiliser l'intelligence artificielle de manière sûre et efficace, garantissant ainsi de réaliser les bénéfices sans les risques potentiels.