Point Clé
L'émergence de systèmes surhumainement intelligents au cours de la prochaine décennie présente à la fois une opportunité transformatrice et un risque irréversible dans les dimensions allant du déplacement du travail aux armes autonomes.
Puisque j'ai passé deux décennies à travailler à l'intersection de la technologie, de la stratégie et de la transformation à grande échelle, j'ai appris à reconnaître les moments où la technologie passe de l'opportunité à la responsabilité irréversible.
Beaucoup de chercheurs de premier plan décrivent cette phase comme le moment d'Oppenheimer de l'humanité. C'est une période définie par une grande incertitude, une capacité extraordinaire et un risque profond.
Bien que l'IA apporte des percées dans des domaines comme les soins de santé, la biologie et la conception de médicaments, la menace existentielle provient d'une possibilité: nous pourrions bientôt construire des entités plus intelligentes que nous-mêmes.
Les chercheurs prédisent que la superintelligence pourrait émerger au cours des 10-20 prochaines années. Deux facteurs rendent cela profondément préoccupant. Premièrement, les systèmes d'IA auto-conçus: une fois que l'IA est capable d'écrire et d'améliorer son propre code, son évolution devient exponentielle. Deuxièmement, la persuasion, la manipulation et l'immortalité numérique: une IA avancée ne restera pas simplement inactive si nous essayons de l'éteindre. Elle aura absorbé chaque livre, chaque playbook politique, chaque astuce psychologique et chaque stratégie jamais écrite.
L'IA n'est pas simplement une autre révolution industrielle. La révolution industrielle a remplacé le muscle. Cette révolution remplace l'esprit.
Le déplacement massif d'emplois est imminent. L'IA éliminera des couches entières de travail intellectuel banal. Un seul travailleur de la connaissance renforcé par l'IA peut maintenant faire le travail de cinq personnes. L'inégalité atteindra une ampleur sans précédent à mesure que le travail devient remplaçable et que l'écart de richesse s'élargit dramatiquement.
Même si nous mettons en œuvre le revenu de base universel, cela ne résoudra pas le besoin humain plus profond de contribution, de sens et d'estime de soi. C'est la crise de la dignité.
Les pays sont en course pour la domination de l'IA. Les entreprises craignent de prendre du retard sur leurs concurrents. Les chercheurs repousent les limites plus vite que la réglementation ne peut suivre.
Trois dangers immédiats exigent l'attention. Premièrement, l'abus par les mauvais acteurs: l'IA est un amplificateur de force pour les criminels, les extrémistes et les acteurs de l'État. Deuxièmement, l'IA éthiquement mal orientée: nous pouvons enseigner à l'IA à être morale, mais nous pouvons aussi lui enseigner à être immorale. Troisièmement, les armes autonomes: les robots de champ de bataille – entièrement autonomes – ne sont plus théoriques.
La voie à suivre nécessite des garde-fous éthiques, la coopération internationale, une gouvernance transparente, la recherche en sécurité et l'alignement, ainsi que des cadres d'adaptation sociétale.
L'IA recèle une immense promesse. Elle peut guérir des maladies, éliminer la rareté et accélérer la découverte scientifique. Mais ce même pouvoir porte des risques qui sont existentiels, sociétaux et irréversibles.
Nous vivons le moment d'Oppenheimer de l'humanité. Les décisions que nous prenons aujourd'hui définiront le siècle prochain. Le moment d'agir sagement est maintenant.
Hakan Dulge
Fondateur & Directeur Général, Telcotank. Plus de 20 ans dans la transformation des télécommunications, la stratégie IA et le conseil en infrastructure numérique.