SHOWDOWN !
Auto-transcription pour contribution à S&P et NFSC
EP:66:12: “Un jour meilleur”
Bienvenue dans Showdown, l’émission de débat axée sur les questions les plus pressantes de l’Empire. Je suis Eria Quint, votre modératrice. Au cours de l’émission, nous nous pencherons sur les récents affrontements violents entre des citoyens et la sécurité de Crusader sur Yela et nous nous demanderons si la police de l’entreprise est allée trop loin ou si elle s’attaque enfin à un problème qui a été ignoré pendant trop longtemps.
Mais tout d’abord, cela fait un an que Laylani Addison est devenue Imperator de l’Empire Uni de la Terre et ses partisans ne sont pas tous satisfaits des progrès réalisés à ce jour. Malgré sa promesse de campagne de garantir un financement accru de la recherche sur l’intelligence artificielle, elle n’a pas pris de mesures concrètes jusqu’à présent. La loi qu’elle a récemment proposée, “Un jour meilleur”, affaiblira bon nombre des restrictions en vigueur à l’encontre de la recherche sur l’IA et ouvrira la porte à un financement public. Certains s’en réjouissent, mais d’autres ne sont pas certains que l’idée soit bonne, voire sans danger.
Je suis accompagnée de Yuna Glidewell, ingénieuse et défenseuse de l’intelligence artificielle, et de Mahir Lemond, auteur du livre “2044 : L’incident Lemming”.
YUNA GLIDEWELL : Bonjour Eria. C’est un plaisir d’être ici.
MAHIR LEMOND : Bonjour.
ERIA QUINT : Que pensez-vous de la proposition d’Addison ? Je vais commencer par vous, Yuna.
YUNA GLIDEWELL : Inutile de vous dire que je suis très heureuse. Cela fait tellement longtemps qu’Addison a pris ses fonctions que mes collègues et moi commencions à perdre espoir. Nous pensions qu’elle avait oublié qu’elle avait gagné les élections grâce à sa promesse d’un avenir radieux.
ERIA QUINT : Un “avenir radieux” ? Pouvez-vous nous en dire plus ?
YUNA GLIDEWELL : Pendant trop longtemps, l’Humanité a entravé son propre progrès à cause de notre peur irrationnelle de l’intelligence artificielle. Cela fait des siècles que nous n’avons pas été autorisés à faire des progrès significatifs dans la recherche sur l’IA, et, ce n’est pas une coïncidence à mon avis, nous avons au moins un siècle de retard sur les Xi’ans en matière de technologie.
ERIA QUINT : L’Empire xi’an a développé une véritable intelligence artificielle ? Si oui, vous me l’apprenez.
YUNA GLIDEWELL : [rires] Eh bien, pas à notre connaissance. Mais c’est pourquoi il est si important que nous soyons les premiers à le faire. Si nous créons quelque chose que même les Xi’ans n’ont pas encore, nous pouvons faire des progrès considérables pour combler le fossé technologique.
ERIA QUINT : Et vous, Mahir ? La loi “Un jour meilleur” vous réjouit-elle ou vous inquiète-t-elle ?
MAHIR LEMOND : Elle m’inquiète profondément. Nous avons décidé il y a longtemps que l’IA ne valait pas le coup, et ce pour de très bonnes raisons, largement documentées et surtout mortelles. Cela va bien au-delà de la catastrophe de la voiture Lemming à Tokyo en 2044, qui a fait 12 456 morts et d’innombrables blessés. Chaque fois que nous avons créé des IA, les conséquences ont été catastrophiques. La tragédie de Mars en 2125, l’explosion de la Cerita Tower en 2298, l’incident d’Horus en 2696 : tous causés par des expériences bien intentionnées mais au final dangereuses avec l’IA.
YUNA GLIDEWELL : Ce sont toutes de terribles tragédies, je ne le conteste pas. Mais les nouvelles technologies ont toujours des problèmes qui sont résolus dans les générations suivantes.
MAHIR LEMOND : La perte de vies humaines est un peu plus grave qu’un “problème”, Mme Glidewell.
YUNA GLIDEWELL : Et comme je l’ai dit, ce sont des tragédies. Des tragédies que nous pouvons éviter si nous cessons d’avoir peur du progrès. Aujourd’hui, nous sommes capables de construire des garde-fous que nos ancêtres n’auraient pas pu imaginer. Croyez-moi, personne ne pense plus aux conséquences potentielles d’une intelligence artificielle mal fabriquée et mal gérée que les personnes qui font des recherches dans ce domaine.
MAHIR LEMOND : J’aime à penser que l’humanité progresse très bien. Regardez l’impact de la technologie de régénération. En quoi n’est-ce pas un progrès ?
YUNA GLIDEWELL : Bien sûr, je ne veux pas dire que nous n’allons nulle part. Mais même s’il y a des progrès fulgurants par-ci par-là, la tendance générale est au ralentissement. Vous devez admettre qu’il est étrange que nous fassions voler les mêmes modèles de vaisseaux pendant des centaines d’années, alors qu’au début des vols spatiaux, de nouveaux modèles sortaient à un rythme effréné. Je veux dire, franchement, mon fils pilote un vaisseau qui a été construit en 2874.
MAHIR LEMOND : Oui, je vous accorde que dans certains domaines, on a l’impression qu’il y a une baisse de régime. Mais c’est ainsi que le progrès fonctionne. Si vous regardez l’histoire de l’humanité, il y a eu des périodes de changement rapide, des périodes de stabilité et des périodes de déclin. Certaines technologies ne peuvent être pleinement utilisées que longtemps après leur découverte. Prenons l’exemple de l’énergie à vapeur : elle a été créée par les anciens humains au 1er siècle, mais n’a pu être pleinement exploitée avant les années 1700 en raison d’un manque de ressources. Dans le même ordre d’idées, regardez les bateaux et les navires, dont la conception n’a pas eu besoin d’être mise à jour de manière significative depuis avant même que les humains ne débarquent sur Luna. Pourquoi réparer quelque chose qui n’est pas cassé ?
YUNA GLIDEWELL : Pourquoi se contenter de ce que l’on a quand on peut obtenir quelque chose qui fonctionne mieux ? Comme vous l’avez dit, il y a des périodes où il y a peu ou pas de changement, puis des périodes de changement radical lorsqu’une nouvelle ressource est découverte. L’IA a le potentiel pour être cette ressource pour nous. Quelle que soit la créativité et la perspicacité dont les humains sont capables, nos esprits sont limités. Une IA mise en réseau avec d’autres IA aura des capacités surhumaines. Imaginez ce que pourrait être le futur de la conception des vaisseaux spatiaux si nous mettions ne serait-ce que quelques IA au travail pour en construire de meilleurs.
MAHIR LEMOND : Nous avons déjà des algorithmes complexes et de puissantes technologies d’apprentissage automatique qui accomplissent exactement ce que vous décrivez. La nouvelle génération de drones développée par l’armée en 2947 a été initialement conçue par un ordinateur qui avait reçu des données sur des squelettes d’oiseaux. Nous n’avons clairement pas besoin d’intelligence artificielle pour créer de nouvelles technologies. Les preuves historiques indiquent clairement…
YUNA GLIDEWELL : Encore une fois, je ne dis pas qu’il n’y a pas de risque, ce que je dis c’est que…
MAHIR LEMOND : Je n’ai pas terminé. Les preuves indiquent que lorsque l’IA est impliquée, des gens meurent.
YUNA GLIDEWELL : Vous faites exprès de mal m’interpréter. J’ai dit plusieurs fois que nous avons pris en considération le danger hypothétique et que nous ferons de la protection des vies humaines notre première priorité.
MAHIR LEMOND : Le danger n’est pas hypothétique et vous le savez. Vous vous en moquez tout simplement.
ERIA QUINT : Prenons un peu de recul par rapport à la question des vies humaines. Yuna, pouvez-vous m’en dire plus sur les problèmes que l’intelligence artificielle peut aider à résoudre ?
YUNA GLIDEWELL : Merci, Eria. Avec l’IA, les soldats n’auront plus besoin d’aller à la guerre. Les décès en salle d’opération diminueront considérablement. Les accidents de la route feront partie du passé. Les vaisseaux seront capables de voler tout seuls. Je pourrais continuer, mais c’est le futur dont nous nous privons. Il est seulement hors de portée parce que nous avons peur de passer à l’étape suivante. La loi “Un jour meilleur” est le petit coup de pouce dont nous avons besoin pour nous faire sortir du bloc de départ.
MAHIR LEMOND : Très bien. Oublions le passé et imaginons une seconde qu’il n’existe aucun moyen pour une IA défectueuse ou malveillante de tuer des gens. Vous venez de décrire un monde dans lequel les victimes de la guerre, les décès précoces et la pauvreté sont tous éradiqués, ou aussi proches de l’éradication qu’ils peuvent l’être. C’est bien ça ?
YUNA GLIDEWELL : Pas exactement. Mais la situation pourrait s’améliorer considérablement.
MAHIR LEMOND : Et le meilleur moyen d’y parvenir est de créer des esclaves pensants et sensibles qui résoudront nos problèmes à notre place ?
YUNA GLIDEWELL : Je vous demande pardon ?
ERIA QUINT : Avant d’aborder cette question, nous devons faire une petite pause publicitaire. Nous serons bientôt de retour pour conclure la discussion fascinante entre Mahir Lemond et Yuna Glidewell. Puis, nous nous intéresserons à la situation sur Yela. La sécurité de Crusader peut-elle vraiment maintenir l’ordre sur une lune où il n’y en a pas ? Ne bougez pas, nous revenons tout de suite.