NL

FR

▲ NAM-IP/Infos

NAM-IP Infos 2020/1 – Recherche
Tools and Weapons. The Promise and the Peril of the Digital Age

Brad Smith and Carol Ann Browne, Tools and Weapons. The Promise and the Peril of the Digital Age, Foreword by Bill Gates,
Penguin Press, New York, 2019,
346 pp. (+ XXII),
ISBN (Hardcover) 9781984877710.

Ce remarquable livre du Président actuel de Microsoft, mérite non seulement une mention, mais un long compte-rendu. Je l'avais annoncé (voir NAM-IP/INFO, 2019/4); le voici!

La position défendue par Brad Smith (soutenue par son prédécesseur à la tête de Microsoft, Bill Gates, qui préface le livre) est celle d'une priorité absolue donnée à l'humain sur la réussite technique et le profit.

Dans toutes les questions délicates que posent les «nouvelles technologies», notamment tous les dérivés de l'Intelligence Artificielle, Microsoft se fait le défenseur de «régulations» tant du côté des lois des peuples et gouvernements que du côté de la prise de responsabilité des développeurs et vendeurs de techniques nouvelles (et ceci contre un certain courant de la Sillicon Valley qui vise la réussite économique à n'importe quel prix!).

 

Un clair soutien du fondateur de Microsoft

Malgré le petit rappel que n'hésite pas de faire Brad Smith à propos des modalités de la bonne gouvernance dans les sociétés qui ont a gèrer des centaines de millions de client sur toute la planète, règles de gouvernance qu'il considère comme indispensable au même titre que les développements technologiques les plus pointus et les mises en œuvre de principes éthiques de gestion adaptés au monde planétarisé et numérisé – il ne faut pas que les gourous fondateurs soient adulés au point qu'on n'ose plus poser les questions qui fâchent! cf. note 7 de la Conclusion, p. 335 –, malgré ce rappel donc, c'est à Bill Gates qu'il demande de préfacer son livre.

 Bill Gates précise que Brad Smith, son successeur à la Présidence de Microsoft, est l'homme de loi qui a aidé Microsoft à surmonter le procès anti-trust dont la firme à fait l'objet en 1998. Ce fut l'occasion pour ce brillant avocat d'insuffler à l'entreprise un nouvel esprit: se préoccuper de façon responsable des cadres légaux et de l'impact sociétal du développement et de la distribution de nouvelles technologies. Bill Gates lui-même reconnaît qu'au début de sa carrière dans l'Ouest américain, il aimait se vanter de n'avoir pas besoin d'une antenne à Washington D.C. – il a maintenant compris que le dialogue volontaire avec les structures institutionnelles, qu'elles soient d'État ou qu'elles soient au sein de la profession (y compris les «concurrents»), est devenu non seulement un devoir à la hauteur des volumes de personnes (clients ou non) engagées dans ces processus, mais également une exigence pour un développement des nouvelles technologies qui soit au service de l'humain! Par exemple, à propos de l'Intelligence artificielle (AI) et de son utilisation: ne pas seulement se demander ce que ces technologies «peuvent» faire, mais se demander d'abord ce qu'elles «doivent» faire (voir chapitre 11).

C'est dans ces perspectives que les 15 chapitres du livre nous donnent une réflexion très constructive sur les principaux enjeux du passage à la culture du «tout électronique». Une culture dont l'emprise planétaire (et au-delà) s'est fortement renforcée depuis une dizaine d'années.

 

Protéger le citoyen dans le cadre d'une société démocratique

 Dans leur Introduction, Brad Smith et Carol Ann Browne (on ne sait pas la part prise par chacun et je ferai comme s'il n'y avait qu'un seul Auteur), nous disent:

«Tout comme Microsoft il y a 20 ans, le secteur des technologies (dans tout le livre, «tech» signifie les technologies liées au numérique, l'informatique, les TIC) doit changer. Le temps est venu de reconnaître une affirmation de base vitale: quand votre technologie change le monde, vous portez la responsabilité de vous préoccuper du monde que vous avez aidé à créer. Cela peut sembler incontestable, mais cela ne l'est pas dans un secteur qui a été longuement concentré de façon obsessionnelle sur la rapidité de la croissance et sur la volonté de créer intentionnellement des ruptures. En bref: les entreprises qui créent de la technologie doivent accepter de plus grandes responsabilités dans le futur» (p. XXI).

 

 «Nous avons besoin de réconcilier une ère de changements technologiques rapides avec les valeurs traditionnelles. …Pour arriver à cet objectif, nous devons nous assurer que l'innovation se poursuit mais qu'elle le fait de telle façon que ces technologies et les entreprises qui les créent le fassent en tant que sujets de sociétés démocratiques mises en capacité collectivement de définir notre destin futur» (p. XXII).

Chacun des 15 chapitres va développer un aspect de ce changement de mentalité rendu nécessaire par le développement prodigieux des industries du numérique. Et, pour chaque chapitre, un fait concret sert de détonateur à une série de décisions que devra prendre Microsoft, seul ou en convainquant d'autres acteurs du secteur (parfois concurrents) de la nécessité d'une démarche commune pour améliorer institutionnellement et avec les outils juridiques de protection du citoyen et de la société, une utilisation déviante ou risquée des nouveaux outils développés et distribués à des centaines de millions de personnes et d'institutions dans tous les pays!

 

La protection de la vie privée

Le premier cas examiné est celui des «fuites» de millions de documents «secrets» détournés et rendus publics par Edward Snowden, le 20 mai 2013 (ch.1).

L'Auteur tente chaque fois de remonter aux sources historiques qui permettent de mieux comprendre le changement en cours. Ici, par exemple, il s'agit des lois sur la protection de la vie privée telles que créées aux U.S.A. à l'intervention du parlementaire anglais John Wilkes en 1783. De cette intervention découlera le «4e Amendement» de la Loi Fédérale américaine voté en 1789. La protection de la vie privée du citoyen contre toute intrusion dans une maison ou une entreprise qui ne serait pas justifiée par un «mandat judiciaire» en bonne et due forme, était ainsi fixée et édictée. Mais il y eût une première mise au point sous Benjamin Franklin quand fut établie la Poste: les données qui circulent hors d'un domicile spécifique sont-elles soumises aux mêmes règles? La Cour Suprême des U.S.A. décida en 1800 que le «courrier» était protégé de la même façon que les domiciles. Peut-on ou doit-on aujourd'hui considérer que les données numériques conservées dans un Data Center, protégé par des sécurités physiques et électroniques, tombent sous le même droit? Et si c'est la sécurité de l'État qui demande d'avoir accès aux données ainsi conservées? Réponse de l'Auteur:

« Pour moi, la réponse est claire. La Loi doit réguler ce problème… et si la loi est inadaptée, il faut la faire modifier par le Congrès!» (p.9).

 

Le «Cloud» (les «Data Center») ont changé la relation aux clients et donnent des obligations nouvelles aux entreprises qui gèrent ainsi des données, parfois au moins aussi précieuses que les valeurs financières confiées à des banques; avec, en supplément, l'aspect global de la gestion de ces données et des relations instantanées au-delà des limites des législations nationales! (p. 11).

Devant cette situation et au vu de l'état de la législation en ce domaine aux U.S.A., Microsoft va décider d'attaquer en justice le gouvernement des U.S.A.. Pour ce faire Microsoft arrivera à convaincre Google de se joindre à cette plainte. Cette plainte devait rebondir suite à l'information selon laquelle l'agence de sécurité électronique des U.S.A., la NSA, avec son homologue anglais, cherchait à détourner des données «pompées» directement à partir des câbles transatlantiques en fibre optique appartenant à Microsoft ou à d'autres opérateurs. La réaction fut immédiate chez Microsoft d'un renforcement du cryptage des données. Tout ceci mènera à une réunion convoquée par Barak Obama peu avant Noël cette même année. Elle rassemblait les principaux représentants des entreprises du domaine des TIC. Et cela mènera, dès janvier 2014, à un changement de politique gouvernementale dans la gestion de la surveillance électronique. Conclusion:

«Dans plusieurs années, les gens discuteront encore pour savoir si Edward Snowden était un héros ou un traître. Aux yeux de quelques-uns, il était les deux. Mais, au début de 2014, deux choses sont devenues claires: il avait changé le monde, et, dans le domaine des technologies, il nous avait aussi obligé à des changements» (p.19).

Je me suis étendu un peu longuement sur le contenu du premier chapitre pour montrer la démarche de l'Auteur. Chaque chapitre part d'un fait concret, en montre les conséquences, en cherche les antécédents dans l'état de la société et du droit, et explique les actions menées par Microsoft (seul ou en réussissant à y associer d'autres acteurs des TIC), pour qu'une responsabilité citoyenne soit prise face au problème mis en évidence par l'utilisation de ces technologies électroniques à l'échelle de la planète!

 

Sécurité et données des smartphones; décentralisation des données privées; cybersécurité

Les trois chapitres suivants traitent de la sécurité publique (ch.2: que faire avec les données personnelles contenues dans les smartphones en cas d'atteintes à la sécurité publique comme les attentats?); de la protection de la vie privée quand des pays demandent à avoir le contrôle sur les données privées des citoyens de leur ressort (ch.3: comment s'assurer que certains États n'utiliseront pas ces données pour renforcer un contrôle totalitaire sur la population? – les négociations internationales sur ces matières aboutiront à une nouvelle législation internationale, le CLOUD Act: le Clarifying Lawfull Overseas Use of Data, signé par plusieurs pays en mai 2019, qui crée les conditions internationales d'un usage généralisé pour un respect légal des données personnelles où qu'elles soient conservées); de la lutte contre les hackers à la solde d'une puissance étrangère (ch. 4): comment lutter contre des hackers qui ont réussi à pénétrer plus de 100 millions d'ordinateurs par une faille de Windows XP en mai 2017? Des attaques qui ont pu être attribuées à des hackers de Corée du nord, puis, en Ukraine, venant de la Russie. C'est un chercheur en sécurité anglais qui trouvera la faille qui permettait d'arrêter le virus WannaCry… mais Microsoft ne pouvait fournir aucune nouvelle protection pour des programmes aussi vieux que Windows XP «car il se serait agi d'un remède aussi impuissant que de creuser des tranchées à l'époque d'une guerre utilisant des missiles!» (p.66). Une contre-attaque électronique contre le groupe «Zinc» d'où venaient ces attaques fut négociée dans laquelle Microsoft arrive à engager non seulement les responsables de la sécurité électronique au niveau gouvernemental, mais également, à partir du gouvernement des U.S.A, à persuader d'autres pays de dénoncer publiquement les attaquants et d'annoncer les mesures techniques prises en accord avec d'autres entreprises des TIC comme Facebook pour contrer ces attaques!

 

Défendre la démocratie (chapitre 5 et 6) : campagnes électorales, votes, fake news

 Derrière ces attaques contre des ensembles d'utilisateurs venant de pays étrangers, se profilent les risques d'intrusions électroniques dans les systèmes de campagnes électorales, voire dans les systèmes de votes électroniques. Notamment ces attaques spécifiques venant de la Russie lors de la campagne électorale qui a amené Mr Trump à la présidence!

À la suite de ces attaques, Microsoft a lancé, en mai 2019, un nouveau système de vote sécurisé nommé ElectionGuard. Il protège tant les votes individuels que les décomptes de ces votes. Mais il y a des dérives d'un autre type venant de l'usage des réseaux sociaux qui s'ils rapprochent les gens, les rendent aussi plus isolés et donc fragilisés! En fin 2017, Mark Zuckerberg à du se rendre à l'évidence que des hackers, principalement russes, utilisaient ses plateformes pour désinformer le public (fake news) en périodes électorales. La question fut traitée en février 2018 à une conférence sur la sécurité à Münich au cours de laquelle Brad Smith se retrouva en plein accord avec Eric Schmidt, chairman de Google, pour demander plus de régulations en ces domaines… ce que finit par accepter également Mark Zuckerberg.

 Suite aux attaques terroristes dans son pays, la Présidente de la Nouvelle Zélande dit clairement à Brad Smith en avril 2019 que, pour elle, «les réseaux sociaux sont les éditeurs de ces plateformes et pas seulement leur support technique. On ne peut avoir tout le profit sans avoir la responsabilité» (p. 100). Et Brad de rappeler que quelque chose de semblable s'était produit lors de l'extension de la diffusion radiophonique: il fallut légiférer sur les utilisations de la radio!

L'important aujourd'hui serait que les utilisateurs puissent identifier la source d'un envoi électronique et qu'ils puissent savoir clairement si le message est envoyé par un humain ou par un robot (p. 104).

 

Le pouvoir international des entreprises du domaine des TIC

Le chapitre 7 s'intéresse à la «Diplomatie numérique»! Les entreprises du domaine des TIC acquièrent souvent aujourd'hui un poids décisionnel équivalent voire supérieur à celui des États.

Le Danemark a, le premier, créé un poste d'ambassadeur envoyé au contact avec ces entreprises. L'Australie et la France ont suivi assez rapidement, puis d'autres pays. Cela force ces entreprises à assumer leurs responsabilités. Mais pour que cela soit efficace, il faudrait travailler à la création d'une Convention de Genève du Numérique (n.b. : convention protégeant les personnes en cas de conflits armés, datée de 1929, puis 1949, puis 2005 et surveillée par le CICR Croix Rouge internationale). La France a pris les premières initiatives en ce domaine (Mr Macron) en lançant L'appel de Paris pour un accord de sécurité dans le cyberespace (12 novembre 2018) auquel souscriront rapidement plus de 60 États et plus de 500 acteurs du domaine (dont Google et Facebook, mais pas Amazon, ni Apple!).

 

Les législations européennes de protection de la vie privée en modèle (chapitre 8)

 L'Europe a pris des dispositions législatives sur la protection de la vie privée à partir de 1995 (entrées en vigueur partout en Europe en mai 2018): RGPD ou GDPR. Microsoft, après avoir sous-pesé tous les aspects de la gestion des flots de transferts de données entre pays, a pris la décision d'aligner ses produits aux exigences du RGPD européen. Pour cela Microsoft, «dans les six mois avant la date d'application du RGPD, [a] engagé plus de cent millions de dollars» pour y adapter ses produits (p. 141).

En effet,

«le caractère intégré d'une économie globale et la portée à long terme des Règles de protection de la vie privée en Europe vont créer une pression même sur des pays comme la Chine afin qu'ils adoptent des mesures de protection de la vie privée. Autrement dit: l'Europe n'est pas seulement le lieu de naissance de la démocratie et le berceau de la protection de la vie privée. Elle est probablement le meilleur espoir au monde pour la vie privée dans le futur» (p. 150).

[Malgré ces affirmations on apprend que le Land de Hesse (Allemagne) a interdit, en juillet 2019, l'utilisation de Windows 10 et de sa suite 365 (qui gère les données dans le Cloud de Microsoft) dans les écoles du Land en raison d'un moissonnage trop important de données personnelles des étudiants qui l'utiliseraient! La Commission du Land responsable de l'application des législations européennes sur ce point, oriente vers l'utilisation de logiciels libres liés à Linux et donc à Libre-Office.]

 

L'Internet à haut débit devient une nécessité comparable à celle de l'électricité (chapitre 9)

Apporter l'Internet à haut débit jusque dans les endroits les plus reculés devient un impératif économique majeur si l'on ne veut pas laisser le monde rural à la traîne de l'économie. Mais la fibre optique coûte trop cher à déployer partout et les satellites ne donnent pas toutes les garanties de contact permanent de haut débit, tandis que la 5G pose encore d'autres problèmes sociétaux.

En accord négocié avec l'association des producteurs TV, Microsoft a développé, à partir de 2017 sur les États-Unis (en commençant par certains États), la possibilité d'utiliser les «plages blanches» des signaux de télévision qui ne sont jamais utilisées… et ceci afin de donner à travers ces spectres d'émission TV, l'accès à l'Internet à large bande et haut débit aux habitations et activités les plus isolées.

«La diffusion d'une nouvelle technologie n'est pas uniquement un impératif économique. Elle doit être traitée comme une nécessité sociale» (p. 166).

 

Des responsabilités partagées envers tous ceux qui utilisent les nouvelles technologies (chapitre 10)

«La Quatrième Révolution Industrielle est caractérisée par la transformation numérique. Toute institution y devient partiellement une entreprise technologique. Cela vaut tant pour les institutions de type gouvernemental que pour celles sans but lucratif. Par conséquent, l'utilisateur de technologie [entendez: technologie électronique-numérique] devient une pièce importante de l'économie.» (p. 169).

 Microsoft a été touché directement (et sur 140 de ses employés de haut niveau) par les attitudes gouvernementales américaines sur l'immigration sélective. Le problème est sociétal et demande une vision à long terme qui doit favoriser l'éducation: la formation dans les écoles peut seule faire changer les mentalités (…et, par conséquent, avec le temps, les comportements gouvernementaux)! C'est dans cet esprit que Microsoft est le principal mécène du programme Code.org destiné à aider toute une génération d'étudiants à entrer dans le monde du numérique et du codage! Dans un autre domaine, les ressources de Linkedin (qui appartient à Microsoft) et porte sur plus de 600 millions de profils de travailleurs, permettent de cibler certaines ressources éducatives: «du Colorado à l'Australie et à la Banque Mondiale, cette ressource est utilisée tant par des institutions d'État que par des associations sans but lucratif»… pour améliorer la recherche de ressources humaines appropriées (p. 181).

Dans plusieurs environnements urbains, la modification du travail provoqué par les nouvelles technologies, crée une crise du logement. Microsoft a annoncé, en janvier 2019, un investissement de 500 millions de dollars pour la recherche et la mise en œuvre de nouveaux types de «logements sociaux».

 

Intelligence Artificielle et Éthique: ne demandez pas à l'ordinateur ce qu'il peut faire, mais ce qu'il doit faire! (chapitre 11)

Le titre du chapitre est assez explicite. Et l'Auteur constate:

«Après avoir participé à de nombreuses discussions à propos des bienfaits possibles de l'AI, j'ai réalisé que personne ne prenait le temps d'expliquer ce qu'est l'AI et comment elle fonctionne. On suppose que tout le monde le sait! De par mes conversations à Davos, je sais que ce n'est pas vrai, mais les gens ont peur de lever la main et de poser une question aussi élémentaire! Personne ne veut être le premier à admettre (et c'était probablement le cas de la moitié des participants) qu'il ne comprenait pas ce dont l'autre moitié des participants parlait! Et, outre les approximations à propos de l'AI, j'ai encore noté autre chose: personne ne voulait aborder la question de savoir si cette nouvelle technologie devait être régulée!» (p. 192).

Et l'Auteur de poursuivre

«L'industrie se précipite en avant avec une innovation sans aider les gens à bien comprendre de quoi il s'agit et comment cela fonctionne. Cela va de pair avec ce qui constituait depuis longtemps une croyance quasi dogmatique selon laquelle les nouvelles technologies seraient totalement bénéfiques. Et beaucoup, dans la Sillicon Valley, croyaient que les agences de régulation gouvernementales ne seraient jamais à la hauteur de ces technologies. Si cette vue idéaliste de la technologie était souvent enracinée dans de bonnes intentions, elle n'est tout simplement pas réaliste. Même les meilleures technologies génèrent des conséquences auxquelles on ne s'attendait pas. Et les bienfaits sont rarement répartis de façon uniforme. Et cela bien avant que les nouvelles technologies soient mal utilisées pour des fins catastrophiques, comme cela pourrait devenir le cas» (p. 192)

Je continue à citer l'Auteur, car, je pense que ce qu'il dit à propos de l'AI, est au coeur de ce qui se jouera dans la future décennie:

« Le défi est que le secteur technologique , à son actif, doit toujours regarder vers l'avant. Le problème est que, mais c'est à son passif, trop peu de personnes prennent le temps, voire même acceptent, qu'il serait bon de regarder dans le rétroviseur assez loin pour utiliser la connaissance du passé en vue d'anticiper les problèmes qui vont se présenter dès le premier tournant! » (p. 193).

 

«Les ordinateurs sont de plus en plus habilités à apprendre et à prendre des décisions indépendamment de l'intervention d'une liberté humaine. Mais comment vont-ils prendre ces décisions? Vont-ils refléter le meilleur de ce qui est humain? Ou bien quelque chose de moins «inspirant»? Il est devenu de plus en plus clair que les technologies de l'AI ont désespérément besoin d'être guidées par des principes éthiques forts si elles doivent rendre un service correct à la société! » (p. 193).

 L'Auteur retient deux définitions de l'AI proposées par les spécialistes du domaine chez Microsoft: Celle de Dave Heiner « L'AI est un système informatique qui peut apprendre par l'expérience en reconnaissant des formes dans les données fournies et en prenant des décisions à partir de cette reconnaissance ». Et celle de Eric Horvitz «L'AI est l'étude des mécanismes informatiques (computationnal – calculables?) qui sous-tendent la pensée et les comportements intelligents» (p. 194). Trois facteurs assurent le décollage des technologies de l'AI: « la vitesse de traitement des ordinateurs, la masse de données accumulées dans le « Cloud », l'explosion du volume de données sur lesquelles on peut tester l'AI » (p. 195).

«Le principe éthique de base pour l'AI devrait être la responsabilité. Dans le futur, les ordinateurs (dotés d'AI) seront-ils responsables face aux personnes et ceux qui les programment restent-ils responsables face à tous les utilisateurs?» (p.201).

Et, en 2018, la question éthique se pose plus directement à propos des «robots tueurs»! «Le problème éthique est de garder un contrôle par une personne humaine capable de «bon sens» (common sens) en situation concrète» (p.203). Mais, si l'on exige qu'il y ait un cours d'éthique dans le curriculum de formation militaire aux USA… cela n'est malheureusement pas encore le cas pour le curriculum des ingénieurs en informatique! (p. 206) L'Auteur constate alors qu'il faut élargir le champ de visions:

«Aujourd'hui, comme aucune technologie auparavant, l'AI force le monde à confronter les similarités et les différences entre cette technologie et d'autres traditions philosophiques. Les problèmes soulevés par l'AI concernent le rôle de la responsabilité personnelle, l'importance d'une transparence publique, les concepts de vie privée individuelle et les notions de loyauté fondamentale. Comment le monde pourra-t-il trouver une convergence sur une approche de l'éthique pour le domaine des TIC s'il ne peut pas s'accorder sur des enjeux philosophiques qui touchent aux personnes? Défi fondamental pour le futur!» (p. 207)

 

«Finalement, un échange global sur les principes éthiques pour l'AI demande d'élargir le débat. À la table de discussion devraient siéger non seulement des techniciens, des responsables gouvernementaux ou d'associations civiles et des éducateurs, mais également des philosophes et des représentants des nombreuses religions du monde» (p. 208).

C'est dans la foulée de cette réflexion que l'Auteur raconte ses contacts avec Mgr Vincenzo Paglia et le Pape François au Vatican en février 2019. «Gardez votre humanité!» lui dit le Pape François en conclusion de leur entretien… «un bon conseil pour tout le monde» conclut l'Auteur! (p.210).

 

Protéger notre visage autant que le contenu de nos téléphones (la reconnaissance faciale: chapitre 12)?

On est, aujourd'hui, très proche du roman visionnaire de George Orwell 1984: la surveillance universelle et permanente du Big Brother. Le Technologie rend ce cauchemar possible. Microsoft n'a pas transmis ses programmes de reconnaissance faciale à des entités qui pouvaient en faire un usage abusif.

[Mais on notera que cela n'a pas empêché la Chine de mettre en place un réseau pharaonique de surveillance citoyenne avec reconnaissance faciale et fichage individuel!!]…

 

L'AI va-t-elle supprimer beaucoup d'emplois? (chapitre 13)

Pour aborder cette question, l'Auteur fait l'histoire de l'abandon du cheval remplacé par l'automobile, le camion et le tracteur dans la période qui a précédé la grande dépression de 1929-1930. Une chute importante de l'emploi… mais pour une reprise de l'économie de façon encore plus florissante dans les décennies suivantes [non sans les secousses des 2 guerres mondiales…!!!].

Quels sont les emplois que l'AI va supprimer? Quels sont ceux qui sont le moins menacés?

«L'AI ne peut réussir à donner l'empathie nécessaire que doivent donner les infirmiers, les conseillers, les enseignants, les thérapeutes. Même si tous utiliseront des technologies d'AI pour certaines tâches, celles-ci ne pourront jamais remplacer tout leur travail» (p. 238)

[L'Auteur oublie de mentionner ici les exigences d'une vraie cellule familiale mise aujourd'hui à mal par tout ce qui touche aux applications de l'AI!!: voir le livre de Sherry Turckel, Alone Together, Basic Books, 2011, 2017 (3d ed.)]

«Il serait erroné de croire que les tendances technologiques comme l'automatisation et l'utilisation de l'AI seront guidées par la seule technologie et économie. Les individus, les entreprises et même les pays feront des choix fondés sur des valeurs culturelles qui se manifesteront partout depuis le choix du consommateur individuel jusqu'aux choix politiques menant à de nouvelles lois et régulations. Ces dernières pouvant d'ailleurs être différentes dans différentes parties du monde» (p.245)

 [L'auteur oublie peut-être ici qu'un des usages de l'AI qui ne fait que s'accentuer, est l'amplification de la publicité avec tout l'arsenal de la persuasion déjà testée et codifiée depuis les programmes de propagande totalitaire… Les choix restent-ils vraiment ouverts et libres dans ce cas ou bien sont-ils déjà tous commandés par des pressions publicitaires subliminales?]

«Qu'est-ce que cela implique pour le futur des produits de Microsoft? Nous avons conclu que le succès a toujours exigé que les personnes maîtrisent quatre capacités: apprendre de nouveaux sujets dans de nouveaux domaines; analyser et résoudre de nouveaux problèmes; communiquer les idées et partager l'information avec les autres; et collaborer effectivement comme membre d'une équipe» (p. 247)

 

 Les États-Unis et la Chine: un monde «tech» bi-polaire (chapitre 14)

Avec ce chapitre on revient un peu sur le sujet du chapitre 7: la diplomatie numérique! Mais à une échelle globale et planétaire que l'Auteur tente de décrire en quelques traits: USA et Chine sont les deux plus gros producteurs et consommateurs de numérique: sur les 7 entreprises qui sont au top des entreprises des TIC, on trouve 5 entreprises américaines et 2 entreprises chinoises… une proportion qui pourrait changer dans les années qui viennent! Et, la présence américaine en Chine est surtout, actuellement, le fait d'Apple et d'Intel.

Derrière les développements de ces deux grands blocs humains, il y a vraiment des mentalités différentes. L'Auteur fait l'historique du lancement par Microsoft d'un robot féminin qui eût un grand succès en Chine… mais, malgré diverses tentatives, n'eût pas de succès aux USA ou ailleurs (la différence culturelle explique cet échec). D'un côté (USA) la population a des schémas de pensée et de sensibilité formés à des siècles de pensée grecque, tandis que la Chine est formatée par des siècles de pensée confucéenne!

Ceci dit, Microsoft est prudent: on n'a pas livré à la Chine le programme très performant de Microsoft pour la reconnaissance faciale par crainte d'une utilisation qui irait à l'encontre des «droits humains» […ne faudrait-il pas ajouter: des droits humains tels que définis sur base de la pensée «occidentale»?].

Mais l'Auteur s'émerveille de voir un moine boudhiste utilisant des techniques d'AI pour la traduction et la diffusion d'anciens textes boudhistes! [Je lui ai écrit qu'un moine bénédictin avait déjà fait cela depuis 1971 sur les Écritures judéo-chrétiennes...!!]

L'Auteur pense que la vision cyclique du temps dans la culture chinoise les empêche de ne regarder que vers le futur comme le font les geek de la Sillicon Valley! Il faut désormais confronter ces différences culturelles et en tenir compte dans l'analyse des développements futurs. Microsoft continue à exporter certaines chose vers la Chine… mais avec des restrictions sur les modalités d'utilisation!

 

La nécessité d'une Révolution open data pour démocratiser le futur (chapitre 15)

 L'Auteur rappelle le fait que les data (données) peuvent infiniment se partager pour des usages multiples et différents contrairement au pétrole ou d'autres biens matériels qui, consommés par l'un, ne sont plus disponibles pour un autre! (p. 275)

Mais ce n'est pas si simple que cela de rendre les données uniformément disponibles à tous (problèmes de formats, de droits, d'accès, etc).

Microsoft a combattu les open data jusqu'à l'arrivée de Satya Nadella (originaire des Indes) comme CEO en 2014. Depuis lors, la stratégie a changé: Microsoft a intégré 1,4 millions de composants open source, puis, en mai 2018, a également acquis pour 7,5 milliards de dollars, le consortium GitHub (sorte de Wikipedia de logiciels libres, utilisables gratuitement par tout développeur).

«Un défi majeur sera de développer et de sélectionner des techniques qui permettront de partager des données tout en protégeant la vie privée» (p.282).

 

«Sociétalement, nous devrions avoir pour objectif de rendre l'utilisation de données aussi largement accessible que l'électricité. Ce n'est pas une tâche aisée. Mais, avec une approche correcte du partage des données et un support correct des institutions gouvernementales, il est tout à fait possible pour le monde de créer un modèle qui garantira que les données ne deviennent pas le fief de quelques grandes entreprises ou de quelques pays. Au lieu de cela, [le partage des données] peut devenir ce dont le monde a besoin: une importante machine universelle pour une nouvelle étape de croissance économique » (p. 286).

 

Conclusions

 «En persévérant à travailler pour apporter plus de technologie à l'humanité, nous devons également apporter plus d'humanité à notre technologie» (p. 289).

 

«Un des thèmes de ce livre est qu'il est plus que possible pour des entreprises de réussir tout en faisant plus pour soigner leurs responsabilités sociétales. Le développement technologique pousse à une collaboration internationale… C'est une des raisons pour lesquelles beaucoup de nos initiatives chez Microsoft se sont concentrées sur la construction de socles pour les développements nécessaires à un progrès international. Depuis le début de 2016, ces efforts ont notamment visé: une réponse coordonnée au virus WannaCry, l'Accord Technique des industries sur la cybersécurité, l'accord multi-participants aux Appels de Paris et de Christchurch, le développement du bouclier US-EU pour la protection de la vie privée, le CLOUD Act pour autoriser des accords internationaux, et une recherche à long terme en vue d'une Convention de Genève Numérique» (p. 300)

 

En plus de ces 16 chapitres (la Conclusion est considérée comme un chapitre dans la Table des matières!), il faut signaler les 28 pages de Notes en petits caractères liées à chaque chapitre. Elles méritent d'être lues car on y trouve souvent des développements techniques ou historiques importants en plus des références aux sources utilisées par l'Auteur.

J'en relève un passage qui traite plus largement du «managment» indispensable dans les situations actuelles de développement des technologies:

«Un Conseil d'Administration (Board of Trustees) qui s'intéresse de trop près à des points particuliers peut créer une confusion à propos de la différence entre le rôle d'un Conseil dans la direction d'une entreprise et la responsabilité d'un CEO qui est de la diriger (lead) et de la gérer (manage).» (p. 335).

 Ce livre montre une vraie maîtrise du secteur des TIC par un dirigeant venu de monde du droit mais qui a vécu les 25 dernières années au plus près des développements mondiaux des technologies du numérique. Il faut espérer qu'il sera prochainement disponible en traduction française!

R.-Ferdinand Poswick

NAM-IP sur Facebook