Parlons intelligence artificielle avec Francis
19 juin 2023
On répète à l’envi que l’intelligence artificielle n’est pas un outil comme les autres parce qu’elle prend des décisions.
Il y a pourtant longtemps que notre autonomie a cédé le pas à certains algorithmes. Déjà dans la première décennie des années 2000, Toyota recevait d’innombrables plaintes à la suite des accidents causés par les décisions erratiques de son système de contrôle de freinage et d’accélération.
Justement, les automobiles n’ont-elles pas complètement changé notre paysage ? Au point qu’elles ont structuré la façon de vivre en Amérique du Nord : les feux de circulation, les banlieues avec l’étalement urbain, la vie en bungalow, les centres commerciaux, les hypermarchés, les autoroutes, certaines congestionnées, d’autres désertes, les arroseurs d’asphalte qui veulent une cour propre au détriment de notre eau potable, etc.
Il ne manque pas d’inventions pour transformer notre mode de vie, mais plus elles sont complexes, plus les conséquences sont grandes sur nos sociétés comme sur nos vies individuelles. C’est pourquoi la meilleure assurance de notre priorité sur les machines reste le bouton marche/arrêt que l’on devrait pouvoir actionner à volonté.
C’est un problème quand les appareils qui sont connectés 24 heures sur 24 ont la possibilité de transformer le contenu des données qu’ils renferment. L’électricité sans panne, c’est bien pour maintenir le chauffage ou l’air climatisé, mais le téléphone branché en permanence devient intrusif en nous réveillant à des heures indues si on n’a pas la sagesse de l’éloigner de l’oreiller. En plus, il nous soumet à d’étranges surprises quand les applications mises à jour automatiquement incluent des extensions imprévues.
Les cellulaires envoient de faux messages d’alerte au 911 lorsque leur propriétaire est dans un manège qui lui fait subir des mouvements brusques, ce qui contribue à engorger ce service. C’est donc que ces appareils sont en mode silencieux ou même veille, mais pas complètement éteints comme ils devraient l’être quand on est dans une salle de spectacle, en train de suivre un cours ou dans une fête foraine.
Toutes les personnes qui ont utilisé Facebook savent qu’elles seront envahies de publicités basées sur leur navigation dans Internet (à moins d’avoir installé F. B. Purity).
Il suffit de lire L’âge du capitalisme de surveillance de Shoshana Zuboff pour comprendre comment les appareils connectés servent surtout à s’assurer que l’homo consumeris ne quitte pas le droit chemin de la consommation exactement comme le petit catéchisme d’autrefois permettait de maintenir le fidèle dans la bonne voie.
Le problème est toujours le même avec les technologies : une personne humaine doit valider les décisions. Je l’ai déjà écrit dans mon billet sur le robot conversationnel, sauf pour la surveillance vidéo, ce qui n’est pas ma tasse de thé, les appareils ne devraient pas nous connecter 24 heures sur 24.
Croire qu’on a besoin d’une application pour nous dire comment gérer son compte en banque, c’est croire en la magie. Or, la technologie n’a rien de magique et elle ne remplacera jamais le bon sens.
Vous voulez peut-être d’un réfrigérateur intelligent qui vous préviendra quand vos tomates vieillissent et vous proposera vos menus, mais d’autres se contentent de faire leur marché tous les jours après avoir fait le tour de ce qu’il y a dans le frigo, ce qui a comme conséquence de n’acheter que ce qui est nécessaire et de ne jamais jeter d’aliments, sauf lorsqu’à l’ouverture du paquet on constate que, malgré la date de péremption éloignée, le produit est moisi ou pourri.
C’est sûr, cette dernière solution exige que vous accordiez plus d’importance au temps d’arrêt, et que vous ne soyez pas engagé·e dans la course folle au travail et à la consommation. Tous n’ont pas ce loisir. Encore moins la mère monoparentale débordée ; elle n’a certainement pas les moyens d’avoir un frigo connecté. Celle qui les possède a aussi une bonne pour faire le tour de son frigo le matin.
Le robot conversationnel n’est pas l’intelligence artificielle, il en fait usage. Pour l’instant, il n’a pas d’initiative, sauf si on tarde à lui poser des questions. Il demande alors si on a encore besoin de ses services. Il est toujours muni du bouton marche/arrêt, car on peut s’en déconnecter en tout temps. Là, où ça devient embêtant, c’est lorsque les enthousiastes de la technologie voudront que la machine soit branchée en permanence et qu’elle prenne des initiatives. Iels deviendront alors au service celleux qui nous vendent ces machines, c’est-à-dire du technocapitalisme.
Que l’intelligence artificielle pose des diagnostics médicaux et propose des traitements est aussi problématique lorsqu’on sait que la moitié de la guérison (quand cette guérison est possible) consiste en l’écoute que les personnes soignantes apportent aux malades. Juste le fait de savoir qu’un être humain offre une oreille attentive aux problèmes que l’on explique est une grande partie de la thérapie elle-même, et c’est le drame de la médecine moderne de ne l’avoir toujours pas compris, ce qui apporte de l’eau au moulin de certaines approches alternatives pas toujours à la hauteur.
Rappelons que l’intelligence artificielle est mécanique et non inventive, reproductive mais pas innovatrice (elle sera un excellent faussaire) et qu’elle ne devrait jamais prendre de décisions qui affectent négativement le principe de bien-être tel qu’il a été développé dans la Déclaration de Montréal sur l’IA responsable. Et, encore une fois, pour que cela puisse être vérifiable, il faut qu’un service ou un système d’IA soit toujours doté du bouton marche/arrêt.
Francis Lagacé
«»-----------------------«»
Aucun commentaire:
Enregistrer un commentaire