Une conférence gratuite intitulée « Doit-on laisser l’I.A. gérer nos vies sans éthique ? » est organisée ce mardi 7 novembre en soirée au Quai des Savoirs de Toulouse. Elle réunit 5 professionnels du numérique. A cette occasion, France 3 Occitanie a pu interroger l’un d’eux.
Rachid Alami est directeur de Recherche au CNRS à Toulouse, au sein du Laboratoire d’analyse et d’architecture des systèmes (LAAS). Il dirige des recherches sur les robots et l’intelligence artificielle.
France 3 Occitanie : Sur quoi portent vos recherches actuelles ?
Rachid Alami : Depuis dix ans, j’étudie la robotique cognitive et interactive, c’est-à-dire que je mène des recherches sur les robots qui assistent les humains. Ils sont dotés de capacités de raisonnement, de planification, etc. Nous développons des algorithmes pour programmer ces robots, celui-là même qui va lui permettre de prendre des décisions afin d’atteindre le but qu’on lui a fixé. On teste ensuite des robots en situation réelle afin de voir comment il interagit avec les humains. Il faut lui apprendre à respecter les règles sociales que nous appliquons nous-même face à un autre humain. Par exemple : le robot doit comprendre qu’il doit passer derrière une personne qui est en train de lire une affiche, plutôt que de passer entre elle et l’affiche en prenant uniquement en compte le but d’aller d’un point A à un point B. Il doit éviter les gestes brusques, qui pourraient effrayer, etc. Si on n’apprend pas au robot à respecter ces règles sociales, le robot risque d’imposer des situations dangereuses ou inconfortables à un humain.
France 3 Occitanie : Justement, doit-on avoir peur de ces robots ?
Rachid Alami : Ces robots et l’intelligence artificielle qu’ils contiennent peuvent permettre de formidables avancées dans notre quotidien, dans de nombreux domaines. Nous n’en sommes qu’aux prémices de leur développement. Mais il est essentiel de mettre en place des garde-fous clairs. Il faudra s’assurer que les données qu’a recueilli un robot et le profilage qu’il en a tiré d’une personne (sur sa santé, sa performance au travail, etc) ne soient pas diffusées avec d’autres personnes que son utilisateur direct. Dès que l’on interagit avec un robot, il a une capacité fine et permanente de surveillance et de mesure des actions. Il y a ici donc un risque que des personnes prennent la main sur cette surveillance (un dirigeant politique, un chef d’entreprise, etc). J’espère que l’on trouvera le moyen de verrouiller ces informations, d’établir des règles, et par exemple de faire évoluer le RGPD (Règlement Général sur la Protection des Données) en ce sens. L’idéal serait que l’on puisse faire confiance à un robot comme à un proche ou à un médecin.
France 3 Occitanie : Est-il souhaitable d’accorder une telle confiance aux robots ?
Rachid Alami : Cela ne me paraît pas impossible dès lors que l’on se donne les moyens de bien encadrer l’usage de la technologie. Techniquement on sait et on peut crypter des informations, les protéger. Toutefois, je tiens à rappeler que les dangers de demain sont déjà là aujourd’hui. Sur Internet, les services soit disant gratuits nous coûtent en fait très chers en termes de surveillance. C’est déjà le cas sur les réseaux sociaux par exemple. Ils établissent un profil de nous d’après notre comportement en ligne. Si demain nous installons des robots à domicile, le risque d’une surveillance et d’une utilisation des informations recueillies de manière indue s’accroît. Un robot assistant qui prendra les constantes d’un patient chez lui devra par exemple transmettre ces données uniquement au médecin traitant, et non à un assureur…
France 3 Occitanie : Comment peut-on anticiper ?
Rachid Alami : Il est essentiel de mettre de l’éthique dans les programmes donc de sensibiliser les programmeurs à ces enjeux. Ils doivent veiller à ce qu’il n’y ait pas de biais éthique dans les décisions que prendront les machines. Par ailleurs, à chaque décision prise par un robot, il faudra se demander à qui cela profite d’un point de vue économique. Il faudra des règles strictes et avoir les moyens de les appliquer. Mais on sait qu’aujourd’hui, la technologie va tellement vite que la réglementation arrive en retard et seulement partiellement. La société civile, c’est-à-dire nous les citoyens, nous ne sommes pas assez ni conscients des dérives possibles, ni suffisamment consultés dans le cadre des décisions qui sont prises.
La conférence à laquelle participe Rachid Alami ce 7 novembre 2023 est retransmise en direct sur la page Facebook du Club Audiovisuel Numérique de Toulouse Métropole. L’enregistrement vidéo sera disponible ultérieurement sur la chaîne YouTube du club.
