Procès fictif, Rencontres du CJD : À Nice, l’IA au cœur des débats

L’IA n’est qu’un outil et l’essentiel réside dans le « qui décide ? » et « à quelles fins ? ». C’est ce qui ressort notamment de la 2e édition des Rencontres du Centre des jeunes dirigeants à Nice le 18 avril.

Avec l’intelligence artificielle, c’est l’intention qui compte

Cyril Dion, Arthur Auboeuf et Théo Alves Da Costa. ©CJD Nice

L’auteur et réalisateur Cyril Dion n’est pas du genre à occulter les sujets qui fâchent pour ménager son auditoire. Les organisateurs, le CJD Nice et le Crédit Agricole Provence Côte d’Azur, comptaient sur son franc-parler pour tenter de répondre à la question « Comment mettrons-nous les intelligences artificielles au service du vivant ? », avec le renfort de quatre autres experts : Asma Mhalla, politologue spécialiste des enjeux politiques et géopolitiques de la tech ; Diana Sebbar, directrice exécutive du 3IA Côte d’Azur ; Arthur Auboeuf, co-fondateur de Team for the planet ; et Théo Alves Da Costa, ingénieur en IA et co-président de l’ONG Data for Good. Juste avant son intervention à l’Allianz Riviera, devant un millier de personnes, le réalisateur de « Demain » et « Animal » a livré à la presse la primeur de ses propos, pour le moins alarmants. Il a expliqué qu’en travaillant sur l’écriture d’une mini-série autour de l’intelligence artificielle il s’est rendu compte que s’il y avait «  beaucoup d’inquiétudes sur ce que l’IA pourrait générer comme capacités à contrôler les humains  », il y avait «  extrêmement peu de questions qui se posent sur la faisabilité écologique de tout cela : la disponibilité des métaux, la disponibilité de l’énergie… ». « Dans les 20 prochaines années, l’industrie minière a l’intention d’extraire autant de métaux que depuis le début de l’humanité, a-t-il poursuivi. Plus on va vers la transition écologique, avec un modèle du tout électrique et de plus en plus numérisé, plus on a besoin d’aller chercher des métaux. On va être amené à creuser de plus en plus de mines et donc à détruire des écosystèmes entiers. Pourquoi ? Pour pouvoir réduire les émissions de CO2 ! Plein d’experts disent que pour résoudre le problème climatique on est en train de creuser notre tombe pour de bon ».

« Il suffit d’un peu de courage »

Et en ce qui concerne l’utilisation de l’IA, il y a également selon lui de nombreuses incertitudes : «  Ce qui est intéressant c’est que l’intelligence artificielle nous permet de démultiplier notre capacité de calculer et d’embrasser une réalité complexe. C’est super mais elle ne peut pas donner une direction à prendre, une intention. Si nous, au sens démocratique, nous ne donnons pas une intention, cela veut dire qu’elle est donnée par les géants de la tech. Et ils n’ont pas tous les mêmes intentions et ce ne sont pas des intentions pour faire en sorte que cette planète reste habitable pour 8 milliards de personnes. Il y a vraiment une question de reprise en main démocratique de cet outil  ». Ses propos, repris ensuite sur l’estrade, ont été confortés par ceux de Théo Alves Da Costa et Asma Mhalla. « Il faut faire attention à l’usage du numérique. Pour quelles finalités ? C’est la question centrale  », a affirmé Théo Alves Da Costa, critiquant les nombreux usages superficiels de l’IA. « La bonne nouvelle est qu’il n’y a pas besoin d’avoir grand-chose. Il suffit d’un peu de courage pour accepter de renoncer à certaines choses  ». Selon Asma Mhalla, intervenue en visio-conférence depuis Paris, « il ne faut pas se tromper sur les objectifs et les usages de l’IA. Se posent des questions fondamentales de gouvernance et d’intention. Ces systèmes d’IA sont souvent conçus, produits et commercialisés par quelques acteurs privés qui peuvent, dans certains cas, avoir une vision idéologique. Je pense à Sam Altman (directeur général d’OpenAI), je pense à Elon Musk (président de SpaceX). Et il y a d’autres géants technologiques, comme par exemple Google, qui ont lissé cet aspect idéologique pour avoir une aspiration d’infrastructure quasi publique. Tout dépend de la façon dont ces outils vont être gouvernés, a-t-elle commenté, avant de poser une question simple mais capitale : « Comment souhaitons-nous être gouvernés ? ».

Procès fictif de l’IA : « Cet outil doit rester au service de l’homme »

Le 11 avril, la faculté de Droit et de Science politique a été le théâtre de la « Tech Supreme Court – Edition Nice », premier procès fictif de l’intelligence artificielle en France.

« Ce procès est aussi le nôtre », a déclaré en ouverture des débats la présidente de la cour, Marina Teller, professeure de droit privé à l’Université Côte d’Azur et experte IA et éthique à l’Institut EuropIA, rappelant que l’enjeu était de « juger des machines, des créations qui sont peut-être devenues des créatures  ». Ce concept novateur a été proposé par l’agence de marketing The Dots après deux éditions au Luxembourg en 2023, sur la cryptomonnaie et sur l’IA, et organisé avec le département des Alpes-Maritimes, la Maison de l’intelligence artificielle, le Sictiam, l’Institut EuropIA et l’Université Côte d’Azur.

©S.G

Après avoir entendu plusieurs témoins, interrogés par un procureur et une avocate défendant l’IA, la cour a expliqué dans son « verdict » que «  cet outil (devait) rester au service de l’homme qui garde le discernement  ». L’accusée a été reconnue « non coupable » des chefs d’accusation au regard de ses impacts sociaux, « pour le moment  » et «  sous réserve de procédures strictes de conformité de ses algorithmes  ». Mais l’IA a été reconnue «  coupable  » des chefs d’accusation pour ses impacts sociétaux et pour les enjeux juridiques, bien qu’il appartienne aux États de mettre en place un régime de responsabilité, a rappelé la « cour », également composée de l’avocat Jean-Louis David et de Gregory Lewkowicz, professeur à l’Université libre de Bruxelles.

« Rythme effréné »

Ce procès fictif s’est déroulé dans l’amphithéâtre 200 du campus Trotabas devant plus de 150 personnes, à la fois intriguées par le format et désireuses d’en apprendre plus sur l’IA. Si le format, dynamique et ludique, a été l’occasion de bons mots et d’échanges parfois savoureux, le fond était des plus sérieux, avec de nombreux experts appelés à la barre, dont Stéphanie Lopez, docteure en informatique et ingénieure en mathématiques appliquées, et Pascal Staccini, professeur en santé publique et directeur du laboratoire de recherche RETINES. « Le Département est fier d’organiser ce procès fictif, dans le cadre de son cycle de conférences IA Dates, avec cette fois-ci une mise en scène particulière, à la faculté de Droit », a expliqué en introduction Charles Ange Ginésy. « C’est un moment privilégié pour débattre sur la place des nouvelles technologies qui s’introduisent à un rythme effréné dans notre quotidien  », a ajouté le président du département des Alpes-Maritimes. De nombreuses questions ont été soulevées, juridiques mais également éthiques et philosophiques, comme une semaine plus tard à l’Allianz Riviera lors des Rencontres du CJD. Et comme l’a rappelé Marina Teller, « c’est maintenant que tout commence. Nous n’en sommes qu’au début  ».