Usages de l’IA dans le supérieur : des enjeux sociétaux, de régulation et de souveraineté

Quels usages de l’IA dans le supérieur ? Tel était le thème de la soirée organisée par Campus Matin et Google Cloud, le 19 juin dernier à Paris. L’occasion de faire un pas de côté avec David Gruson, fondateur d’Ethik IA et spécialiste du monde de la santé. Avec l’entrée en vigueur progressive de l’AI Act à partir du 1^er août 2024, la réglementation européenne assez précise sur l’IA générative dans le domaine médical, l’enjeu de la régulation a tout de suite été soulevé.

Des dérives à anticiper

Si la technologie accélère comme c’est le cas aujourd’hui, il faudra pouvoir la contrôler et limiter les dérives éventuelles.

« La réglementation européenne n’est pas trop contraignante, elle impose surtout aux acteurs du monde de la santé qui utilisent l’IA générative pour les diagnostics, par exemple, de mettre en place des procédures visant à contrôler les usages. Il leur est donc demandé de valider régulièrement les résultats de la machine en les comparant avec l’expertise de spécialistes, bien humains », explique David Gruson.

Il poursuit : « Ce modèle est duplicable au monde de l’éducation, considéré comme sensible au même titre que la santé ou la défense. Ce qui n’exclut pas de collaborer avec des pays hors UE qui disposeraient de la bonne technologie, tout en prenant les précautions nécessaires pour une véritable protection des données personnelles. »

Un enjeu de souveraineté

La compétition forcenée sur le thème de l’IA entre l’Europe, les États-Unis et la Chine exige l’émergence de champions pour simplement conserver une part de souveraineté de notre économie et, en creux, notre indépendance.

Raphaëlle Gautier, directrice exécutive de Hi ! Paris, a rappelé l’importance de disposer d’un hub d’excellence où se mêlent recherche fondamentale et appliquée, aussi bien pour innover que pour réfléchir aux thématiques de l’inclusion ou de l’éthique.

La France a d’ailleurs relevé plutôt bien le défi, « même si les sommes investies chez nous n’ont rien à voir avec celles dépensées aux États-Unis, voire dans d’autres pays voisins ».

En seconde partie, Antoine Larmanjat, directeur technique de Google Cloud, a rappelé que nous en sommes au tout début de la révolution IA et que ce que nous voyons n’est qu’une partie infime du champ des possibles. En tout état de cause, le professeur augmenté via l’intelligence artificielle ne sera plus dans la même posture qu’auparavant.

La correction des examens, la production de contenus, l’acquisition des connaissances, l’apprentissage, la relation pédagogique vont être bousculés par les possibilités infinies de la technologie qui permettra notamment d’individualiser totalement les parcours, en ciblant les forces ou les faiblesses de chaque apprenant.

La notion de souveraineté a fait l’objet d’un focus particulier avec Cyprien Falque, directeur général de S3NS, la joint-venture lancée par Thalès avec la technologie Google Cloud.

« En opérant sur le sol français avec un acteur majeur de la tech, nous répondons aux exigences de souveraineté imposées par l’État, les entreprises ou les administrations ». Il est en effet fondamental de disposer de solutions de confiance, prémunissant les usagers d’une quelconque ingérence.

L’IA générative évolue si vite qu’il est difficile de percevoir encore la transformation du modèle éducatif. Quoiqu’il en soit, chaque citoyen devra rapidement comprendre les enjeux, les bénéfices ou les risques en se formant pour rester aux commandes de la machine et grandir avec.