Maya Noël (France Digitale) : "Créer son propre comité d’éthique est plus pertinent que de réguler à outrance"

Décideurs. En quelques mots, pourriez-vous nous présenter France Digitale ?

Maya Noël. L’association France Digitale fédère un ensemble de 2000 membres, start-up, scale-up et fonds d’investissement. L’objectif est d’y échanger entre pairs, d’évoquer les meilleurs contacts et outils, mais également d’aborder des problématiques récurrentes, telles que la contractualisation avec de grands groupes. L’association se fait fort de défendre d’une seule voix les problématiques de ses membres auprès des décideurs publics.

De quelle manière sensibilisez-vous les pouvoirs publics ?

En premier lieu, nous décryptons les cas d’usage pertinents des entreprises pour améliorer leur compréhension et connaissance des nouveaux modèles économiques et d’innovation. Nous avons aussi un rôle d’éducation auprès d’eux. Nous les rencontrons pour les sensibiliser et les invitons à nos évènements de décryptage. Nous participons également à des auditions avec des députés et des ministres de tout bord.

Pour l’IA, pourriez-vous nous préciser les modes d’intervention de France Digitale ?

Depuis huit ans déjà, nous organisons l’évènement France is AI, renommé "FD3" en 2023, dont l’un des enjeux est de réunir des CTO de start-up, les DSI des grands groupes ainsi que des chercheurs académiques. Beaucoup de Français œuvrent au sein des entreprises spécialisées en IA, tels que Charles Gorintin advisor chez Mistral AI, ou encore Clément Delangue, CEO de la société Hugging Face. Nous avons les talents en France et en Europe. En revanche, ce qui manque, c’est la capacité de financer la recherche au niveau auquel le font les États-Unis. C’est pourquoi nous organisons le France Digitale Tour, au cours duquel les start-up avec les cas d’usage les plus prometteurs rencontrent les fonds d’investissement.

"Nous avons été le premier contributeur d’amendements sur l’AI Act"

Au quotidien, nous effectuons une veille globale sur l’IA, puisque certaines entreprises n’ont pas les ressources pour l’internaliser. D’autre part, depuis 2020, nos membres se réunissent sous forme de task-force, ce qui nous permet d’agréger tous les points de vue afin de faire émerger des positions, voire des propositions d’amendement et de résolutions aux règlements nationaux et européens. Ainsi, nous avons été le premier contributeur d’amendements sur l’AI Act.

Pourriez-vous nous en dire plus sur l’AI Act européen ?

Dans ce texte, tout l’enjeu est de distinguer les usages à risques. Avant de réguler la tech, il vaut mieux en réguler les usages. Un bon exemple est celui de la reconnaissance vidéo. Par ce moyen, la RATP pourrait reconnaître les personnes à terre, pour choisir d’envoyer les secours… Sauf que, repérer les personnes au sol, inclurait également les SDF. Est-ce le rôle de la RATP de savoir où ils se trouvent ? Ou encore d’intervenir ou pas et à quelle fin ? Ces considérations éthiques sont à prendre en compte, ce à quoi s’emploie la start-up XXII qui développe ces innovations.

Quels sujets regardez-vous de près ?

De manière générale, il faut réfléchir à la frugalité de conception des algorithmes. Ensuite, attirer des profils diversifiés dans le secteur. Plus il y aura de personnes à participer aux modèles d’IA, plus facilement les biais seront évités.

La détermination de normes pour l’IA est en cours. Les groupes de travail qui réfléchissent à cette réglementation sont plutôt composés de grands groupes, dont les moyens dépassent ceux des start-up et scale-up. En imposant trop de règles, les entreprises devront penser à leur conformité avant leur développement. La réglementation a un coût. Certains projets pourraient être tués dans l’œuf. France Digitale s’attache à ce que les normes soient adaptées aux start-up pour qu’elles les intègrent dans leur feuille de route de conformité.

"Sinon une fracture numérique encore plus forte va se créer entre ceux qui utilisent l’IA et ceux qui n’y auront pas accès"

L’IA générative fascine. Que recommandez-vous pour faciliter cette prise en main ?

Créer son propre comité d’éthique est plus pertinent que de réguler à outrance. En d’autres termes, il vaut mieux sensibiliser sur les dérives qu’émettre des règles qui vont freiner les dérives mais aussi l’innovation. C’est l’humain qui crée l’usage donc on doit s’y former, sinon une fracture numérique encore plus forte va se créer entre ceux qui utilisent l’IA et ceux qui n’y auront pas accès.

Propos recueillis par Alexandra Bui