Recommandations de la CNIL sur le développement des systèmes d’intelligence artificielle : que faut-il en retenir ?
Corinne THIERACHE
Aucun acteur de l’IA ou du numérique n’a pu passer à côté de cette information. La CNIL, autorité de protection des données qui s’est également saisie des questions d’intelligence artificielle, a publié le 8 avril dernier ses premières fiches de recommandations relatives au développement des systèmes d’IA. La CNIL a choisi de développer 7 thèmes, que sont :
- La détermination du régime juridique applicable
- La détermination de la finalité
- La qualification des fournisseurs d’IA
- La définition d’une base légale, notamment en cas de réutilisation des données
- La méthode pour réaliser une analyse d’impact
- L’intégration du RGPD dès la conception du projet d’IA
- La prise en compte du RGPD tout au long de la constitution des jeux de données d’entraînement
Pour rappel, la CNIL a créé en janvier 2023, un service dédié à l’intelligence artificielle qui a notamment pour mission de préparer l’entrée en vigueur du règlement européen sur l’IA voté par les eurodéputés le 13 mars 2024 et qui doit encore attendre le vote en mai par le Conseil de l’Union européenne. Les fiches pratiques font suite à une consultation publique lancée par la CNIL en octobre 2023, à laquelle plus de 40 acteurs, issus de secteurs variés, ont répondu.
Avec cette publication, la Commission prend en compte les spécificités techniques de l’intelligence artificielle quant aux différentes étapes de la construction et de la mise en œuvre d’un système d’IA.
Le périmètre de ces recommandations ne couvre pas toutes les étapes de la mise en place d’un système d’IA mais uniquement sa phase de développement, qui consiste à concevoir, développer et entraîner un système d’IA. Pour autant, cela n’exclut pas nécessairement l’applicabilité des recommandations à la phase de déploiement du système d’IA. En effet, plusieurs de ces fiches permettent de s’interroger de manière pertinente sur la gestion des données à caractère personnel dans la phase de déploiement, qui permet, en tout état de cause, de collecter de nouveaux jeux de données impliquant parfois un retour en phase de développement.
Alors que la diffusion exponentielle dans notre société des outils intégrant de l’IA nécessite de la part des entreprises souhaitant développer ce type de technologie que celles-ci mettent en place une réelle politique de gestion relative à la protection des données personnelles qu’elles collectent et exploitent dans l’outil intégrant de l’IA, il ne fait aucun doute que la publication par la CNIL de ces fiches pratiques constitue un outil d’accompagnement efficace au profit des organisations devant se conformer à la règlementation en matière de protection des données personnelles tout en développant des outils innovants tels que l’IA.
Notre équipe Propriété intellectuelle et Droit des technologies et du numérique, dirigée par Corinne Thiérache, se tient à votre disposition pour vous conseiller sur ces sujets éminemment techniques mais également juridiques induisant des obligations mais aussi des droits à préserver et défendre, en vous proposant un accompagnement adapté en fonction de vos secteurs d’activité.