Première législation au monde à encadrer l’intelligence artificielle, l’AI Act a été validé par l’Union européenne en février dernier. Après plusieurs années de discussions et de négociations, les pays membres sont finalement tombés d’accord. Pour garantir un maximum de sécurité à leurs utilisateurs, les systèmes d’IA doivent être réglementés.
Alors quelles sont les entreprises concernées par cette nouvelle loi ? Que prévoit-elle exactement ? Et à partir de quand les entreprises devront-elles respecter les nouvelles règles imposées par l’AI Act ? Explications.
Pourquoi réguler le domaine de l’intelligence artificielle ?
Récemment adopté par le Parlement européen, l’AI Act (réglement européen sur l’intelligence artificielle) est un texte historique. Il s’agit en effet de la première loi sur l’IA au monde ! Son objectif ? Garantir la sécurité des utilisateurs de l’IA et la protection de leurs droits fondamentaux, en continuant à encourager l’innovation et le développement d’une intelligence artificielle de confiance…
Une technologie de plus en plus utilisée
Si l’intelligence artificielle se développe depuis plusieurs années, les récentes innovations et avancées technologiques ont fortement accéléré son évolution. Aujourd’hui, plusieurs systèmes d’IA sont parfaitement intégrés à nos habitudes quotidiennes ! Assistants virtuels et filtres anti-spam, algorithmes de recommandation de contenu sur les plateformes de streaming, services de reconnaissance faciale ou conduite de voitures autonomes… On utilise parfois l’intelligence artificielle sans s’en rendre compte.
Les systèmes d’IA sont de plus en plus performants et polyvalents. Ils permettent aussi d’améliorer des processus ou de résoudre des tâches plus complexes dans de nombreux secteurs ou industries ! On les utilise par exemple dans le domaine médical pour dépister et diagnostiquer certaines maladies. Et ils peuvent aussi servir à améliorer la prise en charge médicale. Des algorithmes prédictifs permettent également de répondre à de nombreuses problématiques dans les secteurs de la logistique ou de la grande distribution, du marketing ou de la finance…
Une réglementation indispensable, pour éviter certaines dérives…
En perpétuelle évolution, l’intelligence artificielle et les systèmes qui l’exploitent continuent à se développer. Et grâce à leur capacité d’adaptation et d’apprentissage, ils offrent d’importantes opportunités de développement aux entreprises ! Le machine learning permet à un système informatique d’analyser des données et d’apprendre de ces données. Il peut ensuite prendre des décisions de manière « automatique ». Plus poussée, la technologie du deep learning permet quant à elle de créer un véritable réseau neuronal artificiel. Le système est capable d’apprendre et de prendre des décisions intelligentes seul.
Mais s’il s’agit d’un véritable levier de croissance pour les entreprises, l’IA soulève également certaines questions éthiques, juridiques et sociétales. Sécurité des données personnelles et protection de la vie privée, diffusion de fausses informations ou d’erreurs générées par les machines, remplacement de certains métiers, impact sur l’emploi et sur l’économie… Pour garantir aux utilisateurs une intelligence artificielle saine, éthique et responsable, cette technologie doit être régulée et encadrée. Et c’est justement l’objectif de l’AI Act.
Une nouvelle réglementation européenne, pour tous les opérateurs de systèmes d’IA
L’AI Act vise à réguler l’intelligence artificielle en Europe, pour garantir une IA responsable, saine et éthique. Elle impose certaines interdictions et le respect de nouvelles règles à tous les opérateurs de systèmes d’IA qui traitent sur le marché européen (fournisseurs et utilisateurs).
Qu’est-ce qu’un système d’IA ?
Un système d’IA (SIA) est une application concrète du concept théorique de l’intelligence artificielle. Il s’agit d’un système informatique complet, dont certains composants font appel à l’IA. Le SIA est imaginé et conçu pour imiter le comportement humain. Il réalise des tâches plus ou moins complexes, via des algorithmes et des programmes spécifiques. Il apprend, réfléchit et agit comme un être humain.
Un système d’IA est « un système basé sur une machine conçu pour fonctionner avec différents niveaux d’autonomie, qui peut s’adapter après son déploiement et qui, pour des objectifs explicites ou implicites, déduit, à partir des données qu’il reçoit, comment générer des résultats tels que des prédictions, du contenu, des recommandations ou des décisions qui peuvent influencer des environnements physiques ou virtuels ».
AI Act (règlement européen sur l’intelligence artificielle)
Ensemble complexe, un système d’IA repose d’abord sur une infrastructure informatique solide et performante. Il fonctionne ensuite à partir d’algorithmes. Ils permettent d’analyser et d’interpréter des données, pour ensuite livrer un résultat (résoudre un problème, par exemple). Plus les données qui alimentent les algorithmes et le système d’apprentissage du SIA sont précises et nombreuses, plus le système est performant. Et en plus de modèles d’apprentissage, le SIA peut également intégrer des modèles prédictifs.
Quelles sont les entreprises concernées ?
Chatbots et assistants virtuels, automatisation de certaines tâches, gestion des stocks ou prédiction des tendances… De nombreuses entreprises utilisent aujourd’hui des systèmes d’IA. Cela leur permet de développer leurs services ou leurs produits, d’optimiser la gestion de leur service client ou leur gestion RH, ou encore d’améliorer leurs analyses du marché… Et si elles interviennent sur le marché européen, elles devront bientôt se soumettre aux règles et aux contraintes de l’AI Act.
Le texte sera applicable à tous les opérateurs (fournisseurs, importateurs, distributeurs et déployeurs), qui conçoivent, développent, fournissent ou déploient un système d’IA au sein de l’Union européenne. Ceux qui ne respecteront pas les règles de cette nouvelle loi s’exposeront à d’importantes sanctions financières (elles pourront aller jusqu’à 35 millions d’euros ou jusqu’à 7 % de leur chiffre d’affaires annuel).
AI Act : quelles seront les règles à respecter pour les entreprises ?
L’AI Act va révolutionner certains aspects de l’utilisation et de la gestion de l’IA par les entreprises. Le texte réglementaire classe les SIA par niveaux de risque : il distingue les risques inacceptables, élevés et minimes. Selon le type de SIA qu’elles utilisent – et le niveau de risque -, les entreprises devront prendre certaines mesures ou se soumettre à des règles plus ou moins contraignantes pour se mettre en conformité.
L’interdiction des systèmes d’IA à risque inacceptable
Les systèmes d’IA à risque inacceptable sont interdits par l’AI Act. On parle ici des applications qui peuvent porter atteinte à l’intégrité des personnes, ou menacer leur sécurité, leurs moyens de subsistance ou leurs droits, comme les systèmes basés sur :
- la catégorisation biométrique, avec l’utilisation de données à caractère sensible (comme l’origine ethnique, l’orientation sexuelle ou les opinions politiques…) ;
- la surveillance de masse ;
- la reconnaissance des émotions sur le lieu de travail et dans les établissements d’enseignement ;
- la notation sociale (scoring social) ;
- la manipulation du comportement humain ou l’exploitation de la vulnérabilité des personnes avec des techniques subliminales ;
- …
Les entreprises qui utilisent ce type de système doivent s’en débarrasser dans les 6 mois qui suivent la date de mise en application de la loi.
Des règles strictes pour les systèmes d’IA à risque élevé
L’AI Act régule surtout les systèmes d’IA à risque élevé (ou haut risque), utilisés dans des domaines sensibles comme l’éducation, la justice et le maintien de l’ordre, l’emploi ou l’accès à des services essentiels… Il s’agit par exemple des systèmes qui déterminent l’accès ou l’affectation à des établissements d’enseignement et de formation professionnelle, ou des systèmes d’évaluation de la solvabilité (sauf en cas de détection de fraude).
Le règlement européen impose des règles spécifiques (et contraignantes) aux entreprises qui fournissent ou utilisent ces systèmes d’IA. Elles doivent notamment prévoir l’enregistrement de ces SIA dans une base de données européenne. Elles doivent également établir une documentation technique et tenir des registres, mettre en place un outil de gestion des risques et un système de surveillance humaine…
Une obligation d’information et de transparence pour les systèmes d’IA à risque faible
Les systèmes d’IA à risque limité profitent quant à eux d’un cadre réglementaire plus souple. En plus d’une obligation de transparence, les entreprises qui les déploient doivent garantir le respect du droit d’auteur. Les personnes qui utilisent ces SIA doivent également avoir conscience qu’elles interagissent avec l’intelligence artificielle.
Le développement de modèles d’IA à usage général (GPAI, pour General Purpose AI) répond enfin à d’autres règles. En plus de se conformer à la directive sur les droits d’auteur, leurs fournisseurs doivent pouvoir renseigner leurs utilisateurs sur leurs données d’entraînement. Ils doivent par exemple fournir des instructions d’utilisation, une documentation technique, un résumé du contenu utilisé pour la formation du modèle…
Comment se préparer à l’entrée en vigueur de la loi ?
Adopté par les Etats membres de l’Union européenne en mars dernier, le règlement européen sur l’intelligence artificielle entrera en vigueur 20 jours après sa publication au Journal officiel européen. L’AI Act sera pleinement applicable 24 mois après (avec des délais compris entre 6 et 36 mois, selon les dispositions). Les entreprises doivent donc se préparer dès aujourd’hui à l’entrée en vigueur et à l’application de cette nouvelle loi.
Pour être prête à temps, l’entreprise peut actionner plusieurs leviers :
- réaliser un audit des systèmes d’IA déployés ou utilisés au sein de la structure : cartographier les SIA, évaluer leur niveau de risque et les classer ;
- renforcer les compétences de ses équipes en matière d’IA, les sensibiliser au respect des nouvelles normes, former une équipe dédiée à la gouvernance et à la mise en conformité : l’entreprise peut par exemple proposer à ses collaborateurs de suivre une formation professionnelle « Chef de projet en Intelligence Artificielle ». Ce métier de plus en plus recherché peut en effet l’aider à déployer, à gouverner et à gérer ses systèmes d’IA, ainsi que leur mise en conformité avec l’AI Act ;
- rassembler des informations sur le fonctionnement de ses systèmes d’IA et sur sa politique de traitement et gestion des données, et s’assurer de la conformité des SIA aux exigences de l’AI Act.
Vous souhaitez vous reconvertir ou vous former aux métiers de l’IA ? Plusieurs dispositifs de financement vous permettent de suivre une formation professionnelle à moindre coût ! Pour en savoir plus sur nos formations et leur financement, n’hésitez pas à contacter nos conseillers.
