Les risques liés à l’utilisation de l’intelligence artificielle dans nos pratiques

Ces dernières années ont été marquées par des améliorations extraordinaires de l’intelligence artificielle (IA). Ainsi, bien qu’il présente des avantages en termes de productivité dans le monde du travail, il existe aussi des inquiétudes au cas où elle se retrouvait entre de mauvaises de mains. Pour prévenir les menaces potentielles à la sécurité dues à l’IA, la CNIL a présenté en décembre 2017 plusieurs recommandations permettant à l’homme de garder la main sur ses données personnelles et sa vie privée.

Qu’est-ce que l’intelligence artificielle ?

Tout simplement, il s’agit de programmer des machines capables de faire des tâches ou actions qui sont considérées comme nécessitant de l’intelligence lorsque les humains les font. À titre d’exemple, l’IA doit comprendre le langage naturel, reconnaître les visages sur les photos, conduire une voiture, ou deviner les chansons que nous pourrions apprécier grâce aux informations que nous avons déjà lues auparavant.

Comment l’intelligence artificielle nous aidera dans le milieu du travail ?

L’objectif premier de l’IA à l’heure actuelle constitue l’apprentissage automatique, l’analyse des grandes quantités d’informations. Autrement dit, il s’agit d’élaborer des programmes pour choisir et répondre à des modèles dans de grandes quantités de données, comme l’identification d’ADN, etc. Le processus de traitement d’une quantité énorme d’informations demanderait trop de temps aux humains pour valoir la peine d’être réalisé.

L’utilisation de l’IA pourrait s’avérer indispensable dans plusieurs domaines, allant de la santé à la finance en passant par le transport aérien ou terrestre ou ferroviaire et le commerce, etc. Ainsi, plus la technologie évolue, plus le nombre d’applications proposées sur le marché explose, d’où l’inquiétude autour du développement de cette technologie.

Quels sont les risques liés à l’utilisation de l’intelligence artificielle ?

Les entreprises adoptent de plus en plus des robots pré-programmés pour effectuer un certain nombre de tâches manuelles, qu’ils soient utilisés pour les livraisons, comme machines d’usine ou simplement pour le nettoyage. Les experts avertissent que ceux-ci sont davantage menacés d’être détournés et utilisés à des fins malveillantes, par exemple pour transporter des explosifs.

De nos jours, trois principaux risques ont été identifiés dans lesquels l’IA pourrait être utilisée à des fins malveillantes. II s’agit, notamment du domaine politique, numérique ou physique avec l’utilisation des drones, le piratage, etc.

Les experts de la CNIL mettent en garde contre la menace que représentent les chatbots de plus en plus avancés. Ces derniers peuvent utiliser l’apprentissage automatique pour usurper votre identité, pirater vos comptes. Autres inquiétudes portent sur la manière dont les bases de données sont conçues et utilisées par les algorithmes.

Par exemple, des milliers de robots peuvent inonder un service en ligne – dans ce qu’ils appellent un « déni de service humain » afin de bloquer les utilisateur s habituels, ce qui peut rendre moins sûr le service. Les entreprises du secteur de la relation client ou du numérique peuvent faire l’objet de ce type de cyberattaque.Tout cela semble effrayant, c’est la raison pour laquelle, les experts émettent des recommandations sur la manière de de prévenir et limiter les risques.

Les recommandations de la CNIL pour limiter les risques

L’organisme propose l’application d’un principe de loyauté et de vigilance à tous les secteurs. L’objectif est de prévenir toute trahison de la part de l’outil à l’égard des consommateurs ou les citoyens et de ne pas accorder une totale confiance aux machines. Selon la présidente de la CNIL, Isabelle Falque-Pierrotin « Ces deux nouveaux concepts sont les briques de base de la régulation d’univers numériques très complexes. Ils doivent être maintenus tout au long de la chaîne ». Elle préconise également de former les différents acteurs à l’éthique, et cela, dès l’étape de conception des algorithmes jusqu’à leurs utilisations.