Par Heather Bussing
Pour donner suite à nos articles sur l'éthique de l'IA et des données, cette conversation avec Don Weinstein porte sur la responsabilisation et la transparence.
Dans cette série d'articles sur l'éthique de l'intelligence artificielle (IA) et des données, nous abordons les principes éthiques d'ADP d'explicabilité, de gouvernance des données, d'utilisation éthique des données et de confidentialité ainsi que de responsabilisation et de transparence.
Nous avons discuté avec Don Weinstein, chef de Technologie mondiale et produits d'ADP, de responsabilisation et de transparence.
Dans le contexte de l'IA, que signifient la responsabilisation et la transparence?
D. Weinstein : La responsabilisation signifie que nous nous efforçons de bien agir et de nous assurer que les moyens d'utiliser les données d'ADP sont pratiques et équitables. Nous devons nous poser les questions suivantes : qu'est-ce qui pourrait aller mal, comment pouvons-nous détecter et gérer les biais, et comment respecter et protéger la vie privée des gens.
Nous voulons aussi fournir aux gens les outils et les informations dont ils ont besoin pour prendre de meilleures décisions. Mais, les systèmes d'IA ne nous donnent pas de réponses. À la place, ils nous aident à poser de meilleures questions.
C'est là où la transparence entre en ligne de compte. La transparence signifie que nous informons les utilisateurs des facteurs servant à l'analyse qu'ils obtiennent. Ainsi, ils peuvent voir où elle s'applique ou non.
Avec l'IA, c'est l'occasion d'apprendre et de comprendre des choses que nous ne connaissions pas avant. Nous obtenons alors des renseignements plus riches, et cela révèle des questions et des approches auxquelles nous n'aurions pas pensé. Les décisions peuvent ensuite être basées sur de meilleures informations et, on l'espère, prises avec plus de confiance.
Comment ADP intègre-t-elle la responsabilisation et la transparence dans ses systèmes et ses produits?
D. Weinstein : En leur montrant les facteurs utilisés dans nos analyses et nos calculs, nous aidons les clients à comprendre les données qu'ils obtiennent. Si vous connaissez les 10 éléments dont nous tenons compte, vous avez une idée de ce qui compte pour vous.
Nous ne pouvons prédire l'avenir (mis à part ce que nous contrôlons). Nous pouvons donner à nos clients des outils qui offrent des renseignements pertinents et pratiques en combinaison avec l'information dont ils ont besoin pour utiliser ces outils de façon efficace.
Pourquoi la responsabilisation et la transparence représentent-elles une partie importante de l'éthique de l'IA et des données?
D. Weinstein : Nous comprenons que nos produits sont utilisés en relation avec des décisions sur les carrières et les vies des gens. ADP a démarré comme entreprise en aidant ses clients à s'assurer de l'exactitude des chèques de paie des employés. Nous avons toujours été conscients que ce que nous faisons touche nos clients et leurs employés de manière importante et fondamentale.
Nous disposons aussi d'une grande quantité de données personnelles sensibles sur les gens. La protection de la confidentialité et la sécurité des données représentent donc les fondements de notre mission chez ADP. Alors que nous passons à l'apprentissage machine et que nous découvrons des moyens d'obtenir des renseignements plus approfondis à partir de nos données, nous voulons agir aussi soigneusement et judicieusement que possible.
J'ai aussi parlé à beaucoup de fournisseurs qui font des déclarations à propos de ce qu'ils peuvent faire avec des données qui ne sont pas véritables et dans certains cas, qui ne sont pas possibles. Ce sont des comportements non professionnels concernant les données.
Nous sommes très prudents à propos de la surévaluation de ce que nous pouvons faire ou non. Nous testons, surveillons et améliorons continuellement nos modèles pour éviter que les changements aient un impact inapproprié sur les résultats.
Nous avons également créé le conseil d’éthique de l’IA et des données conseil d'éthique de l'IA et des données d'ADP. Nous avons sollicité des gens de l'extérieur de l'entreprise pour obtenir des perspectives différentes. Nous avons également créé des processus d'évaluation de l'éthique et des ressources qui font partie du développement de l'ensemble de nos solutions comprenant des données et l'apprentissage machine.
Autant les données et la technologie comptent pour nous chez ADP, autant nous savons que nos outils ont une incidence sur les gens. Nous prenons cette responsabilité très au sérieux, et l'éthique représente une partie importante du fait de bien agir.
En savoir plus :
Attention! Attention! Alerte maximale! Avec le télétravail comme nouvelle norme, nous sommes plus susceptibles que jamais de subir des cyberattaques. Le cybercriminel d'aujourd'hui est hyper sophistiqué, et en ce qui concerne les brèches de sécurité, il n'est plus question de savoir si elles se produiront, mais plutôt quand elles auront lieu. Écoutez ce conférencier Ted Talk, Andre Boysen, éminent spécialiste mondial en sécurité informatique, parler de la prévention des brèches de cybersécurité, des vulnérabilités de votre système informatique, de la protection des données sensibles et de ses principales prévisions en matière de cybersécurité pour 2021. Écoutez ce balado (en tout temps disponible en anglais) : Cybersecurity in the Workplace.
Apprenez-en plus sur l'engagement d'ADP envers la vie privée et lisez notre document de position (en anglais seulement) ADP: Ethics in Artificial Intelligence, que l'on retrouve sous la section Intelligence artificielle, données et éthique de la page Confidentialité chez ADP.
Cet article est paru à l’origine dans Spark Parraîné par ADP.
