2019年 8月 22日
Pendant la plus grande partie de sa jeune existence en tant que discipline technologique, l'expérience de l'utilisateur (UX en anglais) a été axée sur les interfaces utilisateur graphiques (GUI) affichées sous diverses formes (p. ex. écran d'ordinateur de bureau, écran de téléphone mobile, moniteur de chevet dans un hôpital). La recherche par les utilisateurs des logiciels et la conception se sont donc concentrées sur les interactions prévues et existantes que les humains ont avec ce qui peut être vu. Bien qu'il y ait eu une certaine notion que ce qui était vu était le résultat d'une logique numérique cachée, les utilisateurs de logiciels se sentaient, et en fait avaient, plus de pouvoir lorsqu'il s'agissait de partager des informations et de compléter des transactions pour eux-mêmes.
Avec l'avènement de l'apprentissage automatique et de l'intelligence artificielle (IA), il y a eu un changement dans le niveau d'action humaine dans l'expérience technologique. Le savoir incorporé a réduit l'effort humain nécessaire pour rechercher des informations en ligne (pensez à la sensibilité de la localisation dans un moteur de recherche), et la personnalisation nous a entourés de nos propres opinions et préférences (pensez aux publicités en ligne qui sont sensibles au comportement en ligne).
Comment, par conséquent, les chercheurs auprès des utilisateurs et les concepteurs répondent-ils aux besoins et aux préférences des êtres humains dans un monde où les expériences dépassent nos sens et où les décisions technologiques déterminent nos interactions dans la vie de tous les jours ? De nouvelles méthodes et de nouvelles relations sont nécessaires pour assurer l'action humaine dans un monde d'IA.
Du point de vue de la recherche sur les utilisateurs, l'une des relations clés est celle qui existe entre le chercheur auprès des utilisateurs et le spécialiste des données. Les ensembles de données sont le fondement des algorithmes. Sans données, les algorithmes sont des équations mathématiques avancées sans objet. Avec les données, les algorithmes commencent à caractériser une expérience en identifiant et en classant par ordre de priorité les modèles de comportement humain, les modèles de maladie, les modèles d'identité humaine. Sans données correctes et complètes, les algorithmes peuvent produire des résultats erronés qui pourraient aussi bien enlever un privilège qu'en accorder un.
Les spécialistes des données sont des experts du codage et du nettoyage des données. Ils optimisent les ensembles de données afin que les algorithmes puissent plus facilement les traiter. La conservation des ensembles de données est un art et une science, et plus il y a de données disponibles, plus une machine peut apprendre. Le risque est que les données soient incomplètes et, pire encore, inexactes. Dans le cas d'un diagnostic médical, des données incomplètes et incorrectes pourraient faire la différence entre la vie et la mort.
Les chercheurs auprès des utilisateurs et les spécialistes des données peuvent exercer leur mission en travaillant ensemble pour s'assurer que les données sont conçues en fonction de l'expérience humaine. La conception des données pourrait prendre la forme de personnages fondés sur la recherche qui sont comparés à la façon dont les gens sont caractérisés dans un ensemble de données. La conception des données pourrait également prendre la forme d'un modèle mental où les perceptions humaines du traitement des systèmes fondées sur la recherche sont comparées aux résultats de l'apprentissage machine pour mettre l'accent sur les modèles humains de prise de décision.
L'un des principaux défis pour les concepteurs est de savoir quand et comment démontrer que l'IA est à l'origine d'une expérience utilisateur. Un nombre croissant de fabricants et d'industries introduisent l'IA à la pointe de leurs produits et services, y compris le domaine de la santé, où la présence de l'IA est immédiatement visible dans une interface, ou est devenue la caractéristique principale (Siri ou Alexa par exemple). Le défi pour les concepteurs est de savoir comment l'IA peut faire partie d'un produit ou d'un système d'une manière acceptée, et que les utilisateurs soient à l'aise avec les décisions qu'elle prend pour eux, surtout en ce qui concerne leur santé.
L'IA expliquable (XAI) fait référence à des techniques d'IA qui peuvent être fiables et facilement comprises par les humains. En contraste avec le concept de "boîte noire" dans l'apprentissage machine (machine learning) où même les concepteurs et les développeurs peuvent ne pas être en mesure d'expliquer pourquoi l'IA est arrivée à une décision spécifique. Avec l'IA expliquable, si l'utilisateur n'est pas d'accord avec la décision fondée sur l'IA, il sera au moins en mesure de comprendre comment elle en est arrivée à cette décision. Mais avant de pouvoir le faire, il faudra que l'IA soit en mesure d'expliquer facilement à l'utilisateur comment elle est arrivée à une décision.
La méthode "penser à haute voix" est souvent utilisée dans la recherche sur les utilisateurs comme un moyen précieux et efficace de découvrir les processus de pensée des utilisateurs et d'obtenir des idées pendant qu'ils accomplissent leurs tâches. Cette méthode pourrait être traduite en IA expliquable par laquelle le processus de pensée (dans ce cas-ci l'algorithme) utilisé par l'IA pourrait être communiqué d'une manière qui peut être facilement comprise par les humains (via des graphismes ou du texte).
Lorsque l'IA est utilisée dans un logiciel médical pour donner un diagnostic à un patient, le logiciel pourrait générer un texte basé sur l'information fournie par le patient et afficher son raisonnement en utilisant des termes et des phrases qui peuvent être facilement compris par l'utilisateur, rendant l'information présentée aux cliniciens et aux patients plus facile à comprendre et peut-être à accepter.
Les concepteurs ont une capacité étonnante d'empathie pour les utilisateurs. En plus de déterminer les besoins des utilisateurs et les caractéristiques qu'ils désirent, les concepteurs peuvent également aider à comprendre la meilleure façon pour l'IA de communiquer avec les utilisateurs et de visualiser à quoi pourrait ressembler cette conversation. La recherche sur les utilisateurs sera toujours une partie inestimable du processus de développement car elle aide les concepteurs et les développeurs à comprendre les comportements, les besoins et les motivations des utilisateurs. Les premières recherches devraient se concentrer sur la compréhension de la façon dont les utilisateurs réagissent à l'IA et interagissent avec elle, aidant ainsi les concepteurs à concevoir la conversation.
Bien qu'il soit important pour l'IA d'expliquer ses processus, il doit y avoir un équilibre délicat entre fournir trop d'informations, causant une surcharge cognitive, et fournir trop peu d'informations lorsque l'utilisateur ne comprend pas encore parfaitement comment ou pourquoi la décision a été prise. Cela est particulièrement crucial dans le domaine des soins de santé, où l'IA peut commencer à reproduire ou à remplacer le rôle du professionnel de la santé lorsque le premier point de contact n'est plus humain.
En tant qu'humains, nous avons une grande capacité à comprendre, interpréter et communiquer. Nous pouvons mettre en mots et décrire avec éloquence des processus très complexes. Lors de l'implémentation de l'IA dans un logiciel destiné à être utilisé comme dispositif médical, l'utilisateur-chercheur et le concepteur ont tous deux la grande responsabilité d'exercer leur agence pour faciliter, de manière impartiale, le dialogue jusque-là tacite entre l'humain et l'IA.
Mary Burton est directrice de l'expérience utilisateur et Oliver Cook est spécialiste des facteurs humains dans le service Conception & Recherche des facteurs humains chez Emergo by UL.