Algorithmes pour une prise de décision plus simple (2/2)

Ces caractéristiques contrastées délimitent deux conceptions de la prise de décision : la théorie rationnelle traditionnelle et la théorie non rationnelle[1]. La rationalité traditionnelle suggère qu'une bonne décision est prise en considérant toutes les alternatives de décision et les conséquences qui les accompagnent, en estimant et en multipliant la probabilité subjective par l'utilité attendue de chaque conséquence, puis en sélectionnant l'option dont l'utilité attendue est la plus grande. Mais pour les décideurs humains dans des environnements incertains, ce processus est psychologiquement irréaliste (Gigerenzer, 2001). Au lieu de considérer les humains comme des êtres omniscients, les théories non rationnelles, telles que la rationalité limitée, illustrent un processus de prise de décision dans lequel l'environnement est marqué par un temps, des ressources et des informations limités, et où l'optimisation rationnelle est irréalisable et peu judicieuse. Alors que la rationalité traditionnelle séduit par son caractère raisonnable, la prise de décision dans le monde réel respecte naturellement les principes de non-rationalité. Ainsi, lorsque des algorithmes rationnels standard sont présentés comme des aides aux décideurs humains, une fausse hypothèse de compatibilité entre des stratégies de décision intrinsèquement différentes est émise. L'aversion pour les algorithmes, directement et indirectement, peut être attribuée à cette hypothèse.

En raison de leur orientation probabiliste, les aides algorithmiques à la décision standard confrontent la cognition humaine de plein fouet - vous acceptez ou rejetez l'idée algorithmique ; tout ou rien. Comme ces algorithmes effectuent un processus d'optimisation rationnelle, les possibilités d'intégration de la non-rationalité humaine sont rares. Dans le modèle de prise de décision algorithmique prédominant chez les consommateurs, ce décalage entre rationalité et non-rationalité se manifeste par une interaction où le décideur humain effectue un calcul intuitif, consulte le calcul de l'algorithme et doit ensuite choisir une ligne de conduite en tenant compte ou non des conseils de l'algorithme. Il va sans dire qu'il y a très peu d'interaction dans ce modèle, car le jugement intuitif et le jugement statistique sont opposés l'un à l'autre - un bras de fer psychologique dominé par l'intuition à maintes reprises.

Pour concevoir des prothèses cognitives capables de relier l'esprit humain à des flux de données normalement incompréhensibles, permettant ainsi une meilleure prise de décision, la non-rationalité doit être le principe fondateur. Rencontrant des décideurs humains dans le monde de l'incertitude, où les décisions doivent être prises en temps limité (fast) et avec des informations limitées (frugal), l'application du cadre fast-and-frugal à la conception d'algorithmes est un cas contemporain de mobilisation de la théorie non rationnelle pour des systèmes décisionnels humains-algorithmes cohésifs (Phillips, Neth, Woike, & Gaissmaier, 2017). Bien qu'elle ne soit pas sans limites, cette tendance à structurer les algorithmes fondés sur des heuristiques permet aux décideurs humains et aux algorithmes de partager la collecte, l'ordonnancement et l'évaluation, étape par étape, des données disponibles et d'arriver finalement à une conclusion unique et commune. Ce faisant, la cognition de l'homme et de l'algorithme est intégrée en amont du processus de décision, ce qui permet une expérience d'augmentation plus participative et moins conflictuelle.

Cette intégration de la rigueur statistique algorithmique et de la sensibilité heuristique humaine est une tâche manifestement difficile qui nécessite une communauté multidisciplinaire. Alors que le discours oscille entre l'abstrait et le pragmatique, il est important de réfléchir à ce que nous voulons, attendons et exigeons de nos décideurs et de nos algorithmes de prise de décision.