Les chefs d’entreprises et les directeurs financiers doivent renforcer la confiance dans l’intelligence artificielle (IA) en prenant les mesures nécessaires au sein de leur organisation pour gérer les risques associés.
L’IA occupe une place de plus en plus importante dans la comptabilité et l’information financière des entreprises. Les directeurs et contrôleurs financiers doivent donc s’assurer de la pertinence de la surveillance et des contrôles des systèmes d’IA.
Dans la première d’une série de réflexions, AI monitor: trust, l’ACCA (Association of Chartered Certified Accountants) demande aux professionnels de la finance de garantir une gouvernance et une gestion adéquates des risques liés à l’IA, en commençant par :
• investir dans la maîtrise de l’IA et le développement des compétences : les professionnels de la finance doivent investir dans l’éducation et la formation pour une évaluation critique des résultats de l’IA, communiquer clairement avec les principaux interlocuteurs et prendre des décisions éclairées,
• collaborer par l’intermédiaire d’équipes pluridisciplinaires : les professionnels de la finance doivent collaborer activement avec les équipes informatiques, de science des données, juridiques et de gestion des risques, et
• développer un cadre de gouvernance de l’IA : en commençant par les principales utilisations, les professionnels de la finance devraient prendre des mesures au sein de leur organisation pour établir des politiques, une surveillance et des pratiques de gouvernance claires.
L’IA offre de nombreuses opportunités aux entreprises, notamment en leur permettant d’obtenir davantage d’informations à partir d’un plus large éventail de sources, en favorisant une plus grande efficacité et en améliorant l’expérience client. Il y a également la question de confiance dans les rapports comptables et financiers, avec l’introduction de nouvelles dynamiques dans les mécanismes de confiance traditionnels, qui sont le fondement de la comptabilité d’entreprise.
« L’introduction de l’IA est une question de confiance, à la fois dans les systèmes et dans les personnes avec lesquelles nous travaillons, ainsi que la manière dont nous réunissons ces deux éléments », déclare Alistair Brisbourne, Chef de la recherche technologique de l’ACCA.
« Les chefs d’entreprises et les directeurs financiers doivent se concentrer sur les changements nécessaires pour exploiter les nombreuses opportunités potentielles tout en conservant la confiance. Cela inclut l’amélioration des compétences pour utiliser la technologie et l’introduction de nouvelles connaissances au sein de leur organisation. Ils doivent également mettre l’accent sur la gouvernance, la surveillance et la culture requises pour permettre aux différentes équipes de travailler ensemble efficacement. Il s’agit d’associer la gestion du changement et la gouvernance .»
AI monitor: trust souligne certains risques liés à l’intégration de l’IA dans les systèmes comptables, dont :
• une influence sur la prise de décision sans expliquer clairement la raison d’être de la prévision ou de la recommandation,
• une dépendance excessive à l’égard des procédures d’IA dans le domaine de l’audit et de l’assurance, ainsi qu’une diminution du recours à l’intervention et au jugement humains,
• des préoccupations concernant la partialité ou les erreurs de l’IA dans la détection des fraudes, l’évaluation des risques et le contrôle de la conformité, et
• une dépendance excessive à l’égard des assistants virtuels alimentés par l’IA qui donnent des réponses inexactes ou inadéquates.
« À l’ère de l’IA, les professionnels de la finance doivent se laisser guider par les résultats fournis par la technologie. La valeur réside dans la compréhension de la manière dont ces résultats informent les décisions et actions qui améliorent les résultats de l’entreprise », soutient Alistair Brisbourne.
En 2024, les prochaines éditions d’AI monitor aborderont les compétences, les risques et les contrôles, la pertinence d’une stratégie de données efficace et les applications intégrant les enjeux de durabilité.
