L'intelligence artificielle sur la place financière suisse (2023)
L'importance de l'intelligence artificielle (IA) a connu une croissance rapide dans tous les domaines de la vie, y compris le marché financier, ces dernières années. Conformément à ses objectifs stratégiques pour les années 2021 à 2024, la SFMA soutient l'innovation sur la place financière suisse et surveille les risques qui y sont associés.
Des enquêtes montrent que la plupart des institutions expérimentent encore l'IA, tandis que certaines entreprises disposent déjà d'applications avancées qui nécessitent des processus de gestion des risques correspondants. Depuis que des chatbots tels que ChatGPT sont devenus disponibles, l’intérêt pour les solutions d’IA a encore fait un bond en avant. Comme dans d'autres domaines de la vie, nous pouvons nous attendre à ce que l'IA entraîne de nombreux changements sur le marché financier.
La SFMA voit des défis particuliers dans l'utilisation de l'IA dans les quatre domaines suivants et s'attend à ce que le secteur financier gère les risques en conséquence. Gouvernance et responsabilité: les décisions peuvent de plus en plus être basées sur les résultats des applications d’IA ou même être prises de manière autonome par ces applications. Combiné à la transparence réduite des résultats des applications d’IA, cela rend plus complexe le contrôle et l’attribution des responsabilités pour les actions des applications d’IA. En conséquence, il existe un risque croissant que les erreurs passent inaperçues et que les responsabilités deviennent floues, en particulier pour les processus complexes à l'échelle de l'entreprise où il y a un manque d'expertise interne. Par exemple, l’application d’IA ChatGPT donne des réponses apparemment convaincantes basées sur la probabilité la plus élevée qu’il est très difficile pour les utilisateurs d’évaluer si les réponses sont factuellement correctes ou non. Des rôles et responsabilités clairs ainsi que des processus de gestion des risques doivent être définis et mis en œuvre. La responsabilité des décisions ne peut être déléguée à AI ou à des tiers. Toutes les personnes impliquées doivent posséder une expertise suffisante en matière d’IA. Robustesse et fiabilité: Le processus d’apprentissage en IA repose sur d’énormes quantités de données. Tout d’abord, cela présente des risques liés à la mauvaise qualité des données (par exemple, des données non représentatives). De plus, les applications d’IA subissent un processus d’optimisation automatique, ce qui peut entraîner une évolution du modèle dans une mauvaise direction (appelée dérive). Par exemple, selon la Harvard Business Review, la majorité des algorithmes d’IA permettant de prédire le Covid-19 ont échoué. Ces applications n'étaient pas suffisamment fiables pour être déployées de manière autonome. Enfin, l’utilisation accrue des applications d’IA et l’externalisation et l’utilisation du cloud qui en résultent augmenteront également les risques en matière de sécurité informatique. Lors du développement, de la formation et de l’utilisation de l’IA, les institutions doivent s’assurer que les résultats sont suffisamment précis, robustes et fiables. Les données et les modèles ainsi que les résultats doivent être ouverts à un questionnement critique. Transparence et explicabilité: le grand nombre de paramètres et de modèles complexes dans les applications d'IA signifie souvent qu'il est impossible d'isoler l'impact de paramètres individuels sur le résultat. Sans une compréhension de la manière dont les résultats ont été obtenus, il existe un risque que les décisions basées sur les applications de l’IA ne soient ni vérifiables ni explicables. Cela peut rendre difficiles, voire impossibles, les contrôles effectués par l'établissement qui l'utilise et par les auditeurs ou les autorités de contrôle. De plus, les clients ne peuvent pas évaluer pleinement les risques s’ils ne sont pas informés du déploiement de l’IA. Pour les tarifs d’assurance par exemple, le recours à l’IA pourrait signifier que le tarif n’est plus transparent. Il serait alors impossible d'expliquer le tarif aux clients de manière transparente.
Les établissements doivent garantir que les résultats d'une candidature sont explicables et que l'utilisation de la candidature est transparente, en fonction du destinataire, de la pertinence et de l'intégration des processus. Non-discrimination: de nombreuses applications d'IA utilisent des données personnelles pour évaluer les risques individuels (par exemple pour fixer les tarifs, pour les prêts) ou développer des services spécifiques aux clients. S’il n’existe pas suffisamment de données sur des groupes particuliers de personnes, cela peut conduire à des distorsions ou à des résultats incorrects pour ces groupes. Si des produits et services sont proposés sur la base de ces résultats incorrects, cela peut conduire à une discrimination involontaire et injustifiée. Outre les risques juridiques, la discrimination entraîne également des risques de réputation pour les entreprises concernées. Les entreprises doivent éviter toute discrimination injustifiée. La SFMA a discuté et développé ses attentes en matière d'applications de l'IA avec le secteur financier, les organisations nationales et internationales et le monde universitaire.
La SFMA surveillera l'utilisation de l'IA par les entreprises supervisées. Il continuera également à suivre de près l’évolution de l’utilisation de l’IA dans le secteur financier, à poursuivre ses discussions avec les parties prenantes concernées et à se tenir au courant des évolutions internationales. (Extrait du Risk Monitor 2023)