Points de vue du PDG : introduction de la pile de confiance de l'IA

Dans mon dernier article, j'ai expliqué pourquoi l'intelligence artificielle transformera les services professionnels : non pas simplement en améliorant des outils individuels, mais en s'intégrant aux flux de travaux où s'effectue le travail professionnel.

Cet argument soulève une question évidente. Si l'IA doit fonctionner au sein des processus d'audit, de comptabilité, de fiscalité et de conformité, qu'est‑ce qui est réellement nécessaire pour qu'elle soit digne de confiance dans ces environnements ? Et non pas digne de confiance au sens général. Digne de confiance au sens précis et rigoureux exigé par les professionnels.

Dans de nombreuses industries, la réponse pourrait simplement être l'exactitude et l'efficacité. Les services professionnels sont différents.

Les résultats de ces professions sont utilisés par les clients, les organismes de réglementation, les prêteurs, les investisseurs et les marchés financiers. Le travail doit être cohérent, explicable, documenté et susceptible d'être examiné.

Autrement dit, l'intelligence ne suffit pas. Les systèmes d'IA qui opèrent dans des environnements professionnels doivent également soutenir les conditions qui permettent au travail d'être digne de confiance.

Au cours de la dernière année, je me suis penché sur ce défi. Ce qui revient constamment, c'est qu'il ne s'agit pas d'un problème unique. C'est un problème à plusieurs couches, qui exige que plusieurs composantes fonctionnent ensemble pour être résolu correctement. J'ai commencé à appeler ces couches la pile de confiance en matière d'IA.

Pourquoi l'IA a besoin d'un cadre de confiance

La plupart des discussions sur l'IA portent naturellement sur ce que les modèles peuvent faire; et ce qu'ils peuvent faire est réellement extraordinaire. Les grands modèles de langage peuvent générer du texte, analyser des données et raisonner à travers des informations complexes d'une manière difficile à imaginer il y a seulement quelques années. Ces avancées représentent un bond extraordinaire en matière d'intelligence.

Mais le travail professionnel ne repose pas uniquement sur l'intelligence. Pour que le travail soit digne de confiance, les professionnels dépendent de quelque chose de plus qu'un résultat performant. Ils dépendent de systèmes qui fournissent le contexte du travail effectué, une structure sur la manière dont les tâches sont exécutées, la documentation des éléments probants et des décisions, ainsi que la gouvernance et la supervision à chaque étape.

Ces éléments constituent le mécanisme par lequel les conclusions professionnelles acquièrent le droit d'être utilisées par les clients, les organismes de réglementation ou par les marchés qui évaluent le risque en fonction de celles‑ci.

Lorsque l'IA commence à participer aux flux de travaux professionnels, ces mêmes exigences s'appliquent. Ce qui signifie que l'avenir de l'IA dans les services professionnels sera façonné non seulement par la qualité des modèles, mais aussi par les systèmes qui les entourent.

Les couches de la pile de confiance en matière d'IA

La pile de confiance en matière d'IA est ma façon de cartographier les composantes qui doivent être présentes pour que l'IA fonctionne efficacement dans des environnements professionnels.

À la base se trouve l'intelligence : les modèles, les systèmes de raisonnement, les capacités analytiques qui permettent à l'IA de traiter l'information, de générer des analyses et d'exécuter des tâches. C'est là que se concentre la majeure partie de la discussion actuelle, et à juste titre : sans une intelligence solide, rien d'autre ne compte.

Mais l'intelligence, en soi, est passive. Elle peut générer des réponses, mais elle n'agit pas. Ainsi, la couche suivante est l'agentivité.

L'agentivité est ce qui permet à l'IA de passer à l'action, de planifier, d'exécuter, de faire progresser le travail. C'est la différence entre un système qui répond à des requêtes et un système qui peut accomplir des tâches dans des limites définies. Dans les environnements professionnels, il ne s'agit pas d'une autonomie sans contrôle, mais une exécution encadrée. Des agents d'IA capables d'opérer en fonction de contraintes, de suivre des règles et de prendre des mesures significatives au sein d'un système plus large.

Mais même la capacité agentique ne suffit pas en soi. Au‑dessus se trouve donc le flux de travail.

Le travail professionnel s'effectue dans des processus structurés : planification des missions, collecte des éléments probants, réalisation des analyses, documentation des constatations et réalisation des revues. Une IA qui fonctionne en dehors de ces flux de travaux, comme un outil autonome plutôt qu'un participant au processus, sera toujours limitée dans ce qu'elle peut réellement apporter. Les agents doivent être intégrés directement dans ces flux de travaux pour apporter une vraie valeur.

Au‑dessus du flux de travaux se trouve le contexte.

Le jugement professionnel est profondément contextuel. Il s'appuie sur des années d'expérience accumulée, des méthodologies professionnelles, des normes sectorielles, des approches propres à chaque cabinet et des missions antérieures. Les systèmes d'IA qui n'ont pas accès à ce contexte travaillent sans les informations que les professionnels considèrent comme essentielles. Ils peuvent produire des résultats qui semblent impressionnants en surface, mais tout professionnel expérimenté reconnaîtra qu'il manque quelque chose d'important.

Au sommet de la pile se trouve la gouvernance.

Le travail professionnel exige une supervision, une documentation et une responsabilisation. Il exige de la transparence quant à la manière dont les conclusions ont été tirées et dont les décisions ont été prises. Dans les professions réglementées, la gouvernance n'est pas une couche que l'on ajoute à la fin, elle est structurelle. L'IA qui opère dans ces environnements doit la soutenir dès le départ.

Ensemble, ces cinq couches forment la pile de confiance en matière d'IA. Chacune s'appuie sur celle qui se trouve en dessous, et chacune est nécessaire. Retirez une couche, et la pile ne tient plus.

Pourquoi est-ce important ?

À mesure que l'adoption de l'IA s'accélère, la plupart des organisations expérimentent des outils qui opèrent dans la couche de l'intelligence. Ces outils peuvent offrir des démonstrations impressionnantes de ce que l'IA peut faire. Mais dans les environnements professionnels, le véritable défi commence une fois la démonstration terminée.

• Comment l'IA accède‑t‑elle aux bonnes informations ?

• Où effectue‑t‑elle son travail ?

• Comment ses résultats sont‑ils examinés ?

• Comment les décisions sont‑elles documentées ?

• Comment la responsabilisation est‑elle maintenue ?

Sans les couches qui entourent la pile de confiance en matière d'IA, même des systèmes d'IA puissants peinent à s'intégrer de manière significative dans les flux de travaux professionnels réels. Ils demeurent des outils impressionnants en périphérie du processus, plutôt que des participants dignes de confiance en son sein.

C'est pourquoi je crois que la prochaine génération de logiciels professionnels sera définie non seulement par l'intelligence de leurs modèles, mais aussi par la qualité des plateformes dans lesquelles ces modèles fonctionnent.

Des assistants aux agents

L'un des développements que je trouve les plus intéressants en ce moment est l'émergence des agents d'IA : des systèmes capables d'exécuter des tâches à travers des flux de travaux plutôt que de simplement répondre à des requêtes.

Les agents peuvent récupérer de l'information, effectuer des analyses, générer des résultats et faire progresser le travail dans un processus. Le potentiel ici est réel et important. Mais pour que les agents fonctionnent efficacement dans des environnements professionnels, ils doivent opérer à l'intérieur de la pile de confiance en matière d'IA.

Ils ont besoin d'un accès au flux de travail, d'un ancrage dans le contexte des travaux antérieurs et de structures de gouvernance qui assurent la responsabilisation à chaque étape. Sans ces couches, l'IA demeure un assistant. Avec elles, l'IA commence à fonctionner comme un participant aux flux de travaux professionnels.

La prochaine conversation

Au cours des prochaines semaines, j'examinerai chacune des couches de la pile de confiance en matière d'IA plus en détail.

J'examinerai pourquoi la couche d'intelligence seule ne suffit pas, comment les agents d'IA commenceront à fonctionner à l'intérieur des flux de travaux professionnels, pourquoi le contexte est si essentiel à la performance réelle de l'IA et comment la gouvernance et la transparence permettent les types de systèmes d'IA dignes de confiance dont cette profession a besoin.

L'intelligence artificielle transformera sans aucun doute la manière dont les services professionnels fonctionnent. Mais le défi le plus important qui nous attend n'est pas simplement de construire des systèmes plus intelligents. Il s'agit de construire des systèmes où l'intelligence et la confiance fonctionnent ensemble. C'est, en fin de compte, l'objectif de la pile de confiance en matière d'IA.

‍