Développement d'applications en entreprise : pourquoi l'IA a besoin de garde-fous architecturaux | Mendix

Passer au contenu principal

Développement d'applications en entreprise : pourquoi l'IA a besoin de garde-fous architecturaux

Dépasser le battage médiatique  

L'IA générative a révolutionné le développement logiciel grâce à sa rapidité et sa créativité. Elle accélère la création de prototypes, débloque les problèmes de logique et inspire de nouvelles fonctionnalités. Mais revenons à la réalité du génie logiciel.  

Le pionnier de l'IA, Andrej Karpathy, a récemment formulé ce problème comme étant le «Marche des NeufsIl souligne un point simple : obtenir un modèle d’IA fonctionnel à 90 % est facile. C’est ce qu’on appelle les « neuf premiers », la phase de démonstration. Mais les logiciels d’entreprise ne fonctionnent pas avec un taux de fiabilité de 90 %. Ils nécessitent une fiabilité de 99.9 % (trois neuf) ou de 99.99 %.  

Le calcul est implacable. Passer de 90 % à 99 % demande autant d'efforts que d'atteindre les 90 % initiaux. Dans une start-up, 90 % correspond à une version bêta. Dans une entreprise, c'est un produit défectueux. Ces 10 % manquants ne sont pas une simple marge d'erreur ; ils font la différence entre un outil et un handicap.  

Deviner contre calculer

Pour comprendre pourquoi l'IA n'est pas une solution miracle, il faut examiner les principes fondamentaux.  

L'IA générative est probabiliste. Elle émet des hypothèses. Elle prédit le mot le plus probable en se basant sur des schémas. Elle est « floue ». Les logiciels d'entreprise sont déterministes. Ils calculent. L'entrée A doit toujours produire la sortie B. On ne peut pas avoir de rapports financiers ou de contrôles d'accès « probablement » corrects. Ils sont soit corrects, soit incorrects.  

Injecter du code d'IA brut dans une infrastructure d'entreprise complexe, soumise aux réglementations DORA, RGPD et HIPAA, revient à introduire un pari risqué dans un système qui exige de la fiabilité. L'approche empirique n'est pas une stratégie viable lorsqu'il s'agit de données patient ou de transactions bancaires.  

Le low-code comme châssis

L'avenir ne réside ni dans l'IA ni dans la stabilité. Il réside dans l'architecture qui les combine.  

C'est là que les plateformes low-code comme Mendix Cessez d'être de simples outils de productivité et devenez des garde-fous architecturaux. Voyez l'IA comme le moteur à grande vitesse et le low-code comme le châssis, la direction et le système de freinage.  

Cette approche résout le problème de la complexité sur deux fronts :  

  1. Abstraction : Nul besoin d’un doctorat pour développer des applications d’IA. Le low-code simplifie la complexité technique. Plus besoin de se débattre avec des bases de données vectorielles ou des intégrations d’API complexes ; on utilise des connecteurs standardisés, par simple glisser-déposer.  
  2. Gouvernance : Au lieu de demander à l’IA d’écrire du code brut (difficile à déboguer), vous l’utilisez pour configurer des modules standardisés et prétestés. La plateforme garantit la sécurité. Si l’IA détecte un schéma de données à risque, les contraintes de la plateforme empêchent son déploiement. 

Développement visuel : de la boîte noire à la boîte de verre  

Le code généré par l'IA présente un second risque : l'obscurité. Si une IA génère un script que seul un ingénieur expert peut déchiffrer, vous créez un silo. Vous excluez ainsi les parties prenantes métier qui comprennent réellement le domaine.  

Il est essentiel d'adopter une approche proactive, en validant le plan avant même d'écrire le code. Avant le développement, des agents d'IA aident les parties prenantes à définir et visualiser clairement les exigences. Ainsi, le cahier des charges est validé par les humains avant que l'IA ne génère la logique. Les modèles low-code vont encore plus loin en visualisant cette logique.  

Elle transforme la « boîte noire » de la génération d'IA en une « boîte de verre ».  

  • Alignement : Les experts métiers et les architectes peuvent examiner le modèle visuel et en vérifier la logique. 
  • Contrôle : Lorsque l’IA accélère un flux de travail, la nature visuelle de la plateforme garantit que l’humain reste aux commandes. Vous comprenez le fonctionnement du système, et pas seulement son état actuel.  

Conclusion

Karpathy a raison : l’IA opérationnelle arrive. Mais nous n’y sommes pas encore.  

Les entreprises devraient cesser de se demander à quelle vitesse l'IA peut écrire du code et commencer à se demander : quelle architecture nous permet d'exécuter l'IA en toute sécurité ? La réponse réside dans l'association du moteur de l'IA et de l'architecture low-code. Nous gagnons en vitesse tout en conservant le contrôle.  

Choisissez votre langue