Le logiciel : une présence omniprésente
Les logiciels sont partout, jouant un rôle essentiel dans presque toutes les facettes de notre existence. Rien que dans votre voiture, les systèmes informatisés comprennent des dizaines de millions de lignes de code. Avec la transformation numérique croissante de notre société, la demande pour des logiciels toujours plus performants et innovants ne cessera de croître dans le futur.
Cependant, nous faisons face à un problème majeur : le manque de programmeurs humains pour développer tous ces logiciels. Cela signifie que de plus en plus de logiciels utilisés quotidiennement sont conçus avec l’aide de l’intelligence artificielle (IA).
Les développeurs de logiciels sont déjà bien au fait des outils tels que GitHub Copilot, comparable à un ChatGPT pour programmeurs. Ce dernier fonctionne un peu comme un outil d’autocomplétion intelligent, visant à améliorer la productivité des programmeurs.
Une révolution radicale en cours
Nous assistons aujourd’hui à une révolution plus profonde, où des « agents » IA sont prêts à prendre en charge de nombreux types de tâches de développement au nom des programmeurs humains. Ces agents sont des programmes qui utilisent l’IA pour exécuter des tâches et atteindre des objectifs spécifiques pour un utilisateur humain. Les agents IA peuvent apprendre et prendre des décisions avec un certain niveau d’autonomie, bien qu’ils restent sous surveillance humaine – pour le moment.
Nous prévoyons qu’à court terme, de nombreuses applications logicielles seront entièrement construites par des agents IA. Les systèmes « agents » sont des communautés d’agents IA qui coopèrent ensemble, chacun spécialisé dans la résolution d’un type de tâche spécifique. Avec un système agentic, vous pouvez générer une application logicielle à partir d’une simple description en anglais de ce que vous souhaitez que l’application fasse.
Cela a des impacts positifs potentiels. Les systèmes agents pourraient permettre à des utilisateurs sans compétences en programmation de créer ou d’adapter des logiciels à leurs besoins. Cependant, il existe aussi des conséquences négatives potentielles. Les agents sont loin d’être parfaits et peuvent facilement générer du code vulnérable aux attaques, inefficace ou biaisé contre certaines communautés.
Par exemple, un agent développant un logiciel de recrutement pourrait favoriser les candidats masculins plutôt que féminins en raison de biais dans les données utilisées pour entraîner ou améliorer le logiciel. Il est donc nécessaire de mettre en place des mécanismes pour minimiser ces risques, comme le prévoit le règlement IA de l’UE.
Les chercheurs relèvent ce défi en testant intensivement les LLMs (Modèles de Langage de Grande Taille) qui sont au cœur de tout agent. Un LLM est un système IA entraîné sur d’énormes quantités de données. Les agents s’appuient sur leur LLM interne pour prédire et générer la meilleure réponse à une demande de l’utilisateur.
En évaluant tous les principaux LLMs selon plusieurs critères tels que la précision, les vulnérabilités de sécurité et les biais, les développeurs de logiciels peuvent choisir le meilleur LLM pour un agent IA. Cela dépendra des tâches spécifiques auxquelles l’agent sera impliqué.
Cela aide à assurer un certain niveau de comportement éthique chez les agents. Mais comment pouvons-nous être sûrs qu’ils comprennent et suivent nos instructions ? Notre solution consiste à partir des plans (les conceptions) du logiciel à construire.
De manière générale, il est possible de comprendre les plans d’une maison même si vous n’êtes pas architecte. De même, si nous rendons un plan de logiciel aussi facile à comprendre que possible, les utilisateurs sans compétences avancées en développement de logiciels devraient être en mesure de saisir les concepts et de savoir comment apporter des modifications.
À partir de la description initiale de l’utilisateur, l’agent ou les agents IA proposeraient un plan détaillé d’une solution potentielle et l’expliqueraient à l’utilisateur en anglais simple. L’utilisateur pourrait alors le valider ou demander des améliorations. Ce n’est qu’après la validation finale que l’application logicielle serait automatiquement générée à partir du plan.
Cette méthode de construction de logiciels est connue sous le nom de développement à faible code ou sans code, car la majeure partie du code (voire la totalité pour certaines applications) est générée par l’ordinateur à partir des plans, au lieu d’être écrite à la main par un humain à partir de zéro. Notre plateforme open source BESSER vous aide à construire des applications de cette manière.
Comme l’a observé l’auteur de science-fiction Arthur C Clarke : « Toute technologie suffisamment avancée est indiscernable de la magie. » Et bientôt, cette magie fera partie de notre quotidien. Nous devons juste être prudents pour que la magie ne se transforme pas en sorcellerie avec le potentiel de perturber plutôt que d’améliorer.
Nous, et de nombreux autres chercheurs, travaillons à mettre en place des garde-fous (mécanismes pour prévenir les dommages potentiels) sur le comportement des agents IA pour les maintenir en échec. Cela aiderait à transformer chaque citoyen en un développeur compétent avec le pouvoir de construire de manière autonome les solutions logicielles idéales pour leurs entreprises ou d’autres aspects de leur vie.
Articles similaires
- Notre équipe
- Intelligence Artificielle: Moins on sait, plus on l’accepte, révèle une étude!
- Changement de taille des pupilles à la respiration: découvrez pourquoi c’est crucial!
- France 2030: Mathématiques en première ligne contre les défis santé et environnement!
- Tenez-vous sur une jambe : découvrez l’indicateur ultime de votre âge physique!
Pierre Dupont est journaliste spécialisé dans l’actualité européenne. Il vous guide au cœur des événements en France et sur le continent avec rigueur et clarté.
