Pourquoi nous devrions commencer à signer le code des modèles d'apprentissage

Nous avons passé des années à parler de la signature de code. Il s'agit d'une pratique bien comprise : signer son code pour savoir ce que l'on exécute. Mais que se passe-t-il lorsque le "code" n'est plus une simple logique procédurale ? Que se passe-t-il lorsqu'un système commence à penser et à agir de manière autonome ?

Dans l'un de nos derniers podcasts Root Causes Toronto Sessions, Tim et moi avons exploré un sujet qui couvait discrètement sous la surface : la signature de modèle. À mesure que l'intelligence artificielle s'intègre dans nos appareils quotidiens, des smartphones aux capteurs IoT, nous constatons que les grands modèles de langage basés sur le cloud sont remplacés par des modèles de langage de petite taille, voire nanométriques, fonctionnant hors ligne à la périphérie de l'appareil.

Ces modèles sont efficaces, spécifiques et de plus en plus puissants. Mais voici la question : Savez-vous si le modèle qui s'exécute sur votre appareil est celui que vous vouliez ?

Le risque caché sous la ligne de flottaison

Imaginez l'IA comme un iceberg. Les LLM tape-à-l'œil, basés sur le cloud, en sont la pointe, visible et bien connue. Mais l'essentiel de l'avenir de l'IA se trouve sous la ligne de flottaison : il s'agit de petits modèles de langage intégrés dans les appareils, souvent au moment de la fabrication. Ces modèles sont statiques, contiennent des poids statistiques et sont rarement, voire jamais, signés.

C'est un problème.

Si nous ne signons pas ces modèles, nous laissons la porte ouverte à toute manipulation, malveillante ou accidentelle. Et contrairement au code traditionnel, les modèles sont à peine déterministes par nature, ce qui rend les manipulations plus difficiles à détecter et potentiellement plus dangereuses.

L'importance de la signature des modèles

Nous connaissons déjà les risques liés aux microprogrammes non signés. Imaginez maintenant ces risques appliqués aux modèles d'IA qui influencent les décisions, automatisent les tâches et interagissent avec des données sensibles. Les implications sont stupéfiantes.

Je vous pose donc la question :

• Vos appareils périphériques exécutent-ils des modèles fiables ?
• Disposez-vous d'un mécanisme permettant de vérifier l'intégrité des modèles ?
• Votre organisation est-elle prête à affronter le "Far West" du déploiement de modèles ?

Car pour l'instant, il n'y a pas de consortium, pas de règles, pas d'infrastructure. Il n'existe même pas de vocabulaire commun pour la signature des modèles. Il est temps de commencer à en créer un.

Il ne s'agit pas seulement de technologie. C'est une question de confiance. L'IA devenant de plus en plus omniprésente, la signature de modèle doit devenir une pratique standard, tout comme la signature de code l'a été il y a des années. Mais ce qui compte ici, c'est que nous ne signons plus seulement du code, nous signons les machines qui pensent.

Les machines pensent et il est temps que nous commencions à les signer. Ce n'est que le début de la conversation. Et chez Sectigo, nous nous engageons à la mener. Restez à l'écoute pour en savoir plus sur ce sujet.