Warum wir mit der Codesignierung von LLM-Modellen beginnen sollten

Wir haben jahrelang über das Signieren von Code gesprochen. Es ist eine wohlverstandene Praxis: Signieren Sie Ihren Code, damit Sie wissen, was Sie ausführen. Aber was passiert, wenn der "Code" nicht mehr nur aus Verfahrenslogik besteht? Was passiert, wenn ein System anfängt zu denken und eigenständig zu handeln?

In einem unserer letzten Root Causes Toronto Sessions-Podcasts haben Tim und ich ein Thema erforscht, das im Stillen unter der Oberfläche brodelt: Model Signing. Da künstliche Intelligenz immer mehr in unsere Alltagsgeräte, von Smartphones bis hin zu IoT-Sensoren, eingebettet wird, beobachten wir eine Verlagerung von großen, cloudbasierten Sprachmodellen zu kleinen und sogar Nano-Sprachmodellen, die offline am Rande laufen.

Diese Modelle sind effizient, spezifisch und zunehmend leistungsfähig. Aber hier ist die Frage: Wissen Sie, ob das Modell, das auf Ihrem Gerät läuft, das richtige ist?

Das versteckte Risiko unter der Wasserlinie

Stellen Sie sich KI wie einen Eisberg vor. Die auffälligen, cloudbasierten LLMs sind die Spitze, sichtbar und bekannt. Der Großteil der KI-Zukunft liegt jedoch unterhalb der Wasserlinie: kleine Sprachmodelle, die in Geräte eingebettet sind, oft schon bei der Herstellung. Diese Modelle sind statisch, enthalten statistische Gewichte und werden selten, wenn überhaupt, signiert.

Das ist ein Problem.

Wenn wir diese Modelle nicht signieren, lassen wir Manipulationen Tür und Tor offen - ob böswillig oder versehentlich. Und im Gegensatz zu herkömmlichem Code sind Modelle von Natur aus kaum deterministisch, so dass Manipulationen schwerer zu erkennen und potenziell gefährlicher sind.

Warum die Modellsignierung wichtig ist

Wir kennen bereits die Risiken unsignierter Firmware. Stellen Sie sich nun diese Risiken bei KI-Modellen vor, die Entscheidungen beeinflussen, Aufgaben automatisieren und mit sensiblen Daten interagieren. Die Implikationen sind atemberaubend.

Deshalb frage ich Sie:

• Laufen auf Ihren Edge-Geräten vertrauenswürdige Modelle?
• Verfügen Sie über einen Mechanismus zur Überprüfung der Modellintegrität?
• Ist Ihr Unternehmen auf den "Wilden Westen" der Modellbereitstellung vorbereitet?

Denn im Moment gibt es kein Konsortium, keine Regeln, keine Infrastruktur. Es gibt nicht einmal ein gemeinsames Vokabular für das Signieren von Modellen. Es ist an der Zeit, mit dem Aufbau eines solchen zu beginnen.

Hier geht es nicht nur um Technologie. Es geht um Vertrauen. Mit der zunehmenden Verbreitung von künstlicher Intelligenz muss die Modellsignierung zu einer Standardpraxis werden, so wie es vor Jahren die Codesignierung war. Der Clou dabei ist, dass wir nicht mehr nur Code signieren, sondern die Maschinen, die denken.

Die Maschinen denken, und es ist an der Zeit, dass wir sie signieren. Dies ist erst der Anfang der Diskussion. Und wir bei Sectigo sind entschlossen, sie zu führen. Bleiben Sie dran, um mehr über dieses Thema zu erfahren.