Clef · Live-Demo ausprobieren →
Glossar

Offene Modelle (Open Weight)

Offene Modelle sind solche, deren Gewichte heruntergeladen und auf eigener Hardware betrieben werden dürfen — Qwen, Llama, Mistral, GLM, DeepSeek und andere. «Offen» heißt dabei nicht quelloffen im klassischen Sinn: Trainingsdaten und Trainingscode bleiben meist unveröffentlicht, und die Lizenzen unterscheiden sich erheblich. Was sie praktisch auszeichnet, ist die Freiheit beim Betriebsort.

Was der Unterschied im Betrieb bedeutet

Bei einem geschlossenen Modell entscheidet der Anbieter, wo gerechnet wird, wann das Modell ausgetauscht wird und wie lange es überhaupt verfügbar bleibt. Bei einem offenen Modell entscheiden Sie das — und tragen dafür Betrieb, Aktualisierung und Kapazität.

Für die datenschutzrechtliche Prüfung ist die Folge greifbar: Der Verarbeitungsort ist eine Entscheidung statt einer Angabe im Datenblatt. Das erübrigt Kapitel V der DSGVO nicht automatisch, macht die Frage aber beantwortbar statt vom Anbieter abhängig.

Wie groß ist der Qualitätsabstand wirklich?

Er hängt an der Aufgabe. Bei freier Beantwortung aus dem Modellgedächtnis liegen die stärksten geschlossenen Modelle vorn. Bei der typischen Unternehmensaufgabe — aus vorgelegten Unterlagen mit Fundstelle antworten — ist der Abstand klein, weil nicht das Gedächtnis die Antwort trägt, sondern der vorgelegte Text.

Das ist der praktisch wichtigste Punkt an offenen Modellen und wird selten so gesagt: Der Aufbau entscheidet darüber, wie viel das Modell überhaupt beitragen muss. Wer die Antwort aus dem Bestand holt, kann ein kleineres Modell verwenden als jemand, der sie aus dem Modell holt.

Worauf bei der Lizenz zu achten ist

Die Bezeichnung «offen» wird für sehr verschiedene Bedingungen verwendet. Manche Lizenzen sind echte Open-Source-Lizenzen, andere enthalten Nutzungsgrenzen nach Umsatz oder Nutzerzahl, wieder andere untersagen bestimmte Anwendungen. Für den betrieblichen Einsatz ist das kein Detail, sondern die Frage, ob Sie das Modell in einem Jahr noch verwenden dürfen.

Zweiter Punkt: Ein Modell, das heruntergeladen wurde, verschwindet nicht, wenn der Anbieter die Bedingungen ändert. Das ist der stille Vorteil gegenüber einer Schnittstelle — und ein Grund, die verwendete Fassung aufzubewahren statt immer die neueste zu ziehen.

Wovon ist das zu unterscheiden?

Open Source

Quelloffen bedeutet einsehbaren Quellcode. Bei Modellen sind meist nur die Gewichte offen, nicht Trainingsdaten und Trainingsverfahren. Nachvollziehbar ist damit das Ergebnis, nicht seine Entstehung — ein Unterschied, der bei Fragen nach Bias und Herkunft relevant wird.

Selbst trainiertes Modell

Ein offenes Modell zu betreiben ist nicht dasselbe wie eines zu trainieren. Das erste ist eine Betriebsentscheidung von überschaubarer Größe, das zweite ein Forschungsvorhaben mit entsprechendem Aufwand. Die Begriffe werden in Angeboten gern vermischt.

Häufige Fragen

Gibt es ein europäisches offenes Modell?+

Mistral aus Frankreich ist das bekannteste, daneben existieren mehrere Forschungsmodelle. Für die datenschutzrechtliche Frage ist die Herkunft des Modells allerdings zweitrangig — entscheidend ist, wo gerechnet wird, nicht wo trainiert wurde. Ein chinesisches Modell auf Hardware im EWR verarbeitet Ihre Daten im EWR.

Wie oft muss man wechseln?+

Seltener als der Nachrichtenfluss nahelegt. Ein Modell, das Ihre Aufgabe erfüllt, erfüllt sie auch in einem Jahr noch — der Grund zu wechseln ist ein messbarer Gewinn bei Ihren Fällen, nicht eine neue Bestenliste. Wer bei jeder Veröffentlichung wechselt, verbringt das Jahr mit Umzügen.

Was kostet der Betrieb gegenüber einer Schnittstelle?+

Bei niedriger und schwankender Last mehr, bei hoher und gleichmäßiger Last weniger — eine Karte kostet dasselbe, ob sie rechnet oder wartet. Der Kipppunkt liegt dort, wo mehrere Karten über den Arbeitstag ausgelastet sind. Darunter ist dedizierte Kapazität bei einem Betreiber im EWR meist die günstigere und schneller verfügbare Variante.

Die Rechnung, die vor der Modellwahl kommt

Nennen Sie die realistische Zahl der Anfragen pro Tag und die Art der Daten. Daraus ergibt sich, ob die Modellfrage bei Ihnen überhaupt die teure ist — meistens ist sie es nicht.

Test anfragen

Zuletzt aktualisiert: