Zum Hauptinhalt springen

Devstral-Small-2-24B-Instruct-2512

Beschreibung​

„Devstral-Small-2-24B-Instruct-2512“ ist für agentische Coding-Workflows und Tool-Integration optimiert. Es verteilt Aufgaben dynamisch auf spezialisierte Fähigkeiten, um Effizienz und Kontextbewusstsein zu maximieren, und glänzt in der Orchestrierung komplexer, mehrstufiger Programmier- und Automatisierungsprozesse.

Geeignet für und unterstützt:

  • Textgenerierung innerhalb einer Chat-Completion (Text zu Text)
  • Tool-Calling für agentische Workflows
  • Bildverständnis (Vision)

Folgende Limitierungen gelten:

  • Maximale Context-Länge: 262.144 Token
  • Maximale Bilder je Context: 4
  • Bilder müssen als Base64-kodierte Data-URLs übermittelt werden (keine externen URLs)
  • Dieses Modell unterstützt kein Thinking / Reasoning

Es wird empfohlen das Modell mit folgenden Parametern zu betreiben:

  • temperature=0.7
  • top_p=0.8
  • top_k=20
  • repetition_penalty=1.05

Für Vision-Aufgaben empfiehlt sich eine niedrigere Temperatur (temperature=0.1), wenn präzise Bildbeschreibungen oder Texterkennung erforderlich sind. Bilder sollten vor der Kodierung auf maximal 1024 px an der längsten Seite skaliert werden – große Bilder erhöhen die Wartezeit bis zum ersten Token (TTFT) erheblich. Fertige Hilfsfunktionen sind in den Python-Beispielen und JavaScript-Beispielen verfügbar.

Nutzungsbedingungen und Lizenzhinweise​

Es gelten die allgemeinen Nutzungsbedinungen. Das Modell wird unter der Apache 2.0-Lizenz angeboten, eine Weiternutzung der generierten Inhalte unterliegt keiner zusätzlichen Restriktion.