Was ist ein Token?
Ein Sprachmodell liest und schreibt nicht Wort für Wort, sondern in kurzen Textstücken. Diese Stücke heißen Token. Nach ihnen richtet sich die Nutzung.
Die Umsatzsteuervoranmeldung der Müller GmbH ist bis zum 10. September fällig.
Faustregel: knapp zwei Token je Wort.
Kurze, häufige Wörter wie „Sie“ oder „GmbH“ sind ein Token. Lange Fachwörter und Zahlen zerfallen in mehrere Stücke: „Umsatzsteuervoranmeldung“ allein sind acht. Für deutsche Kanzleitexte rechnen Sie mit knapp zwei Token je Wort. 100 Wörter sind rund 190 Token.
Gemessen mit dem Tokenizer unseres Sprachmodells an sechs Kanzleitexten (Mahnung, BWA-Kommentar, Gesetzestext, Mandanten-E-Mail, Kontierung, Notiz zum Jahresabschluss): 498 Wörter, 946 Token, je Text 1,7 bis 2,1 Token je Wort.
Warum ein Auftrag mehrfach gelesen wird.
Der Sachbearbeiter arbeitet in Schritten: Er liest Ihren Auftrag, fragt DATEV ab, prüft das Ergebnis, rechnet und schreibt. Vor jedem Schritt liest er den ganzen Auftrag samt allen Zwischenergebnissen noch einmal. Diese erneut gelesenen Token heißen Cache-Token. Sie machen den größten Teil eines Auftrags aus.
Beispiel: Beleg kontieren
- Neu gelesen
- 46.937
- Erneut gelesen (Cache)
- 346.880
- Geschrieben
- 2.112
Erneut gelesen wird hier rund 7-mal so viel wie neu. Gilt für neu gelesene und geschriebene Token. Erneut gelesene Token, der größte Teil jedes Auftrags, kosten 0,50 € je 1 Mio. Zusammen ca. 0,27 €.
Was typische Aufträge kosten.
Token und Kosten je Auftrag, gemessen an Beispielläufen und gerundet. Je nach Umfang braucht ein Auftrag mehr oder weniger.
| Auftrag | Token | Kosten |
|---|---|---|
| Kurze Auskunft, z. B. Gewinn eines Mandanten | 58.632 | ca. 0,04 € |
| BWA-Kommentar für den Mandanten | 83.088 | ca. 0,08 € |
| Mahnung zu offenen Posten vorbereiten | 163.499 | ca. 0,12 € |
| Beleg kontieren | 395.929 | ca. 0,27 € |
| Umsatzsteuer-Voranmeldung prüfen | 565.201 | ca. 0,43 € |
| Mandanten-Dossier erstellen | 884.579 | ca. 0,61 € |
So behalten Sie die Kosten im Griff.
- 25 € Nutzung sind jeden Monat in der Grundgebühr enthalten. Das reicht zum Beispiel für rund 90-mal „Beleg kontieren“.
- In der Verwaltung legen Sie eine monatliche Kostengrenze fest.
- Bei 80 % der Grenze erhalten Sie eine Warnung.