Ist das Modell so gut wie ChatGPT?

Für Zusammenfassungen, Schriftverkehr, Übersetzungen und einfache Programmieraufgaben liegt Qwen3.6-27B nah genug dran, dass es im Alltag kaum auffällt. Bei sehr langen Gedankenketten und bei Spezialwissen sind die großen Cloud-Modelle weiter vorn. Wir sagen Ihnen vorher, in welche Kategorie Ihre Aufgaben fallen, statt Sie das selbst herausfinden zu lassen.

Muss das Gerät wirklich offline sein?

Nein. Es kann auch im normalen Firmennetz mit Internetzugang laufen. Der Punkt ist, dass es nicht muss. Wer die strengste Variante will, betreibt es in einem eigenen Netzsegment ohne Route nach außen, und dann ist die Frage nach Drittlandübermittlung technisch beantwortet statt vertraglich.

Brauchen wir dafür einen Serverraum?

Nein. Das Gerät ist ein normaler Rechner und darf in einem Büro oder einem Technikschrank stehen. Es braucht eine Steckdose, einen Netzwerkanschluss und Luft. Eine Klimaanlage ist nicht nötig.

Was passiert, wenn die Grafikkarte ausfällt?

Wir tauschen sie im Rahmen der Wartung. Das Modell liegt als Datei auf der SSD und ist nach dem Tausch in einer halben Stunde wieder in Betrieb. Für Betriebe, die keinen Ausfalltag verkraften, halten wir ein Ersatzgerät vor.

Was kostet das über drei Jahre?

Einmalig 3.000 € plus sechsunddreißig Monatsbeiträge, zusammen rund 17.400 €. Ob das günstiger ist als Lizenzen, hängt an der Nutzerzahl: Ab ungefähr fünfzig bis hundert intensiven Nutzern liegt eigene Infrastruktur unter vergleichbaren Abos, darunter meist nicht. Die meisten kaufen die Box aber nicht, weil sie billiger ist, sondern weil die Dokumente im Haus bleiben sollen.

Können wir das Gerät später erweitern?

Ja. Eine zweite Grafikkarte oder ein größeres Modell sind der übliche nächste Schritt, solange die Nutzerzahl im Rahmen bleibt. Wird es deutlich mehr, ist der Server im Rechenzentrum der sinnvollere Weg, und die Box bleibt als Ausweichgerät im Haus.

Produkt · KI-Box

Ein Sprachmodell im Büro. Ohne Cloud, ohne Konto, ohne Internet.

Die KI-Box ist ein fertiger Rechner mit einem starken offenen Sprachmodell darauf. Sie steht bei Ihnen im Haus, hängt an Ihrem Netzwerk und braucht keine Verbindung nach außen. Kein Satz, den Ihre Mitarbeiter eintippen, und kein Dokument, das sie hochladen, verlässt das Gebäude.

3.000 € einmalig
399 € pro Monat Wartung
Lieferung in 3 bis 4 Wochen

KI-Box anfragen

Vorher rechnen wir durch, ob sich das Gerät für Ihre Nutzerzahl lohnt.

Abb. 01 KI-Box21 × 44 × 42 cm

Das Problem ist nicht der Anbieter. Es sind die Dokumente.

Die Aufgaben, bei denen ein Sprachmodell am meisten Zeit spart, hängen fast alle an Dateien, die niemand gern aus dem Haus gibt: Angebote, Verträge, Personalakten, Kalkulationen, Schriftverkehr. Genau daran bleibt die KI-Einführung in vielen Betrieben nach dem ersten Test hängen.

Ein Cloud-Dienst löst das vertraglich, und das funktioniert. Es bleibt aber eine Zusage, die jemand anders einhalten muss. Die KI-Box löst dasselbe Problem physisch: kein Anbieter, der mitlesen könnte, keine Übermittlung in ein Drittland, keine Frage nach Training. Wenn jemand wissen will, wo ein Satz verarbeitet wurde, zeigen Sie auf den Rechner im Nebenraum.

Kein Konto
Niemand meldet sich irgendwo an. Der Zugriff läuft über den Browser im lokalen Netz, die Benutzerverwaltung ist Ihre eigene.
Kein Abo, das gekündigt werden kann
Das Modell liegt als Datei auf dem Gerät. Es arbeitet weiter, auch wenn der Hersteller es zurückzieht oder sein Preismodell ändert.
Nachweisbar statt zugesichert
Sie können das Netzwerkkabel ziehen und weiterarbeiten. Das ist der Nachweis, und er lässt sich in fünf Sekunden vorführen.

Was in der Box steckt

Bewusst Hardware aus dem Handel, keine Serverteile. Das ist der Grund, warum das Gerät 3.000 € kostet und nicht 15.000 €: Eine Grafikkarte aus dem Spielerregal rechnet ein quantisiertes 27B-Modell genauso schnell wie eine Karte mit Rechenzentrums-Aufkleber.

Abb. 02 Mainboard, DraufsichtGehäuse geöffnet

24 GB VRAMGrafikkarteHier liegt das Modell, während es arbeitet. Rund 17 GB Modelldatei passen mit Reserve in 24 GB Videospeicher, und genau deshalb reicht eine Karte aus dem Handel.
LuftgekühltProzessor und KühlerDer Prozessor nimmt die Anfragen an, gerechnet wird auf der Grafikkarte. Ein normaler Turmkühler genügt: keine Wasserkühlung, nichts, was regelmäßig gewartet werden müsste.
64 GBArbeitsspeicherReserve für lange Dokumente und mehrere Anfragen gleichzeitig. Was nicht in den Videospeicher passt, wird hier gehalten, ohne dass das Gerät ins Schleppen kommt.
2 TB NVMeSpeicherDie Modelldatei belegt rund 17 GB. Der Rest ist Platz für weitere Modelle und für die Dokumente, die Sie dem Gerät zum Nachschlagen geben.
60 bis 450 WNetzteilIm Leerlauf zieht das Gerät etwa so viel wie eine Glühbirne. Volllast erreicht es nur, solange eine Antwort geschrieben wird, also in kurzen Schüben.
BürolautstärkeLüfterGroße, langsam drehende Lüfter statt kleiner schneller. Das Gerät darf neben einem Schreibtisch stehen und braucht weder Serverraum noch Klimaanlage.

Technische Daten

Modell: Qwen3.6-27B, quantisiert (Q4_K_M, rund 17 GB)
Grafikkarte: 24 GB VRAM, Consumer-Klasse
Arbeitsspeicher: 64 GB
Speicher: 2 TB NVMe
Geschwindigkeit: rund 30 Token pro Sekunde, schneller als die meisten lesen
Gleichzeitige Anfragen: 3 bis 5, ausgelegt auf 10 bis 20 Mitarbeiter
Anschluss: Gigabit-Ethernet, Bedienung im Browser
Leistungsaufnahme: etwa 60 W im Leerlauf, bis 450 W unter Last
Aufstellung: Bürotauglich, kein Serverraum und keine Klimaanlage nötig

Was Ihre Mitarbeiter damit machen

Die Bedienung ist ein Chatfenster im Browser, erreichbar unter einer Adresse im Firmennetz. Wer ChatGPT schon einmal benutzt hat, braucht keine Schulung.

Dokumente zusammenfassen
Ein Vertrag über vierzig Seiten, die Kernpunkte in zehn Zeilen, ohne dass die Datei das Haus verlässt.
Schriftverkehr entwerfen
Angebote, Absagen, Mahnungen, Antworten auf Ausschreibungen. Der Entwurf kommt vom Modell, die Verantwortung bleibt beim Menschen.
Übersetzen
Technische Texte zwischen Deutsch und Englisch, ohne dass ein Übersetzungsdienst die Datei zu sehen bekommt.
In eigenen Dateien suchen
Auf Wunsch mit Zugriff auf ein Verzeichnis, das Sie freigeben. Fragen an den eigenen Bestand statt Suchen im Dateibaum.
Code und Formeln
Makros, Skripte, Tabellenformeln. In der Verwaltung ist das erfahrungsgemäß der erste Anwendungsfall, der sich herumspricht.

Was die monatliche Wartung leistet

Ein lokales Modell scheitert selten an der Technik. Es scheitert daran, dass nach einem halben Jahr niemand mehr Modelle aktualisiert, niemand prüft, ob die Antworten noch taugen, und niemand ans Telefon geht, wenn es klemmt. Deshalb verkaufen wir das Gerät nicht ohne Betrieb.

Modell-Updates
Neue Modellstände spielen wir ein, nachdem sie an Ihren eigenen Fällen geprüft wurden. Nie ungeprüft, nie automatisch über Nacht.
Antwortqualität
Wir halten einen kleinen Satz Ihrer typischen Aufgaben vor und messen daran, ob ein Update tatsächlich besser ist. Wenn nicht, bleibt der alte Stand.
Überwachung und Rufbereitschaft
Wir sehen, wenn das Gerät ausfällt, meistens bevor Sie es merken. Eine Nummer, an der jemand rangeht, gehört dazu.
Hardware
Geht innerhalb der Laufzeit ein Teil kaputt, tauschen wir es. Die Grafikkarte ist das einzige Teil, das nennenswert altert.
Der Zugang bleibt Ihrer
Fernwartung läuft nur über einen Zugang, den Sie freischalten und jederzeit wieder abschalten können. Wer das nicht will, bekommt die Wartung vor Ort.

Abb. 03 2U-Rack-Server48,3 × 8,9 × 60 cm

Variante · Server in Deutschland

Wenn es größer wird: derselbe Aufbau im Rechenzentrum.

Ab etwa fünfundzwanzig aktiven Nutzern reicht eine einzelne Consumer-Karte nicht mehr. Dann stellen wir denselben Aufbau als 2U-Server in ein deutsches Rechenzentrum, auf eigene Hardware, ohne Cloud darunter und ohne geteilte Maschine.

Der Unterschied zur Box ist die Kapazität, nicht das Prinzip. Es bleibt Ihr Modell auf Ihrer Maschine, sie steht nur nicht mehr bei Ihnen im Haus, sondern hinter doppelter Anbindung und Notstrom. Für Betriebe ohne geeigneten Technikraum ist das meistens der ruhigere Weg.