Wir erweitern unsere Entwicklungsinfrastruktur: von der Anbindung an das Apple-Ökosystem bis hin zu lokaler KI

Die Entwicklung bei TRITON IT basiert seit jeher auf einer Linux-Umgebung und einer Infrastruktur, die wir so aufbauen, dass sie den gesamten Lebenszyklus digitaler Projekte abdeckt – von Daten über Websites bis hin zu Anwendungen. In der Praxis hat sich für uns langfristig bestätigt, dass ein einziger Technologie-Stack heutzutage nicht mehr ausreicht. Unternehmen, die den gesamten Lebenszyklus digitaler Projekte effektiv abdecken wollen, müssen mit einer kontrollierten Heterogenität der Infrastruktur arbeiten, d. h. je nach konkretem Anwendungsfall mehrere Umgebungen kombinieren.

In unserem Fall zeigte sich dieser Bedarf in zwei konkreten Bereichen:

• Entwicklung von Apps für das Apple-Ökosystem
• Demonstration von Lösungen unter Einbindung lokaler KI direkt bei Kundengesprächen

Jede von ihnen stellt unterschiedliche technische und sicherheitsrelevante Anforderungen, sodass sie nicht effizient in einer einzigen universellen Umgebung gelöst werden können. Auf diese beiden Anforderungen haben wir daher mit einer Erweiterung der Infrastruktur um zwei neue Rechner reagiert: den Mac mini M4 und den Dream Machines RX5080-18EU26.

Das Apple-Ökosystem mit dem Mac mini M4

Um Apps für iOS und macOS effizient entwickeln zu können, benötigen wir einen physischen Apple-Computer. Die Tools zum Erstellen, Signieren und Veröffentlichen von Apps sind an macOS und die native Ausführung gebunden. Früher haben wir dieses Problem durch Virtualisierung gelöst. Diese stößt in der Praxis jedoch an Grenzen hinsichtlich Leistung, Stabilität und den Einschränkungen des Systems selbst. Wir brauchten einen Rechner, auf dem macOS nativ läuft und der gleichzeitig über ausreichende Leistung für den Build von Apps verfügt.

Warum gerade der Mac mini?

Der Mac mini M4 ist in dieser Hinsicht eine pragmatische Wahl. Er basiert auf der neuen Generation der Apple-Silicon-Chips (M4), was hohe Leistung, sehr gute Energieeffizienz und vor allem kompakte Abmessungen bedeutet, sodass kein eigener Arbeitsplatz erforderlich ist.

Wie wir den Mac mini nutzen

Der Mac mini dient unserem Entwicklungsteam als gemeinsamer Entwicklungsknoten. Das wichtigste Werkzeug ist Xcode, die offizielle Entwicklungsumgebung für Apple-Plattformen. Darin erfolgen sowohl die eigentliche Entwicklung und der Build der Anwendungen als auch die laufenden Tests und die Vorbereitung für die Veröffentlichung im App Store. Der Zugriff auf diesen Rechner erfolgt über eine Remote-Desktop-Verbindung. Das bedeutet, dass sich der Entwickler von seinem eigenen Gerät (in der Regel unter Linux) aus verbindet und mit dem Mac arbeitet, als säße er direkt davor.

Die Anbindung an die Infrastruktur erfolgt über einen Reverse-Tunnel über Cloudflare. Dadurch ist der Zugriff kontrolliert und sicher, und der Server bleibt innerhalb unserer Infrastruktur.

Neben der Anwendungsentwicklung setzen wir den Mac mini nun auch für interne KI-Tools ein. Konkret läuft darauf das Google-Gemma-Modell in der Übersetzungsvariante. Dieses nutzen wir als Ersatz für das Tool DeepL, beispielsweise bei der Erstellung von Sprachversionen unserer Website.

Mobile KI-Leistung dank Dream Machines RX5080

Das zweite Gerät ist auf eine andere Herausforderung ausgerichtet. Während der Mac mini ein fester Bestandteil der Infrastruktur ist, handelt es sich bei der Dream Machines RX5080-18EU26 hingegen um ein mobiles Gerät.

Dieses Notebook ist als leistungsstarke Workstation in einem tragbaren Gehäuse konzipiert. Entscheidend sind vor allem die NVIDIA RTX 5080-Grafikkarte (16 GB GDDR7) und die Leistung, die durch 32 GB RAM (DDR5) gewährleistet wird. Gerade dank des leistungsstarken Grafikchips von NVIDIA, der in letzter Zeit nicht nur auf dem tschechischen, sondern auch auf dem weltweiten Markt Mangelware war, können wir lokale KI-Modelle ausführen.

Warum wir es gekauft haben

Immer häufiger besprechen wir mit unseren Kunden Situationen, in denen diese öffentliche KI-Dienste nicht nutzen wollen (oder können). Gründe dafür sind die Übertragung sensibler Daten, interne Dokumente, gesetzliche Vorschriften oder die internen Sicherheitsrichtlinien des Unternehmens. Gleichzeitig möchten die Kunden bei Besprechungen jedoch sehen, was KI leisten kann – idealerweise anhand ihrer eigenen Daten und in einer Umgebung, die ihrer Infrastruktur ähnelt. Um schnell Proof-of-Concepts für Lösungen demonstrieren zu können, benötigten wir Hardware, die lokal und sofort einsatzbereit ist. Nach gründlicher Recherche haben wir uns für ein Gerät des polnischen Herstellers Dream Machines entschieden.

Marek Rost (CTO) und Michal Rost (CEO) sprechen in der neuesten Folge der Sendung Pod pokličkou über den Einsatz eines neuen Laptops zur Demonstration einer lokalen KI-Lösung.

Wie wir die RX5080-18EU26 in der Praxis einsetzen

Wir nutzen den Dream Machines RX5080-18EU26 als mobiles KI-Labor. Bei Kundengesprächen können wir damit direkt konkrete Anwendungsszenarien demonstrieren, wie zum Beispiel KI-Assistenten, die interne Daten auswerten, die Arbeit mit Embeddings, die Transkription von Audioaufnahmen mit Whisper oder den Einsatz kleinerer LLM-Modelle in Unternehmensprozessen.

Beide Geräte erfüllen unterschiedliche Anforderungen, fügen sich jedoch in denselben Rahmen ein. Mit dem Mac mini können wir die Entwicklung auf das Apple-Ökosystem ausweiten und den gesamten Prozess unter Kontrolle behalten. Das KI-Notebook ermöglicht es uns, die Technologie direkt zum Kunden zu bringen und in einer realen Umgebung damit zu arbeiten.

Beide Maschinen erfüllen unterschiedliche Anforderungen, fügen sich jedoch in denselben Rahmen ein. Dabei geht es nicht um die konkrete Hardware, sondern um ihre Rolle in der Infrastruktur.

Der Mac mini stellt für uns eine Brücke zwischen unserer vorwiegend auf Linux basierenden Umgebung und der Welt der Apple-Plattformen dar. Er ermöglicht es uns, den Großteil der Entwicklung in einem einzigen Stack zu bündeln und gleichzeitig einen kontrollierten, nativen Zugang zu dem Ökosystem zu haben, das dies erfordert.

Das KI-Notebook von Dream Machines fungiert hingegen als mobile Erweiterung der Infrastruktur in Richtung des Kunden. Es ermöglicht, Rechenleistung und Modelle direkt in deren Umgebung zu übertragen und mit ihnen zu arbeiten, ohne die Kompromisse eingehen zu müssen, die beispielsweise Cloud-Lösungen mit sich bringen.