We breiden onze ontwikkelingsinfrastructuur uit: van een brug naar het Apple-ecosysteem tot lokale AI

De ontwikkeling bij TRITON IT is al geruime tijd gebaseerd op een Linux-omgeving en -infrastructuur, die we zo opbouwen dat deze de volledige levenscyclus van digitale projecten aankan, van data via websites tot applicaties. In de praktijk blijkt al geruime tijd dat één technologische stack tegenwoordig niet meer volstaat. Bedrijven die de volledige levenscyclus van digitale projecten efficiënt willen afdekken, moeten werken met een gecontroleerde heterogeniteit van de infrastructuur, dat wil zeggen meerdere omgevingen combineren op basis van de specifieke use case.

In ons geval kwam deze behoefte op twee specifieke gebieden tot uiting:

• ontwikkeling van apps voor het Apple-ecosysteem
• demonstraties van oplossingen waarbij lokale AI direct tijdens klantgesprekken wordt ingezet

Elk van deze systemen stelt andere technische en veiligheidseisen, waardoor ze niet effectief kunnen worden aangepakt met één universele omgeving. Om aan beide behoeften tegemoet te komen, hebben we de infrastructuur daarom uitgebreid met twee nieuwe machines: de Mac mini M4 en de Dream Machines RX5080-18EU26.

Het Apple-ecosysteem met de Mac mini M4

Om effectief apps voor iOS en macOS te kunnen ontwikkelen, hebben we een fysieke Apple-computer nodig. De tools voor het bouwen, ondertekenen en publiceren van apps zijn gekoppeld aan macOS en native uitvoering. Vroeger losten we dit op via virtualisatie. In de praktijk stuit dit echter op problemen met de prestaties, de stabiliteit en de beperkingen van het systeem zelf. We hadden een computer nodig waarop macOS native draait en die tegelijkertijd voldoende rekenkracht heeft om apps te bouwen.

Waarom juist de Mac mini?

De Mac mini M4 is in dit opzicht een pragmatische keuze. Hij is gebaseerd op de nieuwe generatie Apple Silicon-chips (M4), wat staat voor hoge prestaties, een zeer goede energie-efficiëntie en vooral compacte afmetingen, waardoor er geen speciale werkplek nodig is.

Hoe wij de Mac mini gebruiken

De Mac mini fungeert voor ons ontwikkelteam als een gedeeld ontwikkelingsknooppunt. De belangrijkste tool is Xcode, de officiële ontwikkelomgeving voor Apple-platforms. Hierin vinden zowel de ontwikkeling en het bouwen van applicaties plaats als het doorlopende testen en de voorbereiding voor publicatie in de App Store. We regelen de toegang tot deze machine via een extern bureaublad. Dit betekent dat een ontwikkelaar verbinding maakt vanaf zijn eigen apparaat (meestal een Linux-systeem) en met de Mac werkt alsof hij ernaast zit.

De koppeling met de infrastructuur is gerealiseerd via een reverse tunnel via Cloudflare. Hierdoor is de toegang gecontroleerd en veilig en blijft de server binnen onze infrastructuur

Naast de ontwikkeling van applicaties zijn we de Mac mini ook gaan gebruiken voor interne AI-tools. Er draait namelijk het Google Gemma-model in de versie voor vertalingen op. Dat gebruiken we als vervanging voor DeepL, bijvoorbeeld bij het maken van taalversies van de website.

Mobiele AI-prestaties dankzij de Dream Machines RX5080

De tweede machine biedt een oplossing voor een andere uitdaging. Terwijl de Mac mini een vast onderdeel van de infrastructuur is, is de Dream Machines RX5080-18EU26 juist een mobiel apparaat.

Deze laptop is ontworpen als een krachtig werkstation in een draagbare behuizing. De NVIDIA RTX 5080 grafische kaart (16 GB GDDR7) en de prestaties die worden gegarandeerd door 32 GB RAM (DDR5) zijn daarbij van cruciaal belang. Juist dankzij de krachtige grafische chip van NVIDIA, die de laatste tijd niet alleen op de Tsjechische, maar ook op de wereldmarkt schaars was, kunnen we lokale AI-modellen draaien.

Waarom we hem hebben gekocht

Steeds vaker hebben we met klanten te maken die geen gebruik willen (of kunnen) maken van openbare AI-diensten. Redenen hiervoor zijn de overdracht van gevoelige gegevens, interne documenten, wetgeving of het interne beveiligingsbeleid van het bedrijf. Tegelijkertijd willen klanten tijdens vergaderingen echter zien wat AI kan – idealiter op basis van hun eigen gegevens en in een omgeving die lijkt op hun eigen infrastructuur. Om snel proof-of-concepts van oplossingen te kunnen demonstreren, hadden we hardware nodig die lokaal en direct werkt. Na grondig onderzoek hebben we gekozen voor een machine van de Poolse fabrikant Dream Machines.

Marek Rost (CTO) en Michal Rost (CEO) bespreken in de nieuwste aflevering van het programma Pod pokličkou het gebruik van een nieuwe laptop om een ​​lokale AI-oplossing te demonstreren.

Hoe we de RX5080-18EU26 in de praktijk gebruiken

We gebruiken de Dream Machines RX5080-18EU26 als mobiel AI-laboratorium. Tijdens vergaderingen met klanten kunnen we er direct concrete scenario's op demonstreren, zoals AI-assistenten die interne gegevens verwerken, het werken met embeddings, het transcriberen van audio met behulp van Whisper of het inzetten van kleinere LLM-modellen in bedrijfsprocessen.

Beide apparaten voorzien in verschillende behoeften, maar passen binnen hetzelfde kader. Met de Mac mini kunnen we onze ontwikkeling uitbreiden naar het Apple-ecosysteem en het hele proces onder controle houden. Met de AI-laptop kunnen we de technologie rechtstreeks naar de klant brengen en ermee werken in een praktijkomgeving.

Beide machines voorzien in verschillende behoeften, maar passen binnen hetzelfde kader. Het gaat daarbij niet om specifieke hardware, maar om hun rol in de infrastructuur.

De Mac mini vormt voor ons een brug tussen onze voornamelijk op Linux gebaseerde omgeving en de wereld van de Apple-platforms. Hierdoor kunnen we het grootste deel van onze ontwikkeling binnen één stack houden en tegelijkertijd gecontroleerde, native toegang hebben tot het ecosysteem dat dit vereist.

De AI-laptop van Dream Machines fungeert daarentegen als een mobiele uitbreiding van de infrastructuur in de richting van de klant. Hiermee kan rekenkracht en modellen rechtstreeks naar hun omgeving worden overgebracht en kan ermee worden gewerkt zonder de compromissen die bijvoorbeeld een cloudoplossing met zich meebrengt.