close notice

This article is also available in English. It was translated with technical assistance and editorially reviewed before publication.

Don’t show this again.

Apple plant neue Wege, lokale KI-Modelle auf den Mac zu holen. Seine Tochterfirma Claris, die sich hauptsächlich um die Entwicklung der Datenbanklösung FileMaker kümmert, bringt mit Harbor eine neue App dafür heraus. Diese soll erlauben, private Inferenz-Server aufzusetzen und Open-Weight-Modelle auszuführen – offenbar im Stil von Programmen wie LM Studio. Harbor soll es außerdem ermöglichen, mehrere Macs via Thunderbolt 5 zu „poolen“.

Weiterlesen nach der Anzeige

Lokales Modell „in Minuten“

So kann der Speicher gemeinsam verwendet werden. Harbor soll so einfach zu nutzen sein, dass man lokale Modelle „in Minuten, nicht Stunden“ aufsetzen könne. Momentan ist Harbor noch in einer Testphase. Interessierte können sich um Early Access bemühen und hier ihre Daten hinterlassen. Wann die App erscheint, ist derzeit noch unklar.

Daten verlassen den Mac bei der Verwendung von Harbor nicht. „Nichts erreicht die Cloud“, betont Claris. Welche lokalen Modelle verwendet werden können, hat Claris noch nicht verraten. In einem Beispielbild wird Llama 3.6-2-instruct-4bit gezeigt. Besonders beliebt sind hier vor allem chinesische Modelle wie Qwen, GLM oder DeepSeek. Unkritisch sind diese nicht: So sind sie standardmäßig zensiert, wenn es um das Themenfeld Politik geht. Zuletzt gab es Vorwürfe, dass schon die Weights der Modelle problematisch sein könnten, was die Nutzung in westlichen Firmen betrifft.

Speicher zwischen Macs verteilen

Claris gibt an, dass man mit Harbor in einem Katalog aus Open-Weight-Modellen auswählen kann. „Harbor übernimmt die Modellverwaltung, sodass Sie sich auf die eigentliche Arbeit konzentrieren können und nicht auf die Einrichtung“, schreibt der Hersteller. Mindestens zwei Macs lassen sich zusammenschalten, es könnten aber auch mehr sein. „Führen Sie Modelle aus, die die Kapazität eines einzelnen Computers übersteigen, oder bearbeiten Sie mehr gleichzeitige Anfragen über Ihren Cluster hinweg.“

All das wirkt durchaus spannend, doch zentrale Fragen bleiben unklar: So hat Claris noch keine Angaben zu möglichen Preisen genannt, zudem wurde nicht angegeben, wie die Software intern läuft, also ob sie beispielsweise auf Ollama aufsetzt.

Empfohlener redaktioneller Inhalt

Mit Ihrer Zustimmung wird hier ein externer Preisvergleich (heise Preisvergleich) geladen.

Preisvergleich jetzt laden

(bsc)

Dieser Link ist leider nicht mehr gültig.

Links zu verschenkten Artikeln werden ungültig, wenn diese älter als 7 Tage sind oder zu oft aufgerufen wurden.


Sie benötigen ein heise+ Paket, um diesen Artikel zu lesen. Jetzt eine Woche unverbindlich testen – ohne Verpflichtung!