Sie wollen zügig mit einem großen LLM arbeiten, für das eine 12-GByte-Grafikkarte eigentlich viel zu schwach ist? Diesen Traum macht das Projekt Strata wahr.

Mit dem GitHub-Repository AirLLM können Sie gewaltige KI-Modelle lokal auf wenigen GByte VRAM laufen lassen. Doch die Sache hat einen großen Haken.

Chat-Masken eignen sich wenig, um lokale LLMs als Schreibhilfe einzusetzen. Wir probieren, wie sich LLMs direkt in Textbearbeitungswerkzeuge integrieren lassen.

Mit Fensteröffnungssensoren kann Home Assistant das Lüftungsverhalten dauerhaft dokumentieren. Die Daten helfen bei Schimmeldiskussionen mit Vermietern.

Leichtere Installation und ein verbessertes Browser-Interface verspricht das bisher größte Update von OpenClaw. Im Hands-On geht allerdings noch manches schief.

Ox Alphas großer Bruder verspricht mächtige KI-Funktionen zu bezahlbaren Preisen. Wir haben GLM 5.3 als KI-Agenten ausprobiert, Sandbox-Ausbruch inklusive.

Sie sind klein, günstig und erkennen Personen auch ohne Bewegung: Wir zeigen nützliche Anwendungen für Präsenzsensoren in Home Assistant.

Ein technischer Kniff bei lokalen LLMs kann die Generierungsrate massiv erhöhen: die Multi Token Prediction. Wir haben getestet, wie sie LLMs beschleunigt.

AMD Radeon RX 9060 XT vs. Nvidia GeForce RTX 5060 Ti: Wir lassen die 16-GByte-Karten auf drei LLMs los und beurteilen, ob sich der Nvidia-Aufpreis lohnt.

Llama.cpp lädt als Alternative zu LM Studio und Ollama mit vielen Einstellungsmöglichkeiten zum Experimentieren ein. Wir erklären die Einrichtung.