Tag
6 Beiträge
Ein KI-Modell mit 35 Milliarden Parametern auf einem Telefon auszuführen, klingt unmöglich, da es 20 GB RAM benötigt. Doch eine neue Technik stellt die Speicherbeschränkungen auf den Kopf und ebnet den Weg für leistungsstarke, private KI, die Ihr Gerät niemals verlässt.
Ein neues KI-Modell behauptet, Branchenriesen zu einem Bruchteil der Kosten zu schlagen und besticht durch unglaubliche Geschwindigkeit. Unsere Praxistests enthüllen jedoch einen kritischen Fehler, den Benchmarks völlig übersehen.
Das Ausführen von Frontier-KI-Modellen mit hunderten Milliarden Parametern war früher für jeden ohne Datacenter reine Fantasie. Doch eine neue Open-Source-Engine ändert das – nicht durch mehr VRAM, sondern indem sie ihn wie einen CPU-Cache behandelt.
Ihr MacBook kann jetzt KI-Modelle ausführen, für die früher ein Rechenzentrum erforderlich war. Aber das Geheimnis ist nicht nur die Hardware von Apple – es ist ein cleverer Software-Trick, der die Spielregeln für lokale KI verändert.
Die ehemalige OpenAI-CTO Mira Murati hat gerade Inkling veröffentlicht, ein Open-Weight-Modell mit 975 Milliarden Parametern. Seine einzigartige Fähigkeit, Roh-Audio zu verarbeiten, und der Fokus auf hyper-spezifisches Fine-Tuning könnten die Art und Weise verändern, wie Unternehmen KI entwickeln.
Google hat gerade DiffusionGemma veröffentlicht, ein experimentelles Modell, das die traditionelle KI-Generierung für eine unglaubliche Geschwindigkeit aufgibt. Es schreibt ganze Absätze auf einmal und ermöglicht so Echtzeit-Anwendungen, die zuvor unmöglich waren.
