#byte models

KI-Modelle haben möglicherweise einen Weg an Tokens vorbei gefunden

Ein winziges Vokabular klingt nach einer Abkürzung, bringt aber einen kostspieligen Geschwindigkeitsnachteil mit sich – und einen überraschenden Trainingsvorteil. Der eigentliche Durchbruch besteht vielleicht weniger darin, die heutigen Chatbots zu ersetzen, als vielmehr darin, kleine Modelle leichter trainierbar zu machen.