#backpropagation

Der Backprop-Durchbruch mit einem massiven Haken

Ein cleverer Trainings-Trick macht aus jedem Token ein kleines Experiment – und einige frühe Ergebnisse überraschten die Forscher. Doch eine Rechenkostenrechnung, die das Standardtraining in den Schatten stellt, könnte diese Idee von heutigen Produktionsmodellen fernhalten.