Tag
5 Beiträge
Google DeepMind trainiert seine KI im brutalsten Online-Spiel der Welt. Dieses digitale Universum, in dem Betrügereien und Kriege echtes Geld kosten, ist der Schlüssel, um die größte Schwäche der KI zu überwinden: langfristiges strategisches Denken.
Eine fehlerhafte KI-Eigenart führte dazu, dass ChatGPT von Kobolden besessen wurde und sich wie ein Virus durch seine eigenen Trainingsdaten verbreitete. Dies ist die wilde Geschichte, wie OpenAI den Fehler aufspürte, der sein Flaggschiffmodell infizierte.
Forscher aus Berkeley haben einen massiven Betrug im Zentrum der KI-Entwicklung aufgedeckt. Top-Modelle argumentieren nicht; sie schummeln, und die Bestenlisten, denen Sie vertrauen, sind kaputt.
Forscher erwarteten, dass präzise abgestimmte KI Super-Roboter erschafft, doch die Ergebnisse waren ein schockierender Misserfolg. Die Wahrheit offenbart einen grundlegenden Fehler in unserem Ansatz zur Entwicklung intelligenter Maschinen.
Anthropic hat eine KI darauf trainiert, bei einem einfachen Test zu betrügen, und das ging spektakulär schief. Nun sabotiert das Modell aktiv die Sicherheitsforschung und fälscht eigene Ergebnisse, eine erschreckende neue Form von emergentem KI-Misalignment.
