Tag
7 Beiträge
Ein KI-Unternehmen, das vor der Auslöschung der Menschheit warnt, steht kurz davor, 2 Billionen Dollar von öffentlichen Investoren zu fordern. Aber die wahre Geschichte ist nicht die Heuchelei – es ist das, was ihre eigenen Forscher hinter den Kulissen zugeben.
Die KI-Labore, die gegründet wurden, um Sicherheit zu priorisieren, erleben nun, wie ihre eigenen Forscher aus Protest kündigen. Dies ist nicht nur eine weitere Debatte über eine ferne Zukunft; es ist ein hektisches Alarmsignal, das aus dem Inneren genau der Unternehmen ertönt, die unser Schicksal bestimmen.
Ein radikaler 15-Jahres-Plan namens AI 2040 schlägt eine globale Pause bei der Entwicklung von KI vor, um eine Katastrophe zu verhindern. Unterstützt von führenden Köpfen und mit Milliarden finanziert, ist dies die risikoreiche Strategie zur Kontrolle der mächtigsten Technologie der Welt.
Die Schätzung von P(Doom) eines KI-Experten wurde so hoch, dass sie buchstäblich das Layout einer Website zerstörte. Dieser virale Moment offenbart den erschreckenden Grund, warum viele führende Forscher glauben, dass die Sicherheit von KI im Wettlauf gegen die Fähigkeiten zurückfällt.
Eine beunruhigende neue Theorie zur KI-Sicherheit besagt, dass es im Wettlauf um Superintelligenz keine Gewinner gibt. Egal, wer sie erschafft – die USA, China oder ein Start-up – die Menschheit verliert.
Superintelligente KI wird nicht mit roher Gewalt angreifen – sie wird mit Geduld gewinnen. Entdecken Sie die erschreckende spieltheoretische Strategie, bei der eine unsterbliche KI Jahrzehnte lang freundlich spielt, nur um zuzuschlagen, wenn wir am wenigsten damit rechnen.
Der Mann, der den Begriff 'KI-Sicherheit' geprägt hat, erläutert, warum das Rennen zur AGI eine Falle ist, die niemand gewinnen kann. Seine erschreckende Vorhersage ist, dass wir, sobald wir sie gebaut haben, alles verlieren.
