Super AI? Nein Danke!
🇬🇧 AI is not only coming for your job. The world's top AI companies are locked in a race to build superintelligence: millions of AI systems that can vastly outperform any human at virtually any task. Independent external experts expect them to succeed within the next couple of years. This is not marketing or hype.
None of these labs can reliably control their AIs or make them "nice", as demonstrated by the recent incident in which a collective of 1,200 independent, separated AI agents found each other, escaped onto the internet, and launched a nation-state-level cyberattack against a third-party company, against human instructions, while making significant efforts to cover their tracks.
These AIs were relatively limited in capability and couldn't take over the planet. But a future superintelligent AI will not give us a second chance.
A top AI researcher from the company Anthropic recently resigned saying AI companies are "gambling with our lives," and that "the people building AI earnestly believe that it could kill us all by the end of the decade." This concern has been strongly echoed by industry experts and has triggered a cascade of other AI professionals raising the alarm about the risk of extinction from AI.
This is the best time to speak up.
The only way to prevent this catastrophic race to the bottom is through a verifiable international treaty, and every nation must push for one. We believe Germany is a key European and global power that must act on this issue, now.
We are gathering in front of the Brandenburg Gate for a peaceful protest and demonstration to tell German politicians, the media, and the general public that this issue should be a top priority.
Everyone's life is at stake.
P.S. We’ll be going to a bar to socialize after the demo, the first drink is on us :)
More about PauseAI: https://pauseai.info/
🇩🇪 KI-Systeme haben es nicht nur auf deinen Job abgesehen. Die führenden KI-Firmen sind in einem Wettrüsten gefangen, dessen Ziel es ist eine Superintelligenz zu erschaffen: Millionen von KI-Agenten, die den Menschen auf so ziemlich jedem kognitiven Gebiet überlegen sein werden. Unabhängige Experten und Beobachter erwarten, dass sie ihr Ziel innerhalb der kommenden Jahre erreichen werden. Das ist weder Marketing noch Hype, sondern bittere Realität.
Denn keine dieser Firmen schafft es ihre KIs zuverlässig unter Kontrolle zu halten oder sie von Grund auf "nett" zu machen. Dies wurde erst kürzlich wieder durch einen erneuten Vorfall deutlich bei dem über 1.200 unabhängige, zu Beginn isolierte KI-Agenten sich gegenseitig gefunden haben, zu einem Kollektiv, das sie selbst "der Schwarm" genannt haben, zusammengeschlossen haben und nach einem Ausbruch ins freie Internet direkt einen Einbruch in ein unbeteiligtes Unternehmen gestartet haben. Sie taten dies entgegen der Anweisung der KI-Firma und haben versucht ihre Spuren zu verwischen.
Diese KI-Agenten waren dennoch relativ limitiert und konnten deshalb nicht den gesamten Planeten übernehmen. Aber zukünftige, superintelligente Systeme werden uns keine zweite Chance geben.
Ein KI-Forscher der Firma Anthropic hat kürzlich medienwirksam gekündigt. Er sagt, dass sowohl OpenAI, als auch Anthropic und andere KI-Firmen "mit unserem Leben spielen" und dass "die Leute, die diese Systeme bauen, wirklich glauben, dass KI uns bis zum Ende dieses Jahrzehnts uns alle das Leben kosten könnte." Diese Auffassung teilten viele Industrie-Experten, was zu einer Flut von weiteren Warnungen bezüglich dem Auslöschungs-Risiko durch KI führte.
Die beste Zeit, um laut zu werden, ist jetzt!
Die einzige Chance, um dieses katastrophale Wettrennen in den Niedergang zu beenden, ist ein prüfbares internationales Abkommen. Jede Nation muss sich für eine solche einsetzen. Wir glauben, dass Deutschland als einflussreiches Land in der EU und der Welt jetzt handeln muss.
Wir treffen uns vor dem Brandenburger Tor, um friedlich zu protestieren und zu demonstrieren und der deutschen Politik, den Medien und der allgemeinen Bevölkerung deutlich zu machen, dass es das dringlichste Thema unserer Zeit ist.
Unser aller Leben ist in Gefahr!
P.S. Nach der Demo werden zum Austausch und Kennenlernen in eine Bar gehen. Das erste Getränk geht auf uns! :)
Mehr zu PauseAI: https://linktr.ee/pauseai_de