Showdown: "A Better Today"

SHOWDOWN!
Auto-Transkript für S&P und NFSC Einreichung

EP:66:12: "Ein besseres Heute"
Willkommen bei Showdown, der Diskussionssendung zu den drängendsten Fragen des Imperiums. Ich bin Ihre Moderatorin in der Mitte, Eria Quint. Im weiteren Verlauf der Sendung werden wir uns mit den jüngsten gewalttätigen Zusammenstößen zwischen Privatleuten auf Yela und Crusader Security befassen und fragen, ob die Unternehmenspolizei zu weit gegangen ist oder ob sie sich endlich eines Problems annimmt, das schon viel zu lange ignoriert wurde.

Doch zunächst ist es ein Jahr her, dass Laylani Addison Imperatorin des Vereinigten Imperiums der Erde wurde und nicht alle ihre Anhänger sind mit den bisherigen Fortschritten zufrieden. Trotz ihres Wahlkampfversprechens, mehr Mittel für die Forschung im Bereich der künstlichen Intelligenz bereitzustellen, hat sie bisher keine konkreten Maßnahmen ergriffen. Ihr kürzlich vorgeschlagenes Gesetz, der Better Today Act, wird viele der bestehenden Beschränkungen für die KI-Forschung abschwächen und die Tür für eine staatliche Finanzierung öffnen. Einige feiern das neue Gesetz, aber andere sind sich nicht so sicher, ob es eine gute - oder sichere - Idee ist.

Ich bin hier mit Yuna Glidewell, Ingenieurin und Verfechterin künstlicher Intelligenz, und Mahir Lemond, Autor des Buches 2044: The Lemming Incident.

YUNA GLIDEWELL: Hallo Eria. Schön, hier zu sein.
MAHIR LEMOND: Hallo.

Was halten Sie von Addisons Vorschlag? Ich fange mit Ihnen an, Yuna.

YUNA GLIDEWELL: Ich meine, ich brauche wohl nicht zu sagen, dass ich überglücklich bin. Es ist schon so lange her, dass Addison ihr Amt angetreten hat, dass meine Kollegen und ich schon die Hoffnung verloren hatten. Wir dachten, sie hätte vergessen, dass sie die Wahl dank ihres Versprechens einer besseren Zukunft gewonnen hat.
Eine "bessere Zukunft"? Können Sie das näher erläutern?

YUNA GLIDEWELL: Viel zu lange hat die Menschheit ihren eigenen Fortschritt durch unsere irrationale Angst vor künstlicher Intelligenz behindert. Es ist Jahrhunderte her, dass wir in der KI-Forschung nennenswerte Fortschritte machen durften, und nicht zufällig sind wir meiner Meinung nach in der Technologie mindestens ein Jahrhundert hinter den Xi'an zurück.
Hat das Xi'an-Reich eine echte künstliche Intelligenz entwickelt? Wenn ja, dann ist das eine Neuigkeit für mich.

YUNA GLIDEWELL: [lacht] Nun, nicht dass wir wüssten. Aber deshalb ist es ja auch so wichtig, dass wir es zuerst schaffen. Wenn wir etwas erschaffen, was selbst die Xi'an noch nicht haben, können wir die technologische Lücke ganz erheblich schließen.
Was ist mit Ihnen, Mahir? Erregt oder beunruhigt Sie der Better Today Act?

MAHIR LEMOND: Es beunruhigt mich zutiefst. Wir haben schon vor langer Zeit entschieden, dass KI das Risiko nicht wert ist, und zwar aus sehr guten, ausführlich dokumentierten und vor allem tödlichen Gründen. Das geht weit über das Tokioter Lemming-Auto-Desaster von 2044 hinaus, bei dem 12.456 Menschen starben und unzählige verletzt wurden. Jedes Mal, wenn wir KIs erschaffen haben, hat es uns schlimmer erwischt. Die Mars-Tragödie im Jahr 2125, die Explosion des Cerita Towers im Jahr 2298, der Horus-Zwischenfall im Jahr 2696: allesamt verursacht durch gut gemeinte, aber letztlich gefährliche Experimente mit KI.

YUNA GLIDEWELL: Das waren alles schreckliche Tragödien, das will ich nicht bestreiten. Aber frühe Technologien haben immer Probleme, die in den nachfolgenden Generationen ausgearbeitet werden.
MAHIR LEMOND: Der Verlust von Menschenleben ist ein bisschen ernster als ein "Problem", Frau Glidewell.

YUNA GLIDEWELL: Und wie ich schon sagte, es waren Tragödien. Solche, die wir vermeiden können, wenn wir aufhören, Angst vor dem Fortschritt zu haben. Heute sind wir in der Lage, Sicherheitsvorkehrungen zu treffen, die sich unsere Vorfahren nicht hätten vorstellen können. Glauben Sie mir, niemand denkt mehr über die möglichen Folgen einer schlecht gemachten und verwalteten künstlichen Intelligenz nach als die Menschen, die sie erforschen.
MAHIR LEMOND: Ich denke, die Menschheit macht gute Fortschritte. Sehen Sie sich an, welche Auswirkungen die Regenerations-Technologie hat. Wie kann das kein Fortschritt sein?

YUNA GLIDEWELL: Natürlich meine ich nicht, dass wir uns absolut nicht weiterentwickeln. Aber obwohl es immer wieder Fortschritte gibt, ist der allgemeine Trend, dass wir langsamer werden. Sie müssen zugeben, dass es seltsam ist, dass wir seit Hunderten von Jahren mit denselben Raumschiffmodellen fliegen, während in den Anfängen der Raumfahrt in rasantem Tempo neue Raumschiffmodelle auf den Markt kamen. Ich meine, kommen Sie, mein Sohn fliegt ein Schiff, das 2874 gebaut wurde.
MAHIR LEMOND: Ja, ich gebe zu, dass es in manchen Bereichen so aussieht, als gäbe es eine Flaute. Aber so ist das mit dem Fortschritt. Wenn Sie sich die Geschichte der Menschheit ansehen, dann gab es Zeiten des schnellen Wandels, Zeiten des "business as usual" und Zeiten des Niedergangs. Manche Technologien können erst lange nach ihrer Entdeckung voll genutzt werden. Sehen Sie sich die Dampfkraft an: Sie wurde von den Menschen im 1. Jahrhundert erfunden, konnte aber aufgrund fehlender Ressourcen erst um 1700 voll genutzt werden. Sehen Sie sich auch die Wasserschiffe an, deren Design seit der Zeit, bevor die Menschen auf Luna landeten, nicht mehr wesentlich verändert werden musste. Warum etwas reparieren, das nicht kaputt ist?

YUNA GLIDEWELL: Warum sollten Sie sich mit dem zufrieden geben, was Sie haben, wenn Sie etwas bekommen können, das besser funktioniert? Wie Sie schon sagten, gibt es Perioden, in denen sich wenig bis gar nichts ändert, und dann wieder Perioden mit explosiven Veränderungen, wenn eine neue Ressource entdeckt wird. Die KI hat das Potenzial, diese Ressource für uns zu sein. Ganz gleich, wie viel Kreativität und Einsicht der Mensch besitzt, unser Verstand ist begrenzt. Eine KI, die mit anderen KIs vernetzt ist, wird übermenschliche Fähigkeiten haben. Stellen Sie sich vor, wie die Zukunft des Raumschiffsdesigns aussehen könnte, wenn wir auch nur ein paar KIs damit beauftragen würden, ein besseres Schiff zu bauen.
MAHIR LEMOND: Wir verfügen bereits über komplexe Algorithmen und leistungsstarke Technologien für maschinelles Lernen, die genau das leisten, was Sie beschreiben. Die nächste Generation von Drohnen, die die Armee '47 entwickelte, wurde ursprünglich von einem Computer entworfen, der mit Daten über Vogelskelette gefüttert worden war. Wir brauchen eindeutig keine künstliche Intelligenz, um neue Technologien zu entwickeln. Die Geschichte zeigt es deutlich.

YUNA GLIDEWELL: Nochmals, ich behaupte nicht, dass es kein Risiko gibt, ich sage nur...
MAHIR LEMOND: Ich bin noch nicht fertig. Die Beweise zeigen, dass Menschen sterben, wenn KI im Spiel ist.

YUNA GLIDEWELL: Sie interpretieren mich absichtlich falsch. Ich habe mehrfach gesagt, dass wir die hypothetische Gefahr in Betracht gezogen haben und den Schutz von Menschenleben zu unserer obersten Priorität machen werden.
MAHIR LEMOND: Die Gefahr ist nicht hypothetisch und das wissen Sie. Es ist Ihnen nur egal.

Lassen Sie uns für einen Moment von der Frage der Menschenleben Abstand nehmen. Yuna, können Sie mir mehr über die Probleme erzählen, die Ihrer Meinung nach durch künstliche Intelligenz gelöst werden können?

YUNA GLIDEWELL: Danke, Eria. Wenn wir KI haben, müssen Soldaten nicht mehr in den Krieg ziehen. Die Zahl der Todesfälle im Operationssaal wird drastisch sinken. Verkehrsunfälle werden der Vergangenheit angehören. Schiffe werden in der Lage sein, sich wirklich selbst zu fliegen. Ich könnte noch mehr sagen, aber das ist die Zukunft, die wir uns selbst verweigern. Sie ist nur deshalb unerreichbar, weil wir Angst haben, die nächsten Schritte zu tun. Der Better Today Act ist der sanfte Anstoß, den wir brauchen, um uns vom Startblock zu erheben.
MAHIR LEMOND: In Ordnung. Vergessen wir die Vergangenheit und stellen wir uns für eine Sekunde vor, dass es für eine fehlerhafte oder bösartige KI keine Möglichkeit gibt, Menschen zu ermorden. Sie haben soeben eine Welt beschrieben, in der die Opfer von Kriegen, frühem Tod und Armut alle ausgerottet sind, oder so nahe an der Ausrottung sind, wie es nur geht. Ist das richtig?

YUNA GLIDEWELL: Nicht ganz. Aber die Dinge haben definitiv das Potenzial, viel, viel besser zu werden.
MAHIR LEMOND: Und der beste Weg dazu ist, denkende, fühlende Sklaven zu schaffen, die unsere Probleme für uns lösen?

YUNA GLIDEWELL: Entschuldigen Sie bitte?
Bevor wir auf diese Frage eingehen, müssen wir eine kurze Werbepause einlegen. Wir werden bald zurückkehren, um die faszinierende Diskussion zwischen Mahir Lemond und Yuna Glidewell zu beenden. Dann werden wir uns mit der Situation auf Yela befassen. Kann die Crusader Security wirklich für Ordnung auf einem Mond sorgen, auf dem es keine gibt? Gehen Sie nicht weg.

SHOWDOWN!
Auto-Transcript for S&P and NFSC Submission

EP:66:12: “A Better Today”
Welcome to Showdown, the debate show focused on the Empire’s most pressing issues. I’m your moderator in the middle, Eria Quint. Coming up later on the show, we’ll get into the recent violent clashes between private citizens on Yela and Crusader Security and ask whether the corporate police force has gone too far, or if it’s finally stepping up to address a problem that’s been ignored for far too long.

But first, it’s been a year since Laylani Addison became Imperator of the United Empire of Earth and not all her supporters are happy with the progress made so far. In spite of her campaign promise to ensure increased funding for artificial intelligence research, she hasn’t taken concrete action until now. Her recently proposed legislation, the Better Today Act, will weaken many of the restrictions in place against AI research and open the door for it to receive government funding. Some are celebrating the new law, but others aren’t so sure it’s a good – or safe – idea.

I’m here with Yuna Glidewell, engineer and artificial intelligence advocate, and Mahir Lemond, author of the book 2044: The Lemming Incident.

YUNA GLIDEWELL: Hi Eria. Great to be here.
MAHIR LEMOND: Hello.

How do you feel about Addison’s proposal? I’ll start with you, Yuna.

YUNA GLIDEWELL: I mean, needless to say, I’m beyond excited. It’s been so long since Addison took office that my colleagues and I were beginning to lose hope. We thought she’d forgotten that she won the election thanks to her promise of a brighter tomorrow.
A “brighter tomorrow?” Can you elaborate on that?

YUNA GLIDEWELL: For too long, Humanity has hampered its own progress thanks to our irrational fear of artificial intelligence. It’s been centuries since we’ve been allowed to make any meaningful headway in AI research, and, not coincidentally in my opinion, we’re at least a century behind the Xi’an in tech.
Has the Xi’an Empire developed true artificial intelligence? If so, that’s news to me.

YUNA GLIDEWELL: [laughs] Well, not that we know of. But that’s why it’s so important that we get to it first. If we create something even the Xi’an don’t have yet, we can make major headway in closing the tech gap.
What about you, Mahir? Does the Better Today Act excite or worry you?

MAHIR LEMOND: It deeply worries me. We decided a long time ago that AI wasn’t worth the risk, and for very good, extensively documented, and above all deadly reasons. This goes far beyond the 2044 Tokyo Lemming Car disaster, which resulted in 12,456 deaths and countless injuries. Every time we’ve made AIs, we’ve come off worse for it. The Mars Tragedy in 2125, the explosion of Cerita Tower in 2298, the Horus Incident in 2696: all caused by well-intentioned but ultimately dangerous experiments with AI.

YUNA GLIDEWELL: These were all terrible tragedies; I won’t argue with that. But early tech always has issues that are worked out in subsequent generations.
MAHIR LEMOND: The loss of Human life is a bit more serious than an “issue,” Ms. Glidewell.

YUNA GLIDEWELL: And like I said, they were tragedies. Ones we can avoid if we stop being afraid of progress. Today, we’re capable of building safeguards that our ancestors wouldn’t have been able to imagine. Believe me, no one thinks more about the potential consequences of a poorly made and managed artificial intelligence than the people who research it.
MAHIR LEMOND: I like to think Humanity is progressing just fine. Look at the impact regen tech has had. How is that not progress?

YUNA GLIDEWELL: Of course I don’t mean that we’re going absolutely nowhere. But while there are bursts of progress, the overall trend is that we are slowing down. You have to admit that it’s strange that we fly the same models of spacecraft for hundreds of years, when in the early days of spaceflight new models of ships were being released at a breakneck pace. I mean, come on, my son flies a ship that was built in 2874.
MAHIR LEMOND: Yes, I grant you that in some areas it feels like there’s a lull. But that’s how progress works. If you look at Human history, there have been periods of rapid change, periods of business as usual, and periods of decline. Some technologies can’t be fully utilized until long after they’re discovered. Look at steam power: it was created by ancient Humans in the 1st century but couldn’t be fully realized until the 1700s due to a lack of resources. For that matter, look at water ships, the design of which hasn’t needed to be meaningfully updated since before Humans even landed on Luna. Why fix something that isn’t broken?

YUNA GLIDEWELL: Why content yourself with what you have when you can get something that works better? Like you said, there are periods of little to no change and then periods of explosive change when a new resource is discovered. AI has the potential to be that resource for us. No matter how much creativity and insight Humans are capable of, our minds are limited. An AI networked to other AIs will have superhuman capabilities. Imagine what the future of spacecraft design could be if we put even a few AIs to work on building a better ship.
MAHIR LEMOND: We already have complex algorithms and powerful machine learning tech that accomplishes exactly what you’re describing. The next generation drones the army developed back in ‘47 were initially designed by a computer that had been fed data on avian skeletons. We clearly don’t need artificial intelligence to create new technologies. Historical evidence plainly states-

YUNA GLIDEWELL: Again, I’m not arguing that there isn’t a risk, what I’m saying is-
MAHIR LEMOND: I’m not finished. The evidence states that when AI is involved, people die.

YUNA GLIDEWELL: You’re deliberately misinterpreting me. I’ve said multiple times that we’ve taken the hypothetical danger into consideration and will make protecting Human lives our first priority.
MAHIR LEMOND: The danger isn’t hypothetical and you know it. You just don’t care.

Let’s step back for a moment from the Human lives question. Yuna, could you tell me more about the issues you believe artificial intelligence can help solve?

YUNA GLIDEWELL: Thank you, Eria. When we have AI, soldiers won’t need to go to war. Operating room deaths will drastically decrease. Traffic accidents will become a thing of the past. Ships will be able to truly fly themselves. I could go on, but this is the future that we’re denying ourselves. It’s only out of reach because we’re afraid to take the next steps. The Better Today Act is the gentle push we need to get us off the starting block.
MAHIR LEMOND: All right. Let’s forget the past and imagine for a second that there’s no possible way for a faulty or rogue AI to murder people. You’ve just described a world in which the casualties of war, early death, and poverty are all eradicated, or as close to eradicated as they can possibly be. Is this correct?

YUNA GLIDEWELL: Not exactly. But things definitely have the potential to get much, much better.
MAHIR LEMOND: And the best way to do this is to create thinking, feeling slaves that will solve our problems for us?

YUNA GLIDEWELL: Excuse me?
Before we unpack this question, we need to take a quick commercial break. We’ll be back soon to wrap up Mahir Lemond and Yuna Glidewell’s fascinating discussion. Then, we’ll dive into the situation on Yela. Can Crusader Security truly keep order on a moon where there is none? Don’t go anywhere.