KI KONTROVERS

ZEHN X

KI KONTROVERS ist eine Reihe über die Menschen, die entscheiden, wohin künstliche Intelligenz läuft — und die sich dabei fundamental widersprechen.

Jede Folge nimmt sich einen Kopf vor: woher er kommt, was er tatsächlich vertritt, wer ihm mit welchem Argument widerspricht, und was davon für Entscheider bleibt. Keine Panik, kein Hype, keine Heldengeschichten. Belegte Fakten, benannte Gegenrede.

Bisher: Roman Yampolskiy, Yann LeCun, Daniel Kokotajlo, Gabriele Mazzini, Geoffrey Hinton.

Ein Podcast von zehnx.me. Stimmen KI-generiert, Redaktion: Tom Frerich.

Play

Open in

11 episodes
Avg 17 min
German

Episodes 11

Newest Oldest Longest

All11 Unplayed11 In progress0 Played0

August 16 · 15 min
KI Kontrovers #11 — Elon Musk: „In strengem finanziellem Sinne 38 Millionen"
Ein Gerichtssaal in Oakland, April 2026. Ein Mann, der 2015 schrieb, man müsse von einer Milliarde Dollar sprechen, sonst klinge es hoffnungslos, nennt unter Eid 38 Millionen. Diese Folge bewertet Positionen, nicht Personen — und bleibt bei dem, was aktenkundig ist. KI KONTROVERS — ein zehnx Podcast. Standpunkte, die polarisieren. Eine These, der Kopf dahinter, und was für dich davon bleibt. — In dieser Folge: • Zur Person: Das Muster von Tesla wiederholt sich bei OpenAI — später eingestiegen, dann als Gründer erinnert • Werk und Warnung: "Summoning the demon" 2014, die Gründung von OpenAI, und seine eigentliche Sicherheitsthese — die schwächste der ganzen Reihe • Die Wendung: Am 15. September 2017 registrierte er selbst die Rechtsform, die er heute verklagt — fünf Tage vor dem Bruch • Die Klage: Von der iMessage 2022 über das 97,4-Milliarden-Angebot bis zum Urteil vom 18. Mai 2026 — eine Frist, keine Entscheidung in der Sache • Grok: zwei dokumentierte Vorfälle als einzige echte Probe auf seine eigene Sicherheitsthese • Die Einordnung gegen Amodei (#8) und Andreessen (#9): der unbeantwortete Widerspruch • Was bleibt: eine Regel für jede Terminankündigung eines Tech-Chefs — Skalierung oder Erkenntnis? — Stimmen in diesem Format sind KI-generiert. Redaktion und inhaltliche Verantwortung: Tom Frerich. — zehnx.me/kikontrovers
August 9 · 17 min
KI Kontrovers #10 — Fei-Fei Li: „Es widerspricht zutiefst meinen Prinzipien"
In der letzten Folge ging es um einen Investor, der anderen vorwirft, Regulierung zum eigenen Vorteil zu formen. Diese Folge handelt von einer Wissenschaftlerin, deren Startup von genau diesem Investor finanziert wird — und die im entscheidenden Moment einen Meinungsbeitrag schrieb, der exakt die Position ihres Geldgebers vertrat, ohne diese Verbindung zu erwähnen. Sie ist außerdem die Frau, ohne die es die heutige KI vermutlich nicht gäbe. Und sie war die Doktormutter von Timnit Gebru aus Folge 6. KI KONTROVERS — ein zehnx Podcast. Standpunkte, die polarisieren. Eine These, der Kopf dahinter, und was für dich davon bleibt. — In dieser Folge: • Zur Person: Von Chengdu in eine Reinigung in New Jersey, dann Princeton und Caltech — und die Datenwette gegen den Fachkonsens, aus der ImageNet wurde • Das Muster: Bei Project Maven, beim eigenen Institut und bei ImageNet selbst läuft der Anspruch der Umsetzung voraus — samt der internen Google-Mail, die "humanistische KI" als zu schützendes Marken-Asset benennt • Die Leerstelle: Sie war Gebrus Doktormutter, Ko-Autorin ihrer Dissertation — und schwieg öffentlich, als über 7.000 Menschen unterschrieben. Keine Fehde, sondern eine Nicht-Beziehung • Der Interessenkonflikt: Der Meinungsbeitrag gegen Kaliforniens KI-Gesetz, die fehlende Offenlegung, Pelosis Zitat — und warum das erste durchsetzbare Frontier-KI-Gesetz der USA trotzdem auf ihrem Bericht beruht • Heute: räumliche Intelligenz als Gegenthese zu Sprachmodellen — und der schärfste Einwand, der aus ihrer eigenen Geschichte kommt • Was bleibt: warum die Autorenzeile bei jeder wissenschaftlichen Stellungnahme zur Regulierung mitgelesen werden muss — Stimmen in diesem Format sind KI-generiert. Redaktion und inhaltliche Verantwortung: Tom Frerich. — zehnx.me/kikontrovers
August 6 · 13 min
KI Kontrovers #9 — Marc Andreessen: „Wir sind keine Opfer, wir sind Eroberer"
Zwei Folgen lang tauchte derselbe Name auf, nie als Hauptfigur, immer als der Mann, der von außen "Kartell" und "Angstmacherei" ruft. Diese Folge dreht die Kamera um. Und die Frage ist nicht, ob seine Vorwürfe stimmen — sondern ob er selbst dem Maßstab standhält, den er an andere anlegt. KI KONTROVERS — ein zehnx Podcast. Standpunkte, die polarisieren. Eine These, der Kopf dahinter, und was für dich davon bleibt. — In dieser Folge: • Zur Person: Der Mann, der angeblich den Webbrowser erfand — und warum der Großteil des Codes von jemand anderem stammt • Das Manifest: "Wir sind keine Opfer, wir sind Eroberer" — Wachstum als Lösung für fast alles, und eine Feindesliste, auf der "Existenzrisiko" steht, aber nicht "KI-Sicherheit" • Die Konfrontation: Dario Amodeis direkte Replik aus Folge 8 — "Ist dein Gehirn nicht auch nur Mathematik?" • Der Bumerang: Er wirft Anthropic Kartellbildung vor, während seine eigene Firma 18 Prozent des gesamten US-Risikokapitals einsammelt und von eingefrorenen Ermittlungen gegen die eigenen Portfoliofirmen profitiert • Die Gegenrede: Sozialdarwinismus-Vorwurf, koloniale Bildsprache — und was trotzdem für ihn spricht • Was bleibt: warum eine oft wiederholte, nie bestätigte Anekdote nicht wahrer wird — Stimmen in diesem Format sind KI-generiert. Redaktion und inhaltliche Verantwortung: Tom Frerich. zehnx.me/kikontrovers
August 5 · 16 min
KI Kontrovers #8 — Dario Amodei: „Wir können den Bus nicht stoppen, aber wir können ihn lenken"
Geoffrey Hinton warnt, baut aber nicht mehr. Sam Altman baut und relativiert die Warnung. Der Mann in dieser Folge tut beides gleichzeitig, mit demselben Ernst, in derselben Firma. Und in diesem Sommer widersprach ihm zum ersten Mal in dieser Reihe niemand von außen, sondern sein eigenes Unternehmen. KI KONTROVERS — ein zehnx Podcast. Standpunkte, die polarisieren. Eine These, der Kopf dahinter, und was für dich davon bleibt. — In dieser Folge: • Zur Person: Bruder und Schwester an der Spitze, ein Biophysik-Doktortitel statt des kolportierten Physik-PhDs, und warum "er hat GPT-3 geschrieben" eine Übertreibung ist • Der Bruch mit OpenAI: keine Heldengeschichte, kein Einzelereignis — und warum Anthropic von Tag eins an anders strukturiert war als OpenAI • Die Position: "Machines of Loving Grace" gegen die 25-Prozent-Zahl, und warum er den Begriff dafür selbst hasst • Der Widerspruch im eigenen Haus: der hauseigene Chefökonom widerlegt die prominenteste Jobverlust-Prognose des Chefs — während derselbe Chef gleichzeitig die schärfste Regulierungsforderung seiner Karriere veröffentlicht • Das Militär-Kapitel: Palantir, ein Pentagon-Nein mit echten Konsequenzen, und die Volte, bei der die eigenen Modelle durch das Instrument gesperrt wurden, das er selbst gegen andere forderte • Die Gegenrede: Yann LeCuns härtestes Urteil der ganzen Reihe, Trumps eigener KI-Beauftragter, Jensen Huang — und was trotzdem für ihn spricht • Was bleibt: warum frei von Eigeninteresse nicht dasselbe ist wie frei von Interessenkonflikt — Stimmen in diesem Format sind KI-generiert. Redaktion und inhaltliche Verantwortung: Thomas Frerich. — zehnx.me/kikontrovers
August 2 · 28 min
KI Kontrovers #7 — Sam Altman: „Wir sind jenseits des Ereignishorizonts"
Sechs Folgen lang ging es um Menschen, die über künstliche Intelligenz reden. Diese Folge handelt vom ersten, der sie tatsächlich baut, verkauft und mit Milliarden bewertet in den Markt bringt. Und von einer Novemberwoche 2023, in der er in fünf Tagen abgesetzt und zurückgeholt wurde, mit einer Begründung, die bis heute nie konkretisiert wurde. KI KONTROVERS — ein zehnx Podcast. Standpunkte, die polarisieren. Eine These, der Kopf dahinter, und was für dich davon bleibt. — In dieser Folge, der bisher längsten der Reihe: • Zur Person: Chicago statt St. Louis, ein Coming-out mit siebzehn, der Loopt-Verkauf als Acqui-Hire statt Erfolgsgeschichte, und der bis heute strittige Abgang bei Y Combinator • Der Bau von OpenAI: vom Non-Profit über den entwerteten Gewinndeckel zur Public-Benefit-Corporation von 2025 — und warum er selbst bis heute kein direktes Eigenkapital hält • Die Novemberwoche 2023: die Absetzung, die Rückkehr, der WilmerHale-Bericht, und was Helen Toner erst Monate später öffentlich sagte • Die Sicherheitsdebatte: Sutskever, Jan Leikes "shiny products", die gebrochene Compute-Zusage, die NDA-Affäre, der Sky-Stimmenstreit • Die Position: von "wir müssen Kapital besteuern" über "AGI ist gelöst" zu "AGI ist kein nützlicher Begriff mehr" — und der dokumentierte Kurswechsel von Regulierungsforderung zu Regulierungsabwehr • Die Nebenprojekte: Worldcoin in elf Ländern gestoppt, Oklo sauber gelöst, Helion und Merge Labs nicht • Die Gegenrede: Gary Marcus, Yann LeCun, Emily Bender und Timnit Gebru, Geoffrey Hintons Nobelpreis-Kommentar — und die Gegenseite dieser Gegenrede • Ein heikler letzter Punkt, mit äußerster Sorgfalt behandelt: die laufende Zivilklage seiner Schwester, beide Seiten, ohne Wertung • Was bleibt: warum "kein Eigeninteresse" nicht dasselbe ist wie "kein Interessenkonflikt" — Stimmen in diesem Format sind KI-generiert. Redaktion und inhaltliche Verantwortung: Tom Frerich. — zehnx.me/kikontrovers
August 1 · 18 min
KI Kontrovers #6 — Timnit Gebru: „Utopie für wen?"
Fünf Folgen lang ging es um eine Frage: Wie hoch ist die Wahrscheinlichkeit, dass künstliche Intelligenz die Menschheit auslöscht? Diese Folge stellt eine andere: Wer profitiert davon, dass wir überhaupt nur über diese eine Frage reden? KI KONTROVERS — ein zehnx Podcast. Standpunkte, die polarisieren. Eine These, der Kopf dahinter, und was für dich davon bleibt. — In dieser Folge: • Zur Person: Kriegsflucht aus Addis Abeba mit fünfzehn, Elektrotechnik statt Informatik, eine Dissertation bei Fei-Fei Li, die selbst baute, wovor sie später warnen würde • Das Werk: Gender Shades und der Kreuztest, der drei Konzerne binnen Monaten zur Korrektur zwang — und Datasheets for Datasets, das heute fast wortgleich im EU AI Act steht • Der Abgang: Die bis heute umstrittene Google-Kündigung von 2020 — Kacholias E-Mail, Deans Effizienz-Vorwurf, und warum er sein eigenes Paper zitiert, ohne es zu merken • Die Position: TESCREAL, die Utopie-für-wen-Frage, und warum sie Weltuntergang und Utopie für dieselbe Ablenkung hält • Die Gegenrede: Geoffrey Hintons direkte Antwort, Yoshua Bengios Koalitionsargument — und die Studie, die ihre eigene Kernthese empirisch widerlegt • Was bleibt: Kreuztests statt Einzeltests, Datenblätter als Beschaffungs-Checkliste, und die unbequeme Erkenntnis, dass zwei Sorgen gleichzeitig wahr sein können — Stimmen in diesem Format sind KI-generiert. Redaktion und inhaltliche Verantwortung: Tom Frerich. — zehnx.me/kikontrovers
August 1 · 17 min
KI Kontrovers #5 — Geoffrey Hinton: „Eine großartige Idee, die nie besonders gut funktioniert hat"
Er ist der einzige Mensch mit Turing Award und Physik-Nobelpreis. Er hat die Technik mitgebaut, auf der heute jedes große Sprachmodell steht. Und er hält die Wahrscheinlichkeit, dass sie uns auslöscht, für zweistellig. KI KONTROVERS — ein zehnx Podcast. Standpunkte, die polarisieren. Eine These, der Kopf dahinter, und was für dich davon bleibt. — In dieser Folge: • Zur Person: Wimbledon 1947, ein Vater in der Royal Society, George Boole als Ururgroßvater — und Hintons eigene, ungewöhnlich selbstkritische Erklärung, warum er seine Promotion überstanden hat • Das Werk: Backpropagation 1986, AlexNet 2012, die Doktoranden, von denen einer später OpenAI mitgründet — und wofür der Nobelpreis 2024 tatsächlich verliehen wurde (nicht wofür fast überall steht) • Der Ausstieg: Warum die verbreitete Version seiner Google-Kündigung falsch ist, und was er selbst als Grund nennt • Die Zahl: Zehn bis zwanzig Prozent Katastrophenrisiko — und warum das der vorsichtige Wert ist, nicht der, den er wirklich fürchtet • Heute: Arbeitsmarkt statt Weltuntergang, „Mutter und Kind" statt Kontrolle, und die Aussage über Bewusstsein, die selbst sein eigenes Lager irritiert • Die Gegenrede: Yann LeCun, sein früherer Postdoktorand, nennt genau diese Sorge Blödsinn — und eine ganze Forschungsrichtung hält beide für abgelenkt vom Schaden, der längst geschieht • Was bleibt: Warum die interessanteste Eigenschaft dieses Mannes nicht seine Prognose ist, sondern sein Umgang mit der eigenen Unsicherheit — Stimmen in diesem Format sind KI-generiert. Redaktion und inhaltliche Verantwortung: Tom Frerich. zehnx.me/kikontrovers
August 1 · 16 min
KI Kontrovers #4 — Gabriele Mazzini: „Das Gegenteil von dem, was ich erreichen wollte"
Morgen bekommt das europäische KI-Gesetz zum ersten Mal richtige Zähne. Bußgelder bis drei Prozent des Weltumsatzes, Modelle können vom Markt genommen werden. Und einer der Männer, die es geschrieben haben, sagt: Stoppt es. KI KONTROVERS — ein zehnx Podcast. Standpunkte, die polarisieren. Alle zwei Wochen eine These, der Kopf dahinter, und was für dich davon bleibt. In dieser Folge: • Zur Person: Vom Harvard-Juristen über die Entwicklungshilfe zur EU-Kommission — und warum „einer der Architekten" die genauere Formulierung ist als „der Architekt" • Der Stichtag: Was am 2. August wirklich scharf wird (Transparenzpflichten für alle, Sanktionen gegen Modellanbieter) — und was der Digital Omnibus auf 2027 verschoben hat • Die Kritik: Alarmismus, Zeitdruck, ChatGPT zum schlechtesten Zeitpunkt — und warum er die Regulierung der großen Modelle intern selbst abgelehnt hat • Die Gegenrede: Warum Brando Benifei sagt, Europas Problem sei Kapital und nicht dieses Gesetz — und was der Blick auf die Lobbyarbeit hinter dem Omnibus zeigt • Was bleibt: Die Transparenzpflicht, die ab morgen fast jeden betrifft — und die eine Frage, die unabhängig vom Ausgang dieses Streits richtig ist Stimmen in diesem Format sind KI-generiert. Redaktion und inhaltliche Verantwortung: Tom Frerich. zehnx.me/kikontrovers
August 1 · 13 min
KI Kontrovers #3 — Daniel Kokotajlo: Der Mann, der zwei Millionen liegen ließ, um reden zu dürfen
In den ersten beiden Episoden ging es um Positionen, die sich nicht überprüfen lassen. Diese Folge handelt von jemandem, der seine Vorhersage in einen Kalender geschrieben hat. Monat für Monat, mit Jahreszahl — und damit die Möglichkeit, sich sichtbar zu irren. KI KONTROVERS — ein zehnx Podcast. Standpunkte, die polarisieren. Alle zwei Wochen eine These, der Kopf dahinter, und was für dich davon bleibt. In dieser Folge: • Der Preis fürs Reden: Warum er rund zwei Millionen Dollar verfallen ließ, statt eine Schweigeklausel zu unterschreiben — und was das über die ganze Branche offenlegte • AI 2027: Das Szenario, das die Intelligenzexplosion Monat für Monat durchspielt, und die Rückkopplung, auf der alles steht • Siebzig Prozent: Woher die Zahl kommt und was in beiden Enden des Szenarios passiert • Die Kontroverse: „Das ist Science-Fiction", der Extrapolations-Einwand, Vitalik Buterins Gegenrede — und warum er seine eigene Jahreszahl nach hinten korrigiert hat • Der Glaubwürdigkeits-Anker: Seine Prognose von 2021 für das Jahr 2026, und wie gut sie gealtert ist • Was bleibt: Die eine Kennzahl, an der sich seine These entscheidet — und warum falsifizierbare Aussagen mehr wert sind als unwiderlegbare Stimmen in diesem Format sind KI-generiert. Redaktion und inhaltliche Verantwortung: Tom Frerich. zehnx.me/kikontrovers
August 1 · 15 min
KI Kontrovers #2 — Yann LeCun: „Die Angst vor der Superintelligenz? Kompletter Blödsinn."
In der letzten Folge: 99,9 Prozent Wahrscheinlichkeit für die Auslöschung der Menschheit. In dieser Folge: der Mann, der auf genau diese Frage geantwortet hat, das sei kompletter Blödsinn. Zwei Turing-Preisträger, dieselbe Datenlage, gegensätzliche Schlüsse. KI KONTROVERS — ein zehnx Podcast. Standpunkte, die polarisieren. Alle zwei Wochen eine These, der Kopf dahinter, und was für dich davon bleibt. In dieser Folge: • Zur Person: Vom Postdoc bei Geoffrey Hinton zu den Bell Labs — und warum seine Netze in den Neunzigern amerikanische Bankschecks lasen • Der KI-Winter: Zwanzig Jahre gegen den Konsens recht behalten, und was das mit einem Menschen macht • Die These: Warum Sprachmodelle für ihn eine Sackgasse sind, was Weltmodelle stattdessen leisten sollen — und wieso eine Hauskatze mehr versteht als GPT • Die Kontroverse: Der offene Bruch mit Hinton und Bengio, seinen eigenen Turing-Award-Mitpreisträgern — und Bengios Gegenrede • Die Wette: Warum er den größten Job der Branche hinwarf und über eine Milliarde Dollar gegen den Konsens setzt • Was bleibt: Der naheliegende Fehlschluss, und warum seine Diagnose erklärt, welche KI-Projekte scheitern Stimmen in diesem Format sind KI-generiert. Redaktion und inhaltliche Verantwortung: Tom Frerich. zehnx.me/kikontrovers
August 1 · 18 min
KI Kontrovers #1 — Roman Yampolskiy: Der Mann, der „KI-Sicherheit" erfand und nicht mehr daran glaubt
Er hat den Begriff geprägt, den heute jedes Labor im Munde führt. Vierzehn Jahre später sagt er: Diese Sicherheit ist womöglich gar nicht herstellbar. Nicht schwierig. Nicht ungelöst. Grundsätzlich unmöglich. KI KONTROVERS — ein zehnx Podcast. Standpunkte, die polarisieren. Alle zwei Wochen eine These, der Kopf dahinter, und was für dich davon bleibt. In dieser Folge: • Zur Person: Riga, Rochester, Buffalo, Louisville — und warum seine Herkunft aus der Cybersecurity alles erklärt • Der Begriff: Wie er 2011 „AI Safety" prägte — mit einer Kampfansage an die Maschinenethik • Die Position: Fähigkeits-Kontroll-Lücke, Agent statt Werkzeug, und das Problem der Unverifizierbarkeit • Die Kontroverse: 99,9 Prozent Weltuntergang gegen Yann LeCuns Null — und was die Kritik an ihm trifft • Was bleibt: Warum man seine Zahl nicht glauben muss, um seine Vorsicht zu übernehmen Stimmen in diesem Format sind KI-generiert. Redaktion und inhaltliche Verantwortung: Tom Frerich. zehnx.me/kikontrovers

Showing 1–11 of 11 episodes