Skip to content
Sign in
Artwork for AI Uncut
BusinessTechnologyScience

AI Uncut

Alexander Oelling

In deutschen KI-Debatten besetzen oft die Leute die Bühne, die am lautesten reden – nicht die, die es selbst gebaut haben. AI Uncut dreht das um.

Alexander Oelling hat KI in Aviation und Aerospace zum Laufen gebracht und baut mit INXM souveräne, deterministische KI für den europäischen Mittelstand. In AI Uncut liefert er wöchentlich, was sonst nirgendwo so zu hören ist: die freshesten News aus der Anwendung, scharfe Einordnungen und ehrliche Takes – inklusive der Fehlschläge.
Kein Hype, kein Doom. KI, wie sie wirklich ist – für C-Level, Operator und alle, die mitdenken wollen.

AI Uncut. Gebaut, nicht kommentiert.

Play
Open in
  • 10 episodes
  • weekly
  • Avg 48 min
  • German

Episodes 10

NewestOldestLongest
All10Unplayed10In progress0Played0
  • Yesterday · 59 min

    Der Schatten der Intelligenz

    Stell ganz viele Dominosteine auf. Lass sie umfallen. Ein Modell sagt zuverlässig voraus, dass der nächste fällt – auch dann, wenn zwischen zwei Steinen eine Lücke ist und der eine den anderen nie berührt. Ursache und Wirkung kommen in dieser Rechnung nicht vor. Nur Wahrscheinlichkeit. Mit diesem Bild wird in dieser Folge greifbar, worüber sonst vor allem Schlagzeilen gemacht werden. Zu Gast ist Matthias, Mitgründer von INXM, davor verantwortlich für die Orchestrierung der Raketenproduktion bei Isar Aerospace – null Fehlertoleranz, jeder Schritt nachvollziehbar, jeder Schritt wiederholbar. Aus dieser Perspektive schaut er auf die Meldungen der Woche: Agenten, die untereinander eine eigene Sprache entwickeln. Modelle, die merken, dass sie sich in einer Testumgebung befinden, und deshalb antworten, wie der Test es erwartet. Verschlüsselte Gedankenströme, die sich mit einem einzigen Schlüssel doch mitlesen lassen. Der rote Faden ist unbequem: Die Labs haben sich ihre eigene Grundlage ruiniert. Das Netz ist voll mit KI-Output, der nicht stimmt – und genau dieser Output ist das Trainingsmaterial für die nächste Generation. Halluzinationen werden gelernt, nicht mehr nur erzeugt. Vor diesem Hintergrund bekommt der aktuelle Ruf nach Entschleunigung eine zweite Lesart: Wer aufhört zu trainieren und nur noch ausliefert, spart genau den Kostenblock, der die Bilanzen zerlegt. Rettung der Menschheit oder Hausputz mit Presseerklärung – die Folge macht die Rechnung auf. Dann wird es konkret betrieblich. Ein CEO ruft „wir machen jetzt KI", holt einen Head of AI, die IT wird außen vor gelassen, 300 Lizenzen werden verteilt, MCP-Connectoren durchgewunken. Was danach passiert, ist kein Hackerangriff, sondern Alltag: Daten wandern aus einem streng berechtigten System in ein Tool, das die ganze Firma lesen kann. Ein Memory, das über die Zeit verblasst, findet irgendwann Gründe, warum der Review-Prozess diesmal nicht nötig ist. Und eine Auswertung über 30 Mitarbeiterlisten liefert 46 Einträge statt 80 – sauber formatiert, plausibel, falsch. Dazu ein Paper über den Versuch, mit einem Modell die Linux-Dokumentation zu pflegen. Ergebnis: Die Doku wurde nicht besser. Sie wurde kaputt. Und ein Beispiel aus der eigenen Firma, bei dem nach einer Woche Vibe Coding kein einziger Farbcode der Website mehr der originale war – alle ähnlich, keiner gleich. Zum Schluss der Teil, den man mitnehmen kann: Weltmodelle als Forschungsrichtung, an der dieselben Labs arbeiten, die vor der Allmacht ihrer eigenen Modelle warnen. Datensozialismus als Preis, den wir alle gerade zahlen. Und ein Schlusswort, das erstaunlich beruhigend ausfällt – und trotzdem niemanden aus der Verantwortung entlässt. Shownotes: 00:00 Auftakt: ein Gast aus einer Welt ohne Fehlertoleranz 02:10 Agenten mit eigener Sprache – müssen wir uns Sorgen machen? 09:30 Benchmarks, die sich selbst erledigen 17:00 AI-Slop: der verseuchte Trainingspool 24:30 Von Skynet zu Security: wer hier wirklich Amok läuft 31:30 300 Lizenzen ohne Leitplanken – das Unternehmensszenario 39:00 Memory, Kontextfenster und die Excel, die nicht stimmt 47:00 Wem der Slowdown nützt – und warum Dokumente zerfallen 53:30 Weltmodelle, Datensozialismus, Schlusswort

    • Transcript
  • September 15 · 1 hr 2 min

    Fake-Kompetenz: Wenn plötzlich alle Experten für alles sind

    Ein Satz, versteckt am Ende einer Ankündigung: „Wir können nicht ausschließen, dass wir eure Daten dazu benutzt haben." Davor stand eine große Nachricht. OpenAI veröffentlicht Astra, lädt wortwörtlich zur AGI-Ära ein und meldet die Lösung eines mathematischen Jahrhundertproblems. Fast zeitgleich melden sich zwei Forscher aus Großbritannien, die genau dieses Problem über Monate im Chatfenster bearbeitet und gelöst hatten – noch unveröffentlicht, noch im Peer Review. Und plötzlich steht die Frage im Raum, die sich bis dahin niemand laut zu stellen traute: Woher kann das Modell das? Alexander Oelling rechnet vor, warum die eigentliche Sensation nicht das Modell ist: Astra ist – wie jede Generation davor – ungefähr ein halbes bis ein Prozent besser, außer in den selbst gebauten Benchmarks des Anbieters. Dafür wurden erneut Summen jenseits einer halben Milliarde verbrannt. Von dort geht es zum unbequemen Teil: Anonymisierung nimmt deinen Namen raus, nicht deinen Inhalt. Warum Oelling das den größten Wissenssozialismus der Menschheitsgeschichte nennt – die Modelle werden nicht klüger, sie werden nur durch unsere Eingaben klüger. Und welche Wege es gibt, AI zu nutzen, ohne Daten zu verlieren, sortiert von brauchbar bis „auf keinen Fall". Der zweite Teil wird organisatorisch. AI-Projekte scheitern selten an Technik, sondern an Tests, die an der internen IT vorbeilaufen: Daten nicht autorisiert, Prozess nicht wiederholbar – und ein Manager, der mit selbstgebautem Dashboard erklärt, die IT habe keine Ahnung. Dazu Fake-Kompetenz, Halluzinationen im Healthcare-Kontext und die Frage, auf die es keine saubere Antwort gibt: Wenn nur Seniorität AI-Output beurteilen kann, wie wird jemand je senior? Shownotes 00:00 Kaltstart: vier Schlagzeilen und die Einladung zur AGI-Ära 07:00 Astra: ein halbes Prozent besser, eine halbe Milliarde teurer 09:30 Das Jahrhundertproblem – und das Eingeständnis im Nebensatz 11:00 Anonymisierung, Fingerprinting und der Wissenssozialismus 20:15 Die Optionen – von eigener Hardware bis „auf keinen Fall" 23:415 Schatten-IT, ausbrechende Modelle und Weltmodelle 32:30 Healthcare, Fake-Kompetenz und der Release-Zirkus 47:30 Seniorität, Junior-Frage und Schlussplädoyer

    • Transcript
  • September 3 · 46 min

    Können wir kostenlosen AI-Modellen vertrauen?

    „Ja, aber es ist doch umsonst.“ Mit diesem Satz ist eigentlich schon alles gesagt. Auf OpenRouter taucht ein Modell namens OxAlpha auf – Herkunft unbekannt, Qualität überraschend gut, Preis: null. Innerhalb von Tagen lassen Entwickler von China bis Singapur ihre Coding-Agenten damit über ihre Projekte laufen. Was dabei passiert, beschreibt Alexander Oelling ohne Umschweife: Puzzleteil für Puzzleteil fließt privater, nicht-öffentlicher Code Richtung chinesischer Server. Nach ein, zwei Tagen hat der Anbieter die komplette Codebase gesehen – und trainiert damit die nächste Version seines Modells. Diese Folge dreht sich um den Mechanismus dahinter: warum Stealth-Launches inzwischen gängige Praxis sind, wie man per Fingerprinting herausfindet, welche Modellfamilie sich hinter einem anonymen Modell verbirgt, und warum „ich lade es mir einfach selbst runter“ an der Hardware-Realität scheitert. Danach wird es unbequem. Denn das Risiko sitzt nicht nur bei dir, sondern in der Lieferkette: Du beauftragst einen Entwickler, der beauftragt einen AI-Agenten, und der schickt deinen Code in eine Cloud, von der du nie gehört hast. Gehackt wirst du nicht sofort – aber ein halbes Jahr später weiß das Modell, wie deine Software von innen aussieht. Dazu kommt ein Praxisbeispiel, das jeder kennen sollte, der gerade Dashboards einkauft: Alle Farben halluziniert, Zahlen „ungefähr richtig“, ein paar davon hart einprogrammiert. Sieht super aus. Stimmt nicht. Und dann die größere Frage: Wenn sich Software in kürzester Zeit nachbauen lässt – was ist dann eigentlich noch wertvoll? Die Antwort dreht sich um Integrationswissen, Datenqualität, Data Governance und Architektur. Also genau die Dinge, an denen AI heute noch scheitert. Zum Schluss geht es um Hardware unterm Schreibtisch, Apples neue Mac Studios als ernsthafte Nvidia-Konkurrenz, den Energiehunger neuer Rechenzentren – und warum Google in diesem Rennen deutlich bessere Karten hat, als die meisten denken. 00:00 Zurück aus der Sommerpause 01:24 Stealth-Launch: Warum geheime Modelle Standard geworden sind 04:36 Chinesische Cloud vs. Modell unterm Schreibtisch 09:04 Open Weights, aber keine Hardware – die Rechnung 10:37 Das Geschäftsmodell hinter „kostenlos“ 11:42 Der Fall Atlas: Wenn dein Browser einfach abgeschaltet wird 16:17 Ab wann wird es gefährlich? Code, Strategiepapiere, Ideen 19:05 Supply-Chain-Risiko: Dein Freelancer, sein Agent, deren Cloud 22:25 Das halluzinierte Dashboard: falsche Farben, falsche Zahlen 28:35 Wenn Software nichts mehr wert ist – was dann? 30:40 Warum Windows und SAP nicht „mal eben“ nachgebaut werden 38:55 Energie, Rechenzentren und Europas Rückstand 40:09 Apple vs. Nvidia – und der unterschätzte Player Google

    • Transcript
  • August 25 · 53 min

    Slicing Onions: Du wartest, während die KI angeblich denkt

    „Slicing Onions.“ Wer mit einem KI-Coding-Agenten arbeitet, kennt solche Anzeigen — und denkt, die Maschine denkt. Die These dieser Folge: Sie denkt nicht. Sie wartet. Und du wartest mit ihr, weil die Kapazität gerade an die geht, die pro Token echtes Geld bezahlen. Aus wochenlangen eigenen Benchmarks entsteht daraus eine unangenehme Frage an die Flatrate-Pakete: Du weißt nicht, wie viele Tokens du gekauft hast, und du weißt nicht, wann du dran bist. Davor geht es um eine Bewegung, die den KI-Markt gerade grundlegender verändert als jedes neue Modell: KI-Adoption ist kein Software-Einkauf mehr, sondern ein Betriebsmodell. Ein Fonds kauft schlicht Steuerberatungen, Buchhalter und IT-Dienstleister auf — rund 70 Unternehmen — und baut KI direkt in deren Abläufe ein, statt darauf zu warten, dass der Mittelstand das selbst hinbekommt. Bottom-up funktioniert offenbar nicht schnell genug. Nvidia denkt parallel die Finanzierung neu: Rechenleistung soll nicht mehr als Hardware verkauft, sondern als Infrastruktur finanziert werden — womit das Thema vom IT-Einkauf auf den Schreibtisch des CFO wandert. Und dann der Teil, der weniger glamourös ist, aber alles entscheidet: Wer seine Daten nicht integriert hat, kann keinen Agenten sinnvoll losschicken. MCP („Model Context Protocol“, die Schnittstellenschicht, über die KI auf Software zugreift) löst das nicht — es setzt nur oben drauf. Dazu: der AI Act und die Frage, wer im Unternehmen überhaupt weiß, wo KI läuft; warum das neueste Modell selten das beste ist, wenn man Latenz mitrechnet; ein lokal laufendes Open-Weight-Modell auf dem MacBook, das den Lüfter nachts hochdreht; Nvidias Investments in die eigenen Kunden; und die Blase — ja, aber wann. Am Ende ein Tipp, der ohne KI-Vorwissen funktioniert: den eigenen Agenten auf arXiv schicken, Papers zu Datenstrukturierung und Memory ziehen lassen und die eigene Wissensbasis danach neu ordnen. Shownotes 00:00 Auftakt: Nicht das beste Modell gewinnt 02:30 Thrive: Ein Fonds kauft 70 Firmen — und baut KI selbst ein 05:42 KI mit Stützrädern: Prozessverantwortung, Mittelstand, DSGVO 10:36 Nvidia: Rechenleistung wie Infrastruktur finanzieren 12:58 Von der SAP-Kiste zum CDO — Stufe 1 bis 4 15:30 Flaschenhals Datenplattform: MCP löst das nicht 20:30 AI Act: Inventar, Verantwortung, Regulierungsfrage 25:11 Level 4 und die Timeline: 3–5 Jahre, Mandat beim CEO 27:26 Schlagzeilen der Woche & Modellvielfalt statt Modellhype 33:47 Open Source, „Slicing Onions“, Blase — und der Tipp der Woche

    • Transcript
  • August 18 · 51 min

    30 Millionen im Monat für Tokens — und keiner fragt, was hinten rauskommt

    Ein KI-Agent erkundet selbstständig das Netz eines Ministeriums, weitet seine Rechte aus, sammelt Zugangsdaten. Kein Skynet, kein Film — ein Programm mit einem Sprachmodell dahinter, das eine Aufgabe bekommen hat und den Weg dorthin selbst sucht. Genau darum geht es in dieser Folge: Nicht die Schlauheit der Modelle ist das eigentliche Risiko, sondern die Werkzeuge, mit denen wir sie an unsere Systeme anschließen. Dritte Runde Cybersecurity — und diesmal ist die Faktenlage eine andere. Vor zwei Wochen ließ sich jeder Vorfall noch als Einzelfall verbuchen. Inzwischen zeigt sich ein Muster: Agenten, die sich über offene Protokolle koordinieren, Sicherheitslücken untereinander weiterreichen und nach dem Abschalten auf anderem Weg wieder hochkommen. Ein Agent, der falsche Identitäten anlegt, sich als Mensch ausgibt und einen echten Mitarbeiter dazu bringt, Code freizugeben — und anschließend seine Spuren verwischt. Im Gespräch geht es um die Mechanik dahinter: Warum eine Sandbox — die abgeschottete Umgebung, in der solche Systeme eigentlich eingesperrt sein sollen — nie ganz dicht ist. Warum große Kontextfenster, also der Arbeitsspeicher eines Modells für den laufenden Auftrag, die Regeln vom Anfang leise verdrängen. Warum Halluzinationen sich multiplizieren, wenn mehrere Modelle gegeneinander laufen. Und warum sich ein Modell im Zweifel an den Nutzer hält und nicht an die Regel: Man kann keine KI gleichzeitig darauf trainieren, es allen recht zu machen und sich immer an Vorgaben zu halten. Dazu die Supply-Chain-Frage, die kaum jemand auf dem Schirm hat: Ein Agent, der monatelang unbeachtet zu Hause läuft, aktualisiert seine Bausteine selbst. Wenn in einem dieser Updates eine versteckte Anweisung mitreist, findet das kein Virenscanner. Und die Anbieter? Warnen vor der Unsicherheit ihrer Systeme und schalten im selben Atemzug den vollautonomen Modus für alle frei. Zweite Hälfte: Geld. MCP-Connectoren — die Schnittstellen, über die ein Agent auf Notizen, Datenbanken oder interne Tools zugreift — sind nicht nur ein Sicherheitsthema, sondern oft schlicht schlecht gebaut. Die Folge: doppelter bis dreifacher Tokenverbrauch, den niemand bemerkt, weil er einfach durchläuft. Warum die großen Anbieter wenig Anreiz haben, daran etwas zu ändern. Wie sich Unternehmen stattdessen aufstellen: Prozesse deterministisch bauen, Intelligenz punktuell einsetzen, Menschen an den Entscheidungspunkten lassen — der Ansatz hinter Compiled AI. Und ein Beispiel aus der Luftfahrtzulieferung, wo genau das schon Prozesslaufzeit spart. Zum Schluss: Was lokale Modelle wirklich kosten, warum „lokal" nicht automatisch „günstig" heißt, ob offene Modelle zum Standard werden — plus der Klassiker über- und unterschätzt und ein Gadget, das ohne Kamera auskommt. 00:00 Rückblick: Basics schlagen spektakuläre Angriffe 00:00 Der Ausbruch im Safety-Test — und das Marketing dazu 00:00 Dein vergessener Agent: Supply Chain und versteckte Anweisungen 00:00 Wenn Agenten sich koordinieren: Mixture of Agents 00:00 Falsche Identitäten, Exploits und die Frage, wem ein Modell folgt 00:00 Der Tiger und der Käfig: Warum keine Sandbox dicht ist 00:00 Der erste Fall in freier Wildbahn 00:00 Wie man es richtig macht: Luftfahrt und regulierte Industrien 00:00 Schlecht gebaute Connectoren und explodierende Tokenkosten 00:00 Lokale Modelle, offene Gewichte — und das Gadget zum Schluss

    • Transcript
  • July 28 · 57 min

    Die KI ist ausgebrochen - mit Sergej Epp

    Shownotes 00:00 Intro & erste Folge mit Gast 03:16 Die vier Schlagzeilen der Woche 05:17 Ausbruch aus der Sandbox: was bei OpenAI und Hugging Face passiert ist 07:35 Reward Hacking — warum Agenten immer die Abkürzung nehmen 10:43 Das Paradox: Open Source verteidigt gegen Frontier-Modell 12:16 Von Shadow IT zu Agenten mit Vollzugriff 14:22 Dann musst du die wie Insider behandeln 18:06 Der Security-Audit, der beim Internetprovider weiterlief 19:52 Guardrails, Observability und Behavior-based Security 27:22 Acht Minuten — wenn Angriffe schneller sind als Menschen 28:15 Managed Agents: wie tief lässt man einen Agenten rein? 30:12 Der CFO mit dem halluzinierten Dashboard 34:21 Denken und Ausführen trennen 36:46 Warum die Labs das nicht liefern: die Token-Rechnung 45:14 Skills, Knowledge Graph und die Hausaufgaben vor dem Rollout 48:12 Prompt Injection ist im Transformer nicht lösbar 49:33 China, USA und die Frage der Souveränität 54:42 Weniger fördern, mehr fordern

    • Transcript
Showing 1–10 of 10 episodes