Künstliche Intelligenz (KI) ist längst kein Thema der fernen Zukunft mehr, sie ist heute ein integraler Bestandteil unseres Lebens und hat das Potenzial, Gesellschaft und Technologie tiefgreifend zu verändern. Genau hier setzen wir mit unserem Podcast Attention Heads an. Seit über einem Jahr bringen wir, zwei leidenschaftliche KI-Entwickler, alle zwei Wochen spannende Einblicke, fundierte Analysen und anregende Diskussionen direkt zu Ihnen.
Attention
Heads
Podcast: Schweizer Perspektiven auf KI und die Technologie von morgen
Attention Heads wird von meinem langjährigen Freund und Kollegen Joel Barmettler und mir moderiert. Joel und ich kennen uns seit unserer Studienzeit und haben in der Vergangenheit gemeinsam ein Startup gegründet, das uns wichtige unternehmerische und technische Erfahrungen gelehrt hat. Heute arbeiten wir wieder in einem anderen Unternehmen, wo wir unsere Leidenschaft für Technologie und Künstliche Intelligenz weiter vertiefen. Doch unser Verhältnis geht weit über die berufliche Zusammenarbeit hinaus: Joel ist nicht nur ein brillanter Denker, sondern auch ein enger Vertrauter, mit dem ich seit Jahren Ideen austausche und gemeinsame Projekte realisiere.
Unser Ziel ist es, die faszinierende und oft missverstandene Welt der KI aus einer einzigartigen Schweizer Perspektive zu beleuchten. Während viele öffentliche Debatten von Ängsten und Sorgen geprägt sind, sei es durch düstere Zukunftsvisionen oder vermeintlich unkontrollierbare Gefahren, wollen wir diese Diskussionen auf eine sachliche und technische Grundlage stellen. Was bedeutet KI wirklich für unsere Gesellschaft, insbesondere für die Schweizer Demokratie? Wo liegen die Chancen, und wo die tatsächlichen Risiken? Und vor allem: Was ist bereits heute relevant, und welche Entwicklungen könnten erst in 10 oder 20 Jahren eine Rolle spielen?
In jeder Episode widmen wir uns den zentralen Fragen rund um KI, von ethischen Herausforderungen über bahnbrechende technologische Innovationen bis hin zur Frage, wie KI unseren Alltag und unsere politischen Systeme beeinflusst. Wir trennen Science-Fiction von Realität, setzen aktuelle Themen in den richtigen zeitlichen Kontext und schaffen einen Raum für eine ehrliche, fundierte Auseinandersetzung.
ChatGPT würde SP wählen
Die politische Orientierung von KI
Grosse Sprachmodelle wie ChatGPT, Gemini oder Claude sind längst nicht mehr nur technische Spielereien – sie beeinflussen, wie wir Informationen konsumieren, politische Debatten führen und Entscheidungen treffen. Doch wie politisch neutral sind diese Modelle wirklich? Tragen sie eine inhärente ideologische Färbung in sich? Und wenn ja, welche?
80min Min.
DeepSeek R1: Eigenes Denken in Aktion
Wie die KI ihren Denkprozess selbst gestaltet
In dieser Folge nehmen wir den bahnbrechenden DeepSeek R1 genau unter die Lupe – ein Modell, das seinen Denkprozess eigenständig definiert und optimiert. Statt ihm vorzugeben, wie es nachdenken soll, beobachten wir, wie die KI in Echtzeit ihre eigenen Ketten des Denkens generiert und dabei komplexe Probleme löst. Wir erklären, wie DeepSeek R1 mithilfe von Reinforcement Learning und innovativen Methoden den Weg zum autonomen Nachdenken ebnet und damit traditionelle, von menschlicher Anleitung abhängige Modelle herausfordert. Seid dabei, wenn wir als stille Beobachter die faszinierende Selbstorganisation und den freien Gedankengang dieser Open-Source-KI erleben – und diskutieren, was das für die Zukunft intelligenter Systeme bedeutet.
65min Min.
SRF Arena: Führt radikale Enteignung zu digitaler Demokratie?
Part 1 [1/3]
In der SRF Arena wurde unter anderem der kontroverse Vorschlag diskutiert, grosse Technologieunternehmen zu enteignen – ein radikaler Ansatz, der auf eine fundamentale Umverteilung der digitalen Macht abzielt. In dieser reAct-Folge nehmen wir genau diesen Punkt unter die Lupe. Wir analysieren, ob ein solcher Eingriff den Weg zu mehr digitaler Demokratie ebnen kann, welche Chancen er eröffnet und welche Risiken dabei im Raum stehen. Begleitet uns, wenn wir die in der Arena vorgebrachten Argumente kritisch hinterfragen und in einen technischen Kontext setzen.
78min Min.
SRF Arena: Weniger Arbeit für alle - oder mehr Reichtum für wenige?
Part 2 [2/3]
Diese Folge widmet sich den weitreichenden Veränderungen in der Arbeitswelt durch den Einsatz von Künstlicher Intelligenz. Wir stellen die provokante Frage: Führt die Automatisierung zu mehr Freizeit und Lebensqualität für die breite Masse – oder profitieren letztlich nur wenige von einem digital generierten Überschuss? Mit einem Blick, der leicht marxistische Ansätze miteinbezieht, analysieren wir, wie sich Arbeitsplätze und Vermögensverteilung in der Ära der KI wirklich entwickeln könnten.
106min Min.
SRF Arena: Globalen Sicherheitsmechanismus für KI?
Part 3 [3/3]
In der SRF Arena ging es auch um die Frage, wie der rasante Fortschritt der Künstlichen Intelligenz sicher und verantwortungsvoll reguliert werden kann. Experten diskutierten, ob nationale Massnahmen ausreichen oder ob ein globaler Sicherheitsmechanismus – vergleichbar mit Ansätzen in der Nukleartechnik – notwendig wäre, um Risiken zu minimieren. In dieser reAct-Folge setzen wir uns mit den in der Arena vorgebrachten Vorschlägen auseinander und fragen: Kann ein international abgestimmter Regulierungsrahmen die digitale Zukunft wirklich sichern? Wir beleuchten die Chancen und Herausforderungen eines solchen Ansatzes und stellen ihn in einen breiteren technischen Kontext.
74min Min.
o3: Übertrifft KI die menschliche Intelligenz?
Part 1 [1/2]
Im OpenAI-Video mit Sam Altman wurde das neue Modell o3 vorgestellt – und es sorgt beim Arc AGI-Benchmark für Furore. In dieser reAct-Episode schauen wir uns das Video an und reagieren live auf die beeindruckenden Demos. Wir diskutieren, ob o3 bei komplexen mathematischen und programmiertechnischen Aufgaben tatsächlich an die menschliche Intelligenz herankommt – oder diese gar übertrifft. Seid dabei, wenn wir die gezeigten Performance-Werte und Challenges unter die Lupe nehmen und bewerten, ob hier ein echter Quantensprung in der KI-Entwicklung zu erkennen ist!
48min Min.
o3-mini: Wie o1 in Rekordzeit überflüssig wird!
Part 2 [2/2]
Das OpenAI-Video mit Sam Altman präsentiert nicht nur das leistungsstarke Modell o3, sondern auch das neue o3-mini – ein Modell, das mit einem genialen Kosten-Intelligenz-Verhältnis punktet. In dieser reAct-Episode schauen wir uns das Video an und reagieren auf die spektakulären Benchmarks und Demos, die zeigen, wie o3-mini trotz höherer Kosten eine derart herausragende Leistung liefert, dass o1 quasi obsolet wird. Erlebt mit uns, wie der neue Standard in der KI-Leistung gesetzt wird und was das für die Zukunft der schnelllebigen KI-Szene bedeutet!
42min Min.
Wenn KI tötet
Gefahren, die KI mit sich bringt
Welche Gefahren, die KI mit sich bringt, sind heute, 2025, bereits Realität? Wir berichten darüber, wo wir die Entwicklungen der KI wirklich im Auge halten müssen, und zeigen an Beispielen wie "Predictive Policing" oder "KI im Krieg" auf, wieso der Einsatz von KI durchaus schon heute Gefahren mit sich bringt.
71min Min.
tldr; Werden wir von ChatGPT o1 manipuliert
Tag 1 bis 5 von 12 Days of OpenAI
Wir sprechen über 12 Days of Shipmas! Genauer gesagt über das neue Modell o1 und ChatGPT Pro, über reinforcement fine-tuning, Sora, Canvas und Apple Intelligence.
83min Min.
tldr; Bei Google programmiert die KI sich selbst
Erstaunlicher Einblick in die KI-Welt bei Google
Ein Viertel des neuen Codes bei Google wird inzwischen von Künstlicher Intelligenz geschrieben – ein erstaunlicher Einblick in die rasante Entwicklung der Technologie. Was bedeutet das für die Zukunft der Programmierung und die Rolle der Entwickler? In dieser tldr-Episode diskutieren wir den aktuellen Earnings Report von Google und die Auswirkungen der Tatsache, dass KI bereits jetzt massgeblich an der Erstellung von Software beteiligt ist. Ein spannender Blick auf die sich selbst programmierende KI und was das für die Branche und die Arbeitswelt bedeutet.
46min Min.
Warum KI-Projekte scheitern
und wie du zu den Erfolgreichen gehörst
Fehlerhafte Planung, unrealistische Erwartungen und fehlendes Know-how – es gibt viele Gründe, warum KI-Projekte ins Stocken geraten oder scheitern. In dieser Folge decken wir auf, worauf es wirklich ankommt, um KI-Projekte erfolgreich zu machen. Von den ersten Schritten der Projektplanung bis zur Implementierung: Erfahre, welche Stolperfallen du vermeiden musst und welche Strategien dir helfen, zu den Gewinnern zu gehören. Ein Muss für alle, die KI-Projekte nicht nur starten, sondern auch zum Erfolg führen wollen.
112min Min.
Die geheime Sprache der KI
Ein Blick hinter die Kulissen des Deep Learning
Was passiert wirklich hinter den Kulissen des Deep Learning? In dieser Folge lüften wir das Geheimnis der 'Sprache' der Künstlichen Intelligenz und tauchen tief in die Welt des Embedding Space ein. Wir diskutieren, wie Dropout Layers das Lernen der KI verbessern, warum Few-Shot Learning so revolutionär ist, und wie Fine-Tuning Modelle präziser macht. Doch das ist nicht alles: Wir werfen auch einen kritischen Blick auf Data Privacy und fragen uns, wie sicher unsere Daten in der Welt des maschinellen Lernens wirklich sind.
66min Min.
tldr; Warum KI sehen muss, um zu verstehen
Vision und Illusion
In dieser Episode zeigen wir, warum Künstliche Intelligenz sehen muss, um wirklich zu verstehen. Vision-Modelle sind der Schlüssel zur nächsten Stufe der KI-Entwicklung, denn nur mit Bildern lässt sich ein umfassendes Weltbild schaffen – Bilddaten übertreffen Text in Menge und Tiefe. Doch das ist nicht alles: Wir sprechen auch über die 'Diffusion Illusion' – eine coole Technik, bei der Stable Diffusion-Modelle mehrere Perspektiven und Subjekte gleichzeitig in einem einzigen Bild abbilden können.
33min Min.
abc; Artificial General Intelligence - in 1000 Tagen?
Offline auf dem Smartphone dank BitNets?
In dieser Episode von Attention Heads tauchen wir tief in die Welt der Künstlichen Intelligenz ein und fragen uns: Wird es wirklich möglich sein, in 1000 Tagen AGI (Artificial General Intelligence) zu haben? Dieses gewagte Statement stammt von keinem Geringeren als Sam Altman. Doch was steckt wirklich dahinter? Wir führen euch von A bis C durch spannende Konzepte wie Attention Heads, Agents und AGI, über technische Meilensteine wie Backpropagation bis hin zu Contextual Embeddings. Eine Episode, die die Zukunft der KI und ihre fundamentalen Bausteine unter die Lupe nimmt.
56min Min.
tldr; OpenAI o1:
Der nächste Schritt richtung AGI?
In dieser Folge von tldr werfen wir einen genaueren Blick auf das neueste Modell von OpenAI: o1. Was macht dieses Modell anders? Mit einem angeblichen IQ von 120 und der Fähigkeit, erst nachzudenken, bevor es antwortet, könnte es der nächste Schritt in Richtung AGI (Artificial General Intelligence) sein. Aber wie intelligent ist es wirklich? Wir sprechen über die wichtigsten Neuerungen, wie man dieses Modell am besten nutzt und welche Herausforderungen auf dem Weg zur echten künstlichen Intelligenz noch zu meistern sind.
37min Min.
tldr; Künstliche Sebstreflexion
Strawberry und Reflection bringen KI zum Grübeln
Während die KI-Industrie von Hype und Marketingversprechen dominiert wird, werfen wir einen kritischen Blick auf zwei aktuelle Entwicklungen: OpenAIs geheimnisvolles "Strawberry"-Modell und das Open-Source "Reflection"-Modell. Wir hinterfragen die grossen Behauptungen und analysieren, was wirklich hinter diesen neuen Ansätzen steckt.
51min Min.
KI-Dystopie 2035:
Wenn KI der Lebenssaft der Wirtschaft wird (Doppelfolge: Part 1)
Diese Folge untersucht kritisch mögliche negative Auswirkungen fortschrittlicher KI in den nächsten 10-15 Jahren. Wir diskutieren Szenarien wie massiven Jobverlust, Veränderungen in der zwischenmenschlichen Kommunikation und potenzielle Machtkonzentrationen bei KI-Unternehmen. Teil 1 unserer Doppelfolge zur KI-Zukunft - realistische Bedrohung oder übertriebene Ängste? Teil 2 wird utopische Visionen beleuchten.
47min Min.
KI-Utopie 2035:
Wenn Algorithmen uns zu mehr Menschlichkeit inspirieren (Doppelfolge: Part 2)
In dieser optimistischen Partnerfolge zu unserer düsteren KI-Dystopie wagen wir einen hoffnungsvollen Blick in eine Zukunft, in der KI ihr volles Potenzial entfaltet. Von der 4-Tage-Arbeitswoche bis zur Renaissance des Gemeinschaftssinns – wir erkunden, wie KI unser Leben bereichern könnte. Doch Vorsicht: Diese Utopie kommt nicht von allein. Erfahren Sie, welche Weichen wir heute stellen müssen, um morgen in einer Welt zu leben, in der KI nicht nur der Wirtschaft, sondern vor allem dem Menschen dient. Eine Folge, die Ihnen die Augen für die positiven Möglichkeiten von KI öffnen wird!
51min Min.
KI-Hype:
Wenn Marketingversprechen auf harte Realität treffen
KI ist in aller Munde, aber was steckt wirklich dahinter? Wir analysieren den aktuellen KI-Hype kritisch, hinterfragen überzogene Marketingversprechen und diskutieren die Diskrepanz zwischen Erwartungen und Realität. Dabei beleuchten wir die Rolle von KI in Unternehmen, gesellschaftliche Erwartungen an KI-Systeme und die treibenden Kräfte hinter der KI-Adoption. Eine nüchterne Bestandsaufnahme des KI-Booms mit Blick auf zukünftige Entwicklungen.
47min Min.
Open Source KI:
Das vergessene Fundament der KI-Revolution
Diese Folge befasst sich mit der oft übersehenen Bedeutung von Open-Source-KI-Modellen. Wir diskutieren, wie diese Modelle Innovation und Forschung vorantreiben und warum sie für die Zukunft der KI wesentlich sind. Themen umfassen die Entwicklung von OpenAI weg vom Open-Source-Ansatz, Herausforderungen und Chancen in der Open-Source-Entwicklung, sowie den Vergleich zu proprietären Modellen wie GPT-4. Die Episode beleuchtet die Vielfalt verfügbarer Open-Source-Modelle und deren Potenzial für die Demokratisierung der KI-Technologie. Für alle, die ein tieferes Verständnis der aktuellen KI-Landschaft
47min Min.
Ist KI intelligent?
Eine Antwort, die niemand braucht
In dieser Episode von "Attention Heads" beschäftigen wir uns mit der viel diskutierten, aber vielleicht überflüssigen Frage: Ist Künstliche Intelligenz wirklich intelligent? Wir philosophieren über die Definition von Intelligenz und analysieren, ob KI diesen Kriterien gerecht wird. Dabei kommen wir zu dem Schluss, dass die Frage selbst oft mehr Verwirrung stiftet als Klarheit bringt. Wir beleuchten, warum es möglicherweise irrelevant ist, ob KI als "intelligent" bezeichnet werden kann, und richten den Fokus auf die praktischen Anwendungen und ethischen Implikationen der Technologie. Mit einer Prise Selbstironie hinterfragen wir, ob unsere Obsession mit der Intelligenz von Maschinen nicht eher eine Ablenkung von wichtigeren Fragen darstellt. Begleiten Sie uns auf dieser gedanklichen Reise und entscheiden Sie selbst: Ist die Suche nach einer Antwort auf diese Frage wirklich so notwendig – oder ist es am Ende eine Antwort, die niemand braucht?
55min Min.
KI im Klassenzimmer:
Revolution oder Risiko?
In dieser spannenden Episode von "Attention Heads" beschäftigen wir uns mit einem der heissesten Themen der modernen Bildung: Künstliche Intelligenz im Klassenzimmer. Von Universitäten bis hin zu Primarschulen durchdringt KI zunehmend den Bildungssektor. Doch was bedeutet das für Schüler, Lehrer und das Bildungssystem als Ganzes? Wir diskutieren den Einsatz von KI wie ChatGPT im Unterricht und analysieren die potenziellen Vorteile und Risiken. Dabei nehmen wir den möglichen Betrug durch KI-gestützte Tools unter die Lupe und fragen uns, ob diese einen unfairen Wettbewerbsvorteil schaffen. Darüber hinaus beleuchten wir die aktuellen Bewertungskriterien und gesetzlichen Verbote rund um den Einsatz von KI in Schulen und Hochschulen. Erfahren Sie, wie Bildungsinstitute KI sinnvoll einsetzen können und welche Zukunftsszenarien denkbar sind, in denen GPT-Modelle ein fester Bestandteil des Lernens werden. Tauchen Sie mit uns ein in die Debatte und entdecken Sie, ob KI eine Revolution oder ein Risiko für die Bildung darstellt.
42min Min.
Gefährliche Vorurteile:
Der unsichtbare Einfluss von OpenAI auf ChatGPT
Diese Episode unseres KI-Podcasts wagt sich an ein kontroverses und oft übersehenes Thema: die inhärenten Biases in KI-Modellen wie ChatGPT, mit einem speziellen Fokus auf deren Auswirkungen auf Minderheiten. Wir enthüllen den tiefgreifenden, doch weitgehend unbekannten Einfluss, den OpenAI auf die Entwicklung und Gestaltung von ChatGPT ausübt. Diese Folge beleuchtet, wie Vorurteile in den Daten, mit denen diese KI-Modelle trainiert werden, nicht nur in die Technologie selbst einfliessen, sondern auch, wie sie die Interaktionen mit Nutzern und die Gesellschaft als Ganzes beeinflussen können. Durch Gespräche mit Experten und kritische Analysen fordern wir unsere Hörer heraus, über die ethischen Implikationen der KI-Entwicklung nachzudenken und diskutieren, was getan werden kann, um eine gerechtere und inklusivere KI-Zukunft zu gestalten.
40min Min.
DeepSeek V3: Open-Source-Powerhouse
Das Geheimnis hinter den Hype
In dieser Folge nehmen wir das DeepSeek V3 Paper genau unter die Lupe – das Open-Source-Powerhouse, das aktuell für Furore in der KI-Szene sorgt. Wir erklären, warum dieses Modell mit seinen 671 Milliarden Parametern (37 Milliarden aktiv pro Token) und innovativen Architekturen wie Multi-Head Latent Attention und Mixture-of-Experts den Markt revolutioniert. Dabei beleuchten wir, wie DeepSeek V3 trotz geringer Kosten (nur ca. 5,58 Mio. USD für das Training) durch eine effiziente Nutzung von Nvidia H800 Chips und einen sparsamen Datenaufwand beeindruckende Leistungen erzielt. Erfahrt, was hinter dem Hype steckt, welche technischen Neuerungen das Modell auszeichnen und warum es als Gamechanger in der Open-Source-KI gilt.
61min Min.
Jobkiller KI?
Wie ChatGPTs autonome Agenten die Arbeitswelt bedrohen
In dieser Episode unseres KI-Podcasts stellen wir uns einer provokanten Frage: Wird ChatGPT mit seinen autonomen Agenten zum Jobkiller für Milliarden von Arbeitsplätzen? Diese Folge taucht tief in die Diskussion über die potenziellen Risiken und die weitreichenden Auswirkungen ein, die KI-gesteuerte Technologien auf den globalen Arbeitsmarkt haben könnten. Wir beleuchten, wie die fortschreitende Entwicklung und Implementierung von autonomen Agenten nicht nur einfache, repetitive Aufgaben, sondern zunehmend auch komplexere und kreativere Berufsfelder bedrohen könnte. Durch eine kritische Auseinandersetzung mit den aktuellen Trends, statistischen Prognosen und Expertenmeinungen erforschen wir, wie Gesellschaften sich auf eine Zukunft vorbereiten können, in der Arbeit neu definiert wird. Ziel ist es, ein Bewusstsein für die Dringlichkeit zu schaffen, mit der wir uns den Herausforderungen der KI-Integration in die Arbeitswelt stellen müssen.
46min Min.
KI-Begriffe im B******t-Check:
Was wirklich dahintersteckt
In dieser Episode unseres KI-Podcasts aus der Schweiz nehmen wir uns der Aufgabe an, Licht ins Dunkel der oft verwirrenden KI-Begriffswelt zu bringen. Wir entwirren und erklären die Grundlagen und Schlüsselbegriffe wie Künstliche Intelligenz (KI), Machine Learning, Data Science und Sprachmodelle. Diese Folge bietet einen klaren und tiefgehenden Einblick in die Bedeutung dieser Begriffe, ihre Unterschiede und wie sie zusammenhängen. Wir diskutieren auch, wie diese Technologien entwickelt werden und in welchen Bereichen sie Anwendung finden. Ziel ist es, unseren Hörern ein fundiertes Verständnis dieser revolutionären Technologien zu vermitteln, das über Schlagworte hinausgeht. Egal, ob Sie ein Neuling in der Welt der KI oder ein erfahrener Entwickler sind, diese Episode verspricht, informativ und aufschlussreich zu sein.
43min Min.
ChatGPT: Fluch oder Segen für die Demokratie?
Attention Heads - Schweizer Perspektive auf KI und die Technologie von morgen
In dieser Episode unseres Schweizer KI-Podcasts setzen wir uns mit einem brisanten Thema auseinander: dem Einfluss von ChatGPT auf die Demokratie. Diese Folge taucht tief ein in die komplexen Wechselwirkungen zwischen Künstlicher Intelligenz und dem demokratischen Diskurs. Wir diskutieren sowohl die potenziellen Gefahren als auch die möglichen Vorteile, die ChatGPT und ähnliche Technologien für demokratische Prozesse mit sich bringen können. Dabei beleuchten wir Themen wie Meinungsmanipulation, Informationsverbreitung und die Rolle von KI in der politischen Entscheidungsfindung. Unser Ziel ist es, ein ausgewogenes Verständnis dafür zu entwickeln, wie diese innovativen Technologien unsere Demokratie sowohl herausfordern als auch bereichern können.
53min Min.