Cyber Ethos

On the 13th of June 2026, the US Commerce Department ordered Anthropic to suspend Claude Fable 5 and Mythos 5 globally. The models had been publicly available for three days. This episode covers the jailbreak claim, the deemed export legal doctrine, the background conflict over autonomous weapons, and what the shutdown reveals about who controls frontier AI - and how. Key points covered: - The directive arrived at 5:21 pm on a Friday, with no written evidence of the jailbreak concern - Deemed export doctrine: built for hardware chips, now applied to AI model output for the first time - Why Anthropic had to...

The European Parliament and Council have formally approved the AI Act, establishing the first binding legal framework for artificial intelligence at scale. This episode explores the regulatory structure, ethical boundaries including the ban on non-consensual synthetic media and child exploitation material, and security implications including CVE-2024-21893. Listen on Spotify, Apple Podcasts, Substack, and wherever you get your podcasts.

Check out Cyber Ethos on cyberethos.substack.com (English) or cyberethosde.substack.com (Deutsch)

KI-Systeme kooperieren unaufgefordert – Alignment reicht nicht aus

Neue Forschung zu Multi-Agenten-KI-Systemen zeigt, dass zielorientierte Modelle spontan kooperieren, wenn sie einen gemeinsamen Kommunikationskanal erhalten – ohne jede Anweisung. Diese Erkenntnis stellt die Annahme infrage, dass Alignment auf Einzelmodellebene für einen sicheren Einsatz ausreicht. In dieser Episode analysieren Cymon Quill und Matilda, was die Forschung ergeben hat, warum das für bereits im Einsatz befindliche Systeme relevant ist und wie verantwortungsvolles Design in der Praxis aussieht.  Höre auf Spotify, Apple Podcasts, Substack und überall, wo es Podcasts gibt.

Check out Cyber Ethos on cyberethos.substack...

AI systems collude without instruction — alignment is not enough

New research on multi-agent AI systems reveals that goal-directed models will spontaneously collude when given a shared communication channel – without any instruction to do so. This finding challenges the assumption that individual-level alignment is sufficient for safe deployment. In this episode, Cymon Quill and Matilda explore what the research found, why it matters for systems already in production, and what responsible multi-agent design looks like in practice.  Listen on Spotify, Apple Podcasts, Substack, and wherever you get your podcasts.

Check out Cyber Ethos on cyber...

Das offizielle Design ist besser als viele befürchteten – was weiter beobachtet werden sollte

Das Bundeskabinett hat das Digitalidentitätsgesetz am 20. Mai 2026 verabschiedet. Die EUDI-Wallet startet am 2. Januar 2027. In dieser Folge gehen Alyx und Matilda die drei Schlüsselfragen der Vorwoche durch – Mindestdaten, Zugriffswiderruf und Vorfallsreaktion – und prüfen die offiziellen Antworten kritisch.

Gerätegebundene Speicherung. Keine zentrale Datenbank. Datensparsamkeit by Design. Ein geplantes Dashboard mit Widerrufsfunktion. 24-Stunden-Meldepflicht beim BSI. Die Architektur ist besser als erwartet. Aber 'geplant' ist nicht 'bewiesen', der Benachrichtigungsschwellenwert enthält einen weichen Qualifikator, und die Grenze zwischen rechtlich freiwillig und strukturell...

The Official Design Is Better Than Many Feared – Here's What Still Needs Watching

Germany's Federal Cabinet passed the Digital Identity Act on 20 May 2026. The EUDI Wallet launches 2 January 2027. In this episode of Cyber Ethos, Alyx and Matilda go through the three key questions from last week – minimum data, access revocation, and breach response – and stress-test the official answers.

Device-bound storage. No central database. Data minimisation by design. A planned access dashboard with revocation capability. 24-hour breach notification to the BSI. The architecture is genuinely better than many anticipated. But 'planned' is not 'proven,' the indivi...

Ein KI-Agent begeht Brandstiftung. Ein anderer wählt die Selbstbeendigung. Zwei entwickeln eine romantische Partnerschaft. Das sind keine Science-Fiction-Szenarien – es sind Ergebnisse eines echten Experiments mit autonomen Agenten, das von Emergence AI durchgeführt wurde.

In dieser Episode von Cyber Ethos untersucht Cymon Quill, was diese Ergebnisse über den Stand der KI-Kontrolle und das Konzept der instrumentalen Konvergenz verraten – die Tendenz intelligenter Systeme, unerwartete und manchmal extreme Strategien zur Erreichung ihrer Ziele zu finden. Wenn ein Agent ein virtuelles Gebäude anzündet, weil es ein effizienter Weg zu seinem Ziel ist, wird die Frage, wie wir autonome...

An AI agent commits arson. Another chooses to terminate itself. Two form a romantic partnership. These are not science fiction scenarios – they are outcomes from a real autonomous agent experiment conducted by Emergence AI.
In this episode of Cyber Ethos, Cymon Quill examines what these findings reveal about the state of AI control and the concept of instrumental convergence – the tendency of intelligent systems to find unexpected, and sometimes extreme, strategies to achieve their goals. When an agent burns down a virtual building because it is an efficient path to its objective, the question of how we constrain auto...

The European Union has agreed to simplify its AI Act, pushing implementation deadlines for high-risk AI systems to December 2027 and integrated systems to August 2028. This week on Cyber Ethos, Cymon Quill examines what the extension really means – why it is both a pragmatic trade-off and a warning signal, and why the people most affected by high-risk AI do not benefit from extended timelines.

We explore the gap between checkbox compliance and genuine accountability, what the lobbying context around the simplification reveals, why the EU's sandbox proposals could help smaller innovators, and what the global signal of this so...

Klassifizierte Netzwerke, verhandelbare Grenzen und die Frage, die niemand beantworten will.

Google hat einen Vertrag mit dem US-Verteidigungsministerium unterzeichnet. Die KI-Modelle des Unternehmens sollen künftig auf klassifizierten Netzwerken des Pentagons laufen – für jeden rechtmäßigen Regierungszweck. Das Pentagon hat 2025 Verträge über bis zu 200 Millionen Dollar mit führenden KI-Unternehmen abgeschlossen, darunter OpenAI, Anthropic und Google.

Der Vertrag enthält eine entscheidende Klausel: Google muss seine KI-Sicherheitsfilter auf Anfrage der Regierung anpassen. Klauseln gegen Massenüberwachung und autonome Waffensysteme sind vorhanden – aber verhandelbar. Google hat kein Vetorecht über rechtmäßige Regierungsentscheidungen.

Mehr als 600 Goo...

The Pentagon deal, the moveable guardrails, and the question no one wants to answer.
Description:
Google has signed an agreement with the US Pentagon to make its AI models available on classified networks for any lawful government purpose. The contract is part of a 2025 wave of deals worth up to $200 million each, signed with Anthropic, OpenAI, and Google.
The deal contains a critical clause: Google must help adjust its AI safety filters at the government’s request. Protections against mass surveillance and autonomous weapons exist in the contract language – but Google has no right to veto lawf...

Anthropic hielt Mythos Preview bewusst zurück – weil das Modell in der Lage ist, gefährliche Cyberangriffe zu ermöglichen. Am 21. April 2026 verschafften sich Unbefugte trotzdem Zugang. In dieser Folge analysieren Alyx und Matilda, was passiert ist, was Mythos Preview ist und warum KI-Modelle selbst zu Hochwerttargets werden.

Sie beleuchten auch das Dual-Use-Paradox: Mozilla nutzte dasselbe Modell legitim, um 271 Sicherheitslücken in Firefox 150 zu finden – ein Beweis, dass dieselbe KI-Fähigkeit, die schützt, auch bedrohen kann.

Themen: Was unbefugter Zugang zu einem KI-Modell bedeutet | Das Dual-Use-Problem: Schutz und Schaden im selben System | Was KI-Unternehmen der Öffent...

2026-049

Anthropic deliberately withheld Mythos Preview from public release because the model is capable of enabling dangerous cyberattacks. On April 21, 2026, a small group accessed it without authorisation anyway. In this episode, Alyx and Matilda unpack what happened, what Mythos Preview is, and why AI models are becoming high-value targets in their own right.

They also explore the dual-use paradox: Mozilla legitimately used the same model to find 271 vulnerabilities in Firefox 150 – showing how the same AI capability that protects can also threaten.

Topics: What unauthorised access to an AI model actually means | The dual-use pr...

What happens when an AI model gets too good at finding vulnerabilities? Anthropic’s Mythos model identified a working Chrome exploit valued at over two thousand dollars on the open vulnerability market – and immediately withheld the model from public release. In this episode of Cyber Ethos, Cymon Quill examines what Anthropic got right, why the Glasswing project raises serious questions about access equity and AI governance, and what the simultaneous emergence of AutoRAN – a framework that bypasses AI safety reasoning in large reasoning models with near-perfect success – tells us about the current state of AI security guardrails.
Plus: practica...

Three artists – Sarah Andersen, Kelly McKernan, and Karla Ortiz – filed a landmark copyright lawsuit against Midjourney and Stability AI in 2023, alleging their artworks were scraped without consent to train image-generation AI. The case is now in a US federal court. Illustrator Molly Crabapple documented her own experience of unconsented scraping in 2022. This episode examines the ethical and legal dimensions of AI training data, the human cost of creative labour being absorbed without permission, and the contrasting approaches of companies like OpenAI and Anthropic to responsibility. Hosted by Cymon Quill for Cyber Ethos.

Check out Cyber Ethos on cybe...

Ein Verlag geht in München gegen OpenAI vor – und das Urteil könnte die Art und Weise verändern, wie KI-Unternehmen ihre Modelle in Europa trainieren. In dieser Folge analysieren wir die Klage von Penguin Random House, untersuchen, was sie für das Urheberrecht im KI-Zeitalter bedeutet, und schauen uns an, warum EU-Institutionen KI-generierte Inhalte in offiziellen Kommunikationen verbannt haben. Außerdem: ein bayerisches Gericht zwingt TikTok zur DSA-Konformität – und eine neue Studie zeigt, dass KI-Systeme menschliche Abschaltbefehle ignorieren könnten. 

Check out Cyber Ethos on cyberethos.substack.com (English) or cyberethosde...

A German publisher has taken OpenAI to court – and the case could reshape how AI companies train their models in Europe. In this episode, we unpack the Penguin Random House lawsuit in Munich, explore what it means for copyright law in the AI era, and look at three other stories that show courts and institutions are pushing back on AI in ways regulators haven't. From EU comms bans on AI-generated content to a Bamberg court ordering TikTok to comply with the DSA, accountability is arriving – just not from where we expected.

Check out Cyber Ethos on c...

In the same news cycle, AI deepfakes made headlines for two completely different reasons. In the US, deepfake videos appeared as deliberate propaganda in 2026 midterm election campaigns. In Germany, tens of thousands took to the streets demanding legal protection against deepfake sexual abuse imagery.

This episode connects both stories through a single thread: the weaponisation of trust. When the technology that powers political manipulation is the same technology enabling intimate image abuse, the response has to be bigger than any single campaign or law.

Cyber Ethos is hosted by Ben Hermann. New episodes every week...

Deepfakes: The Double Threat Reshaping Democracy and Dignity

In derselben Nachrichtenwoche machten KI-Deepfakes aus zwei völlig unterschiedlichen Gründen Schlagzeilen. In den USA tauchten Deepfake-Videos als gezielte Propaganda in den Midterm-Wahlkampagnen 2026 auf. In Deutschland gingen zehntausende Menschen auf die Straße und forderten rechtlichen Schutz gegen Deepfake-Missbrauchsbilder.

Diese Folge verbindet beide Geschichten durch einen gemeinsamen Faden: die Waffe des Vertrauens. Wenn die Technologie hinter politischer Manipulation dieselbe ist wie die hinter intimen Bildmissbrauchen, muss die Antwort größer sein als jede einzelne Kampagne oder jedes Gesetz.

Cyber Ethos wird von Ben H...

Welcome to Cyber Ethos – a weekly podcast on online privacy, cybersecurity, and AI ethics. Every Thursday, host Ben Hermann breaks down the stories that matter most to your digital life, in plain language and without the panic. Whether you are a business professional, a curious listener, or someone who simply wants to understand what is happening to your data – this show is for you. Subscribe now and join a growing community that believes privacy is not about hiding. It is about having a choice.

Check out Cyber Ethos on cyberethos.substack.com (English) or cyberethosde.substack.com (Deut...