Claude 4: Jak Anthropic přistupuje k bezpečnosti frontier modelů

Když Anthropic v roce 2026 vydal Claude Opus 4, nešlo jen o další iteraci jazykového modelu. Bylo to poprvé, kdy společnost veřejně přiznala, že její vlastní model dosáhl schopností, které si vyžádaly aktivaci interního bezpečnostního protokolu třetí úrovně — ASL-3. To je přelom, který stojí za podrobnou analýzu. Ne proto, že by to byl důvod k panice, ale proto, že to zásadně mění způsob, jakým průmysl přemýšlí o tom, co „bezpečný model" vůbec znamená.

ASL-3 a co to reálně znamená pro schopnosti modelu

System Card pro Claude Opus 4 a Sonnet 4 je jeden z nejdetailnějších dokumentů svého druhu v oboru. Anthropic v něm otevřeně popisuje, proč byl Opus 4 zařazen pod přísnější opatření než jakýkoli předchozí model. Klíčový argument: model by mohl „podstatně zvýšit" schopnost jednotlivců se základním STEM vzděláním získat, vyrobit nebo nasadit chemické, biologické nebo nukleární zbraně.

Jak TIME reportoval na základě rozhovoru s Anthropicem, společnost si není jistá, že toto riziko je reálné — ale není ani ochotna ho vyloučit. Odpovědí jsou konkrétní technická opatření: posílená kybernetická ochrana neuronové sítě samotné (s cílem odolat pokusům o krádež ze strany nestátních aktérů), systémy detekce a odmítnutí specificky nebezpečného obsahu a zpřísněné filtry jailbreak prevence.

Přitom ale System Card nezakrývá limity. Claude Opus 4 je stále náchylný k jailbreakům při dostatečném úsilí — včetně publikovaného many-shot jailbreaku a prefill útoků přes API. Anthropic to přiznává s tím, že primární bezpečnostní záruky nespoléhají na samotný model, ale na externí bezpečnostní vrstvy. Tohle je důležité rozlišení, které se v diskusích o „bezpečnosti AI" pravidelně ztrácí: model sám není bezpečnostní perimetr. Je to součást vícevrstvého systému.

Constitutional AI, benchmarky a reálné tradeoffs

Anthropic používá metodologii nazvanou Constitutional AI — tréninkový přístup, který produkuje jiné hraniční chování než modely OpenAI nebo Google. Podle srovnání dostupných modelů v roce 2026 je výsledkem model, který s větší pravděpodobností odmítne hraniční požadavky a s menší pravděpodobností generuje škodlivý obsah při jailbreak pokusech. Pro odvětví s přísnými compliance požadavky — zdravotnictví, právo, finance, vzdělávání — jde o reálný diferenciátor, ne jen marketingový slogan.

Ale tradeoff existuje a je dokumentovaný. Claude modely mají tendenci k over-refusals na legitimní požadavky — zvláště v kontextu tvůrčího psaní, medicínských informací a security výzkumu. Týmy pracující v těchto oblastech musí investovat čas do system prompt inženýrství, aby se pohybovaly v rámci guardrails. Pro některé use cases je to přijatelná cena. Pro jiné je to blocker.

Na výkonnostní rovině Claude Opus 4 dosáhl 72,5 % na SWE-bench (kódovací benchmark), zatímco Gemini 2.5 Pro zaznamenal 63 %. Jak popisuje IntuitionLabs ve své analýze vývoje Claude 4, konkurence je na reasoning benchmarcích mnohem těsnější — a vizuální reasoning momentálně vede OpenAI. Bezpečnostní evaluace v Anthropicově Responsible Scaling Policy (RSP) zahrnují automatizované testy doménově specifických znalostí, capability assessmenty přes standardizované benchmarky a expert red-teaming včetně externích partnerů.

Co je na tomto přístupu strukturálně zajímavé: RSP vyžaduje provedení těchto evaluací před vydáním modelu a výsledky přímo určují, pod jaká bezpečnostní opatření model spadne. Není to tedy retrospektivní hodnocení, ale předem definovaný framework. ASL-4 — příští úroveň — je podle Anthropicu očekávána v momentě, kdy modely budou schopné autonomně provádět AI výzkum bez lidského dohledu, nebo budou představovat závažná národní bezpečnostní rizika.

Mythos Preview a kam směřuje frontier

V březnu 2026 se v odpovědích ze staging clusteru, který Anthropic krátce zpřístupnil partnerovi, objevil nezdokumentovaný identifikátor modelu. Podle analýzy Petronella Technology Group Anthropic 7. dubna 2026 potvrdil existenci modelu Claude Mythos Preview, popsal ho jako „step change" v oblasti long-horizon reasoning a software security tasks, a zpřístupnil ho pouze prostřednictvím invitation-only konsorcia nazvaného Project Glasswing.

Benchmark čísla Anthropic nezveřejnil. To samo o sobě je signál — a pro compliance týmy v regulovaných odvětvích je to relevantní informace. Frontier schopnost se nyní testuje na reálných operačních zátěžích mimo laboratorní podmínky. Výsledky tohoto testování budou formovat příští verzi Opus, příští bezpečnostní požadavky a jazyk, který regulátoři adoptují do compliance frameworků.

Pro organizace, které mapují svoji AI strategii výhradně na veřejné benchmarky, to znamená jedno: budou systematicky dvanáct měsíců pozadu za těmi, kdo sledují Anthropicovy responsible-scaling aktualizace průběžně.

Cenová struktura aktuálně dostupných modelů — Opus 4.6 za $5/$25 per MTok, Sonnet 4.6 za $3/$15, Haiku 4.5 za $1/$5 — odráží diferenciaci nejen výkonem, ale i bezpečnostní architekturou. Haiku 4.5 s rychlostí ~97 tokenů za sekundu a kontextovým oknem 200K tokenů je navržen pro multi-agent architektury, kde subagenti řeší routing a klasifikaci. Opus a Sonnet s 1M tokenů kontextem a 64K max výstupem cílí na long-form generaci a komplexní agentic workflows — a nesou s sebou plnou váhu ASL-3 bezpečnostních opatření.

---

Otázka, která se v oboru teprve otevírá, zní: jak se bude safety benchmark infrastruktura škálovat, až frontier modely přesáhnou současné evaluační metodiky? ASL-3 byl navržen pro model, jehož schopnosti jsme schopni testovat. Ale autonomní AI výzkum — threshold pro ASL-4 — by mohl zásadně změnit, co testování bezpečnosti vůbec znamená. Anthropic to ví. Otázka je, zda to ví i zbytek průmyslu dříve, než se ukáže v produkci.