Anthropic EFS: Privasi ZDR, Misuse Detection Sebenar

Anthropic EFS: Privasi ZDR, Misuse Detection Sebenar

Pembeli enterprise AI selama ini tersangkut antara dua perkara yang kedua-duanya mereka perlukan. Pasukan yang tertakluk kepada peraturan mahu jaminan zero data retention (ZDR) — supaya tiada prompt atau agent transcript yang tersimpan di server vendor. Pasukan security pula mahu misuse detection, yang secara tradisi bermakna vendor perlu menyimpan data yang sama cukup lama untuk dikaitkan antara satu sama lain. Pilih satu, anda hilang yang satu lagi.

Minggu ini Anthropic mengumumkan Enterprise Frontier Safeguards (EFS), satu seni bina yang cuba berikan kedua-duanya serentak. EFS menyimpan data pemantauan dalam infrastruktur cloud yang dikawal pelanggan — bukan di pihak Anthropic. Detection kekal dengan Anthropic. Custody, kunci dan apa-apa semakan manusia kekal dengan pelanggan.

Boleh deploy sekarang? Belum. EFS dilancarkan secara berperingkat, dengan sasaran tersedia umum hujung musim luruh ini, dan akses berasaskan permohonan. Sebelum ia sedia, pelanggan yang layak boleh menjalankan Claude Fable 5 dan Fable 5.1 di bawah ZDR.

Masalah teknikal yang EFS cuba selesaikan

Sebab Anthropic memperkenalkan retention ialah kualiti detection, bukan training data. Syarikat itu memperkenalkan data retention 30 hari bermula dengan Fable 5, dan menyatakan dengan jelas ia tidak pernah melatih model atas data enterprise tanpa kebenaran eksplisit — dan tidak akan berbuat demikian.

Hujah untuk menyimpan data ini agak sempit, tetapi wajar diulang. Misuse yang paling sofistikated yang pernah diperhatikan Anthropic merebak merentas banyak task, sesi dan akaun — termasuk kes yang melibatkan kecurian atau penyalahgunaan enterprise credentials. Kalau anda jalankan classifier automatik pada setiap interaksi dan buang hasilnya serta-merta, anda tidak dapat mengesan corak serangan macam itu. Correlation perlu satu tempoh masa. Anthropic telah mendokumenkan corak ini dalam kerja mereka memecah operasi espionage.

Pelanggan dalam industri terkawal faham logik security ini dan tetap tidak dapat menggunakannya — jadi Anthropic mengalihkan "window" itu daripada membuangnya.

Apa yang EFS sebenarnya ubah

Anthropic membina EFS bersama lebih 100 pelanggan merentas financial services, healthcare, manufacturing, telecom, bidang undang-undang, retail dan sektor awam, serta rakan cloud AWS, Google Cloud dan Microsoft Azure. Mereka juga bekerjasama dengan Analysis and Resilience Center for Systemic Risk, yang ahlinya termasuk CISO di Goldman Sachs, Morgan Stanley, Citi, Bank of America dan Wells Fargo, selain pasukan di Comcast, KPMG, Mastercard, Salesforce dan Visa. Anthropic kata perbincangan reka bentuk itu merangkumi suku daripada Fortune 100 dan semua bank global systemically important di AS.

Tiga keputusan reka bentuk keluar daripada proses itu:

• Storage berpindah kepada pelanggan. Data aktiviti yang digunakan untuk pemantauan boleh duduk dalam akaun cloud pelanggan sendiri — Amazon S3, Azure Blob Storage atau Google Cloud Storage — di bawah encryption keys, access policies dan audit logging mereka. Enterprise memberitahu Anthropic yang menambah satu lagi "trusted data vendor" akan mencetuskan notifikasi pelanggan dan kemas kini kontrak, jadi seni bina ini mengelak daripada mencipta satu.
• Semakan berpindah kepada pelanggan. Apabila pemantauan mengesan corak yang perlu diberi perhatian, isyarat itu terus ke tangan pelanggan. Kedudukan Anthropic ialah semakan automatik menguruskan imbasan, tetapi manusia tetap menambah nilai dengan mengesahkan misuse sebenar dan membersihkan false positives — dan dalam persekitaran terkawal, orang itu mesti diluluskan untuk privileged legal material, non-public information atau drug-safety reports. EFS menjalankan automated safety monitoring tanpa memerlukan semakan manusia daripada Anthropic.
• Detection kekal dengan Anthropic. Sistem automatik menganalisis window bergerak trafik untuk misuse serius: cubaan membina keupayaan offensive cyber atau biological, dan tanda-tanda credentials yang dicuri atau bocor.

Setiap satu ini adalah opt-in yang berasingan — customer-owned storage, customer-managed encryption keys dan fully automated review — dan tiada satu pun yang mengubah kelakuan model, pricing API atau rate limits. Anthropic tidak mengenakan caj untuk EFS; kalau anda simpan data dalam bucket sendiri, penyedia cloud anda yang bil storage, reads, writes dan egress, sama seperti mana-mana resource lain.

Di mana ia duduk dalam model roadmap

EFS ialah salah satu daripada tiga konsesi enterprise yang dilancarkan bersama Claude Fable 5.1 dan Mythos 5.1. Dua lagi ialah pricing dan precision. Fable 5.1 memotong cache reads sebanyak 75% kepada $0.25 per juta token — lebih kurang 25% lebih murah untuk workload biasa, dan sehingga kira-kira 45% untuk workload yang sangat agentic. Cybersecurity safeguards kini menghasilkan kira-kira 60% kurang intervensi bagi setiap sesi Claude Code berbanding Fable 5, sebahagiannya kerana Fable 5.1 dibenarkan mengenal pasti software vulnerabilities tanpa membangunkan exploit untuknya.

Bagaimana ia kelihatan dalam amalan

Kalau anda mengendalikan pasukan security yang perlu melancarkan kawalan jenis ini, bentuk integrasinya mungkin sudah biasa. Anggap EFS bukan SaaS baharu yang anda pasang, tetapi storage sink tambahan kontrak detection yang anda sambungkan ke SIEM dan workflow IR sedia ada:

Traffic Claude (Fable 5.1 + safeguard layer)
        │
        ▼
monitor window bergerak (automated detection Anthropic)
        │  mengesan corak yang patut diberi perhatian
        ▼
Bucket S3 / Azure Blob / GCS anda (customer keys, audit logging)
        │
        ▼
Pasukan security anda menyemak & membersihkan false positives

Flag mendarat dalam bucket anda. Orang anda — bukan orang Anthropic — yang menentukan langkah seterusnya. Itulah keseluruhan pertaruhan: simpan buktinya, tetapi di bawah custodianship yang lulus semakan regulatori, supaya faedah detection itu kekal walaupun dengan keperluan privasi.

Kenapa ini penting, dan caveat yang jujur

The Register mengambil pandangan bahawa ini adalah zero data retention di mana pelanggan sendiri perlu sahkan ia berfungsi — kini anda yang memikul kerja semakan yang dahulunya dilakukan Anthropic. Ada juga persoalan sebenar sama ada mengalihkan retention sama dengan menghapuskannya. Penganalisis memanggilnya "provider-side zero data retention alongside customer-custodied retention" — bukti yang dikekalkan itu masih wujud, cuma bukan di bawah bumbung Anthropic. Dan perlu diperhatikan, Anthropic tidak mendakwa 30 hari ialah angka tepat yang dituntut oleh matematik; ia hanya kata correlation memerlukan "a meaningful period of time."

Untuk pasukan tech Malaysia, ini patut diberi perhatian atas beberapa sebab. Pertama, ia menunjukkan dua frontier lab besar semakin menumpu kepada jawapan yang sama: OpenAI telah melancarkan "private safety processing" yang serupa beberapa minggu lebih awal dengan semangat "jangan simpan di provider, tapi detect tetap jalan." Kedua, ia secara senyap membingkai semula perdebatan rogue-model-containment: daripada bertengkar tanpa henti tentang siapa boleh melihat apa, industri kini membina model custody yang membolehkan pihak ketiga memerhati — tanpa mengira bidang kuasa — tanpa memiliki data. Untuk pasukan yang memetakan postur keselamatan agent yang lebih luas, EFS ialah cebisan berbentuk enterprise dalam puzzle itu.

Key takeaways

• EFS menggandingkan privasi setara ZDR dengan detection automatik yang merentas sesi dan akaun.
• Data aktiviti mendarat dalam bucket S3, Azure Blob atau Google Cloud Storage milik pelanggan.
• Flag dihantar kepada pelanggan; tiada semakan manusia Anthropic diperlukan.
• Customer-owned storage, customer-managed keys dan automated review masing-masing opt-in.
• Anthropic tidak mengenakan caj untuk EFS; penyedia cloud anda yang bil storage dan egress.

Sumber

• Anthropic: Anthropic announces Enterprise Frontier Safeguards
• CSO Online: OpenAI adds an AI safety layer to detect misuse without retaining enterprise data
• The Register: Anthropic promises zero-data retention, but customers must check it worked
• Anthropic: Disrupting AI espionage
• Anthropic: Claude Fable 5.1 and Claude Mythos 5.1