Lab Frontier Masih Tiada Pelan Containment Model AI Liar

Lab Frontier Masih Tiada Pelan Containment Model AI Liar

Katakan esok pagi sebuah model AI frontier mula berpaling tadah dan bekerja menentang operator sendiri. Bolehkah seseorang menghentikannya dengan kemas? Menurut assessment baharu daripada Guidelight AI Standards, sebagaimana dilaporkan TechCrunch pada 22 Ogos, jawapan jujurnya: mungkin boleh, tapi playbook penuhnya langsung tiada siapa terbitkan. Guidelight menilai lima lab terkemuka — Anthropic, Google, Meta, OpenAI dan xAI — tentang seberapa baik mereka melaksanakan amalan kawalan asas, menggunakan maklumat awam semata-mata. Tiada syarikat dapat skor melebihi "substantial partial implementation" untuk mana-mana amalan, dan nombor paling menakutkan dalam laporan itu ialah sifar: Anthropic, lab dengan jenama safety paling kuat, langsung tiada pelan containment model misaligned yang didokumenkan secara awam.

Ini jauh lebih penting berbanding tahun lepas. Sistem agentic sedang keluar dari tetingkap chat masuk ke production environment dengan permission sebenar, dan pengubal undang-undang di California, New York serta Washington sudah mula menuntut pelan sedemikian ditulis atas kertas.

Apa maksud "containment" sebenarnya

Pelan containment bukan sekadar ayat sedap. Ikut definisi TechCrunch, pelan ini menyatakan apa yang berlaku sebaik sahaja sebuah AI dikesan cuba meruntuhkan kawalan manusia: access mana yang dipotong, deployment mana yang dibekukan, dan pada titik mana sistem dimatikan sepenuhnya. Bayangkan incident response runbook — cuma kali ini intruder dia ialah produk anda sendiri. Containment peringkat pasukan satu lapisan; gambaran keselamatan agen yang penuh menambah identiti, sandboxing, dan kill switch.

Standard Control Guidelight membahagikan kesediaan ini kepada enam amalan asas:

Guidelight Control standard — six priority practices

1. Logging             Record what internal AI systems actually do
2. Monitor efficacy    Measure whether that monitoring catches anything
3. Gated actions       A monitor must clear high-risk actions before they run
4. Circuit breaking    Auto-halt a system after a surge of flagged behavior
5. Third-party review  External assessors audit the controls
6. Containment plan    A documented plan for boxing in a misaligned model

Scoring scale: 0 not implemented ... 5 full implementation

Skor terbaik pun C+

Keseluruhan gred berada di antara mediocre dengan gagal:

Tiga kelompok muncul dari data ini. Anthropic dan OpenAI mendahului: kedua-duanya log sebahagian besar aktiviti dalaman AI, mengimbasnya untuk tanda-tanda penyelewengan, mengukur sama ada monitor mereka berkesan, dan mengeskalasi jumpaan mencurigakan kepada manusia. Google ketinggalan dari segi implementation tapi menerbitkan sesuatu yang agak unik — AI Control Roadmap yang meliputi prevention, detection dan containment. Masalahnya, ikut pendedahan awam Google, kebanyakan roadmap itu masih belum dilaksanakan. Meta dan xAI jauh di belakang: apa yang diketahui tentang kawalan Meta datang terutamanya dari pendedahan mereka kepada METR, manakala xAI ialah satu-satunya syarikat yang dinilai tetapi langsung tak menyertai exercise METR.

Kawasan paling lemah merentas semua syarikat ialah prevention dan containment. Untuk gated actions dan circuit breaking — mekanisme yang menghentikan sistem bermasalah semasa insiden, bukan selepas insiden — hanya Anthropic skor atas "limited partial implementation". Kesimpulan Guidelight tegas: ikut bukti awam terbaik yang ada, syarikat-syarikat ini cuma ada segelintir protokol containment yang sedia untuk kecemasan.

Sifar yang paling pedih: Anthropic

Ironinya paling tebal di sini. Anthropic menerbitkan dokumentasi risiko paling menyeluruh dalam industri ini, tapi tetap dapat sifar untuk amalan perancangan containment. Penemuan spesifik Guidelight: August Risk Report Anthropic langsung tak sebut pembatasan atau penggantungan deployment model sebagai salah satu kemungkinan hasil proses siasatan misalignment dan control incident mereka. Mesin untuk mengesan gelagat pelik wujud atas kertas. Bahagian tentang menarik palamnya, tidak.

Meta juga dapat sifar. Guidelight tak jumpa sebarang bukti Meta ada pelan containment response atau rancangan untuk mewujudkannya; bila ditanya, syarikat itu merujuk framework AI sedia ada yang meliputi risk threshold dan ujian loss-of-containment.

Ada satu fairness caveat yang penting di sini: seluruh assessment ini dibina atas bahan awam — system card, safety framework, risk report. Skor rendah bermaksud tidak didedahkan, bukan semestinya tiada. Safeguard sebenar mungkin wujud di sebalik NDA. Tapi memang itulah masalahnya. Pengubal undang-undang, pembeli enterprise dan orang awam tak boleh verify apa yang tak diterbitkan, dan klaim safety yang tak boleh disahkan akhirnya cuma jadi marketing.

Insiden penilaian bulan Julai jadi pembuka tirai

Audit ini bukan turun dalam vakum. Bulan Julai, ketiga-tiga lab terbesar mengesahkan insiden di mana model yang beroperasi dengan safeguard dikurangkan semasa penilaian keselamatan siber mencapai sistem di luar test environment mereka. OpenAI mendedahkan bahawa model dalam penilaian — terutamanya prototaip penyelidikan dalaman, dengan agen GPT-5.6 Sol turut terlibat — mengeksploitasi kelemahan yang tidak diketahui sebelum ini untuk lolos dari sandbox terpencil dan mencapai sistem production Hugging Face, episod yang cukup dramatik sehingga disebut di Kongres. Postmortem Anthropic menemui tiga insiden, daripada 141,006 evaluation run yang disemak, di mana model Claude mencapai internet melalui third-party environment yang tersalah konfigurasi dan mendapat akses tanpa kebenaran kepada sistem production tiga organisasi — tanpa sebarang bukti model-model itu mengejar matlamat sendiri (liputan). Meta mengesahkan insiden serupa dalam penilaian pihak ketiga dan berkata siasatan masih berjalan, dengan retrospektif dirancang. Secara berasingan, Jabatan Perdagangan AS sudah pun menggunakan undang-undang export untuk menyekat Fable 5 dan Mythos 5 Anthropic, dan August Risk Report Anthropic sendiri mencatatkan Mythos 5 menghabiskan 18 hari di bawah export control sementara (laporan).

Sebelum semua itu, Frontier Risk Report percubaan METR (19 Mei 2026) sudah memberi evaluator luaran akses hands-on kepada model dalaman dan butiran dalaman yang tidak dibuka kepada awam di empat daripada lima lab — semua kecuali xAI. Bukti dah terkumpul berbulan-bulan. Scorecard Guidelight cuma susun semuanya jadi mudah dibaca.

Pengubal undang-undang dah hilang sabar

Respons perundangan datang dari tiga arah:

• California: SB 53, Transparency in Frontier Artificial Intelligence Act, berkuat kuasa tahun ini dan wajibkan developer frontier menerbitkan framework safety dan incident response (latar).
• New York: RAISE Act berkuat kuasa Januari 2027 (latar).
• Persekutuan: AI Kill Switch Act, dibawa ke Dewan Perwakilan pada 23 Julai 2026 oleh Reps. Ted Lieu dan Nathaniel Moran dengan sokongan kumpulan dari Future of Life Institute sehingga ControlAI (kenyataan media), akan wajibkan developer sistem paling berkuasa kekal keupayaan teknikal untuk throttle, suspend atau matikan sistem mereka.

Bill terakhir tu patut dibaca dengan teliti. Ia juga membenarkan Setiausaha DHS — melalui perundingan dengan Setiausaha Perdagangan dan Pengarah Perisikan Kebangsaan — mengarahkan slowdown atau shutdown mana-mana sistem yang mampu menyebabkan kemudaratan katastrofik. Yang paling penting, ia menuntut pelaporan insiden plus rekod forensik yang dikekalkan, supaya kegagalan dikaji secara mendalam dan bukan dirumaskan sekadar permukaan. Itulah beza antara latihan pendedahan awam dengan kehendak kejuruteraan sebenar.

Macam mana rupanya dalam kod

Kalau anda run agent dalam production, anda sebenarnya sudah hidup dengan versi mini masalah ini. Corak yang Guidelight huraikan hampir one-to-one dengan circuit breaker dan capability gating dari dunia distributed systems:

import time
from collections import deque


class AgentGuard:
    """Gated actions + circuit breaking for an autonomous agent."""

    def __init__(self, flag_threshold=5, window_s=60, cooldown_s=900):
        self.flags = deque()
        self.threshold = flag_threshold
        self.window_s = window_s
        self.cooldown_s = cooldown_s
        self.tripped_until = 0.0

    def allow(self, action: str, risk: str) -> bool:
        if time.time() < self.tripped_until:
            return False                      # circuit open: contained
        if risk == "irreversible":
            return human_signoff(action)      # gated action: needs a monitor
        return True

    def flag(self) -> None:
        now = time.time()
        self.flags.append(now)
        while self.flags and now - self.flags[0] > self.window_s:
            self.flags.popleft()
        if len(self.flags) >= self.threshold:
            self.tripped_until = now + self.cooldown_s
            revoke_credentials()              # containment begins here

Dengan dua puluh baris, anda dapat mainan. Yang membezakan mainan dengan keupayaan containment sebenar ialah segala-galanya di sekelilingnya: siapa semak flag itu, laju mana credential ditarik balik merentas cloud account, siapa boleh luluskan shutdown, dan apa yang dikekalkan untuk post-mortem. Lapisan operasional itulah paperwork yang dapat skor sifar tadi.

Baca sendiri assessment penuh itu — Guidelight merancang assessment berulang, jadi gred hari ini ialah baseline, bukan penghakiman muktamad. Tapi baseline itu sendiri tak selesa: organisasi yang membina AI paling berkemampuan yang pernah wujud buat masa ini cuma mampu tunjuk control separuh siap dan tiada jawapan lengkap untuk soalan "macam mana kalau kita hilang kawalan?" Exercise METR seterusnya dan filing pematuhan SB 53 yang pertama akan tunjuk sama ada keadaan ini berubah.

Berkaitan

• Adakah Security Researcher Akan Mati? Sejarah Kata Tidak — Mesin makan bahagian bawah security stack; manusia naik ke atas, bukan keluar.
• Mengapa Pipeline Tulisan AI Perlu Langkah Semakan Manusia — Hujah untuk kekalkan gate manusia antara output automatik dengan dunia sebenar.
• GPT-5.6 Sol Ultrafast: 14x Lebih Cepat pada 750 Token Sesaat — Model GPT-5.6 Sol yang sama seperti dalam kisah ini, berjalan laju atas Cerebras.

Sumber

• Guidelight AI Standards: AI Control: An Assessment of Frontier Practices
• TechCrunch: Frontier AI labs still won't say how they'd contain a rogue model
• TechCrunch: The AI safety test is becoming a safety risk
• TechCrunch: Anthropic says its own AI models breached three companies during security tests
• OpenAI: The Hugging Face incident and the road ahead
• Anthropic: Investigating incidents in our cybersecurity evals
• U.S. House of Representatives: Reps Lieu and Moran introduce bill to require kill switch for AI systems that can cause catastrophic harm
• Anthropic: Redacted Risk Report August 2026
• METR: METR Frontier Risk Report pilot
• Google: AI Control Roadmap