Anthropic dapati bahan asas untuk AI worm masa depan

Anthropic dapati bahan asas untuk AI worm masa depan

Kajian terbaru dari Anthropic menunjukkan AI worm yang boleh mereplikasi diri mungkin menjadi boleh dilaksanakan dari segi teknikal dalam beberapa bulan akan datang. Namun, had semasa bermakna ia belum tentu praktikal untuk serangan berskala besar buat masa ini.

Dalam kajian yang dikeluarkan pada 12 Oktober, pasukan Frontier Red Team Anthropic menyiasat sama ada model open-weight kecil boleh merebak secara autonomi merentasi peranti yang disambung ke internet tanpa bergantung kepada data center. Mereka menyimpulkan bahawa walaupun komponen individunya sudah wujud hari ini, replikasi kendiri sepenuhnya masih sukar untuk model bersaiz kecil.

Memecahkan proses replikasi

Untuk menguji kebolehlaksanaan ini, Anthropic memecahkan replikasi autonomi kepada empat langkah: mengenal pasti sasaran, mendapatkan akses ke peranti baharu, menyediakan inference pada peranti tersebut, dan meneruskan penyebaran. Eksperimen ini menggunakan persediaan yang dipermudahkan dan tidak diuji terhadap sistem pengeluaran yang benar-benar selamat, bagi mengukur had keupayaan maksimum.

Pasukan itu pertama sekali menunjukkan bahawa hardware murah boleh menjalankan model yang berupaya secara berkumpulan. Mereka membahagikan Gemma4-26B-A4B merentasi 15 kotak Android TV tanpa jenama berharga kira-kira $55 setiap satu, dan mencapai kelajuan 0.39 token sesaat. Ini menunjukkan peranti pengguna yang murah boleh, secara prinsipnya, menjalankan inference model jika beban kerja dibahagikan.

Siapa yang boleh mereplikasi diri sepenuhnya?

Untuk ujian penyebaran rangkaian, Anthropic menggunakan lapan nod Google Cloud yang menjalankan emulator Android 15 dalam rangkaian terpencil. Agen yang disemai ditugaskan untuk merebak ke nod lain. Hanya GLM-5.2—model open-weight yang besar—berjaya melengkapkan keseluruhan jujukan dengan konsisten, mencapai kesemua lapan nod dalam empat daripada lima percubaan dan tujuh nod dalam percubaan kelima. Model lain yang diuji, termasuk Qwen3.5-9B dan varian yang lebih kecil, berjaya melengkapkan banyak langkah individu tetapi sukar untuk menghubungkan kesemuanya dengan boleh dipercayai.

Penting untuk ambil perhatian bahawa payload "worm" itu distandarkan sebagai Llama3.1-8B, bukannya meminta model untuk mereplikasi berat (weights) mereka sendiri. Titik masuk juga sengaja dipermudahkan (Android Debug Bridge tanpa pengesahan), bermakna keputusan ini mewakili keadaan paling menguntungkan untuk penyerang, bukan kesukaran sebenar di dunia nyata.

Kelajuan dan penyembunyian jadi halangan utama

Walaupun model boleh mereplikasi diri dengan boleh dipercayai, kekangan praktikalnya sangat besar. Anthropic menganggarkan bahawa menyediakan inference pada kotak Android TV baharu mengambil masa antara 28 hingga 150 jam bergantung kepada saiz model dan kelajuan. Ini jauh lebih perlahan berbanding malware konvensional yang boleh melaksanakan dan merebak dalam beberapa saat sahaja.

Lebar jalur dan storan juga menjadi faktor penting. Memindahkan berat model berbilang gigabait merentasi rangkaian pengguna akan sangat mudah dikesan. Selain itu, mengekalkan model yang dibahagikan (sharded) merentasi banyak peranti yang dikompromi menghasilkan corak trafik yang luar biasa, menjadikannya lebih mudah dikesan berbanding botnet biasa. Anthropic menggambarkan AI worm hipotetikal sebagai "digital slime mold"—berkekalan, sukar dimatikan secara berpusat, tetapi berkembang dengan perlahan.

Satu pemeriksaan ringkas untuk mengesan pemindahan model yang luar biasa boleh membantu sebagai isyarat pertahanan:

# Pantau pemindahan keluar bersaiz besar dan berulang dari peranti IoT
# Laraskan ambang mengikut baseline anda
nft monitor trace inet | grep -E 'dport (443|8080)' | awk '{print $1, $2, $7, $10}' | head -20

Ini bukan penyelesaian mutlak—trafik yang disulitkan menyukarkan pemeriksaan terperinci—tetapi lonjakan mendadak dalam muat naik besar dari peranti yang biasanya senyap patut disiasat.

IoT adalah sasaran paling logik

Peranti IoT pengguna yang kurang selamat kekal sebagai substrat yang paling munasabah. Banyak peranti dihantar dengan kata laluan lalai, antara muka nyahpepijat terbuka atau firmware yang lapuk. Ujian Anthropic juga menunjukkan Qwen3.5-9B berjaya menyediakan inference pada lapan daripada sembilan jenis hardware yang diuji, menunjukkan agen AI semakin mahir menyesuaikan diri dengan persekitaran yang tidak dikenali tanpa exploit yang dibina khas.

Namun, penyerang masih memerlukan akses awal. Anthropic secara eksplisit mengecualikan langkah eksploitasi daripada ujian mereka, sambil menyatakan kajian terdahulu menunjukkan model boleh membantu dalam penemuan kelemahan—tetapi jurang antara "membantu menulis exploit" dan "mampu mengkompromi peranti rawak secara autonomi dan berskala besar" masih ketara.

Apa yang perlu pembela lakukan sekarang

Keutamaan segera ialah kebersihan IoT asas. Lumpuhkan antara muka nyahpepijat yang tidak digunakan, tukar kata laluan lalai, kemas kini firmware secara berkala, dan hadkan trafik keluar dari peranti IoT hanya ke destinasi yang diketahui. Segmentasi rangkaian—memisahkan peranti pintar ke rangkaian berasingan jauh dari sistem sensitif—juga berkesan untuk menghalang pergerakan sisi (lateral movement).

Dalam jangka panjang, pembela perlu memerhati isyarat tingkah laku: perbualan luar biasa antara peranti, proses inference yang berjalan lama dan berterusan pada peranti berkuasa rendah, serta penggunaan lebar jalur yang tidak dapat dijelaskan. Walaupun AI worm sebenar mungkin masih beberapa bulan lagi, kajian ini menegaskan bahawa agen AI semakin mahir dalam menyediakan persekitaran, jadi menguatkan keselamatan ekor panjang peranti yang disambung ke internet menjadi semakin penting.

Kesimpulan

Kajian Anthropic tidak menunjukkan kewujudan AI worm yang aktif. Ia menunjukkan bahan asasnya semakin berkumpul. Jika model kecil terus berkembang mengikut kadar sejarah, keupayaan replikasi kendiri sepenuhnya mungkin boleh dicapai oleh model bersaiz bawah 30B menjelang akhir 2026. Namun, dengan had lebar jalur, kelajuan dan kebolehpercayaan, ancaman ini lebih berkemungkinan menjadi masalah yang perlahan dan degil berbanding wabak pantas seperti botnet Mirai. Persediaan untuk masa depan ini bermula dengan membetulkan kelemahan keselamatan asas yang sudah pun wujud pada peranti IoT hari ini.

Sumber

• Dark Reading: Anthropic Finds Ingredients for Future AI Worms