GPT-5.6 Sol Ultrafast: 14x Lebih Cepat pada 750 Token Sesaat

GPT-5.6 Sol Ultrafast: 14x Lebih Cepat pada 750 Token Sesaat

Pada 13 Ogos 2026, OpenAI mengumumkan mod Ultrafast untuk GPT-5.6 Sol — tier inference baharu yang menjalankan model unggulan mereka sehingga 750 output token sesaat atas cip wafer-scale Cerebras. Itu kira-kira 14 kali ganda kelajuan pemprosesan standard.

Yang menarik, OpenAI tidak mendapat kelajuan itu dengan menukar kepada model yang lebih kecil. Tiada versi distilled atau quantized bersembunyi di sebalik nama — Ultrafast ialah GPT-5.6 Sol sepenuhnya yang berjalan atas architecture silikon berbeza. Modelnya sama; hardware yang menjalankannya berubah.

Ini bukan versi distilled atau quantized yang bersembunyi di sebalik nama. Ini GPT-5.6 Sol sepenuhnya yang berjalan atas architecture silikon berbeza. Modelnya sama; hardware yang menjalankannya berubah.

Cerebras WSE-3: Mengapa Cip Ini Berbeza

Kebanyakan inference AI berjalan atas GPU NVIDIA yang dipadankan dengan HBM (high-bandwidth memory). GPU melakukan pengiraan, HBM menyimpan model weights, dan data berulang-alik antara kedua-duanya pada setiap laluan hadapan. Perjalanan ulang-alik ini ialah bottleneck utama dalam inference LLM — bukan soal compute, tetapi memory bandwidth dan kos memindahkan data yang menjadi faktor pengehad.

Cerebras mengambil pendekatan yang jauh berbeza. WSE-3 (Wafer-Scale Engine 3) ialah satu cip tunggal yang sangat besar dengan 900,000 teras dan 44 GB SRAM pada cip. Tiada HBM. Model weights berada terus pada pemproses.

Architecture ini mengubah cara data bergerak semasa inference. Apabila GPT-5.6 Sol menjanakan token, data model weights tidak perlu melalui perjalanan yang sama antara sistem memori luaran dan pemproses. 900,000 teras mengaksesnya terus melalui sambungan dalaman cip. Hasilnya, latency setiap token jauh lebih rendah, yang terkumpul menjadi throughput 750 token/saat yang dihantar Ultrafast.

Untuk konteks, ini ialah deployment frontier-tier awam yang pertama pada hardware Cerebras — GPT-5.6 Sol sepenuhnya, bukan model yang lebih kecil — menurut pengumuman pelancaran OpenAI/Cerebras. Cerebras mengendalikan tier Ultrafast. NVIDIA mengendalikan pemprosesan standard dan pantas. Model yang sama, silikon berbeza.

Perkongsian ini sudah berjalan selama beberapa bulan. Pada awal 2026, kedua-dua syarikat memeterai perjanjian yang dilaporkan bernilai lebih $10 bilion (terma tidak didedahkan), dan Ultrafast ialah produk utama pertama yang lahir daripada perkongsian tersebut.

Rupa API dari Sudut Pandang Developer

Tier Ultrafast dipaparkan sebagai perubahan parameter ringkas. Service tier dihantar melalui parameter service_tier yang didokumenkan (dok Fast mode); contoh Ultrafast di bawah ialah ilustrasi — akses masih limited preview tanpa request-param awam yang didokumenkan. Begini perbandingan tiga tier kelajuan:

import openai

client = openai.OpenAI()

# Pemprosesan standard — lalai
response = client.chat.completions.create(
    model="gpt-5.6-sol",
    messages=[{"role": "user", "content": "Analyze this incident log"}],
)

# Mod Fast — sehingga 2.5x lebih pantas, ~2x harga
response = client.chat.completions.create(
    model="gpt-5.6-sol",
    service_tier="fast",
    messages=[{"role": "user", "content": "Analyze this incident log"}],
)

# Ultrafast — sehingga 14x lebih pantas, dikuasakan Cerebras (limited preview; nilai tier ilustrasi)
response = client.chat.completions.create(
    model="gpt-5.6-sol",
    service_tier="ultrafast",  # ilustrasi
    messages=[{"role": "user", "content": "Analyze this incident log"}],
)

Kod aplikasinya tetap sama — tiada model berasingan untuk diintegrasi dan tiada SDK baharu untuk dipelajari. Penghalaan berlaku di pihak OpenAI. Satu-satunya perbezaan ialah kelajuan dan kos.

OpenAI mengesahkan prestasi dunia sebenar Ultrafast melalui benchmark Humanity's Last Exam mereka sendiri — 2,500 soalan yang direka untuk menguji model unggulan sehingga had. Larian rujukan Claude Fable 5 — model pesaing Anthropic, bukan tier Standard OpenAI — mengambil lebih tiga hari compute berterusan (~78 jam) untuk melengkapkan keseluruhan set. Ultrafast selesai dalam lebih sedikit 11 jam. Itu pecutan hujung-ke-hujung sebanyak 7x atas benchmark yang menuntut reasoning sebenar, bukan sekadar penjanaan token pantas.

Pada GDP-Val, benchmark yang mengukur tugasan kerja pengetahuan seperti analisis dan sintesis dokumen, Ultrafast mencapai pecutan hujung-ke-hujung sebanyak 5.6x. Ini bukan nombor throughput sintetik — ia mencerminkan masa sebenar pengguna menunggu output yang berguna.

Di Mana 750 Token/Saat Mengubah Apa yang Anda Boleh Bina

Pada 750 token sesaat, respons 500 token mengambil masa kurang daripada satu saat. Respons 1,000 token — semakan kod terperinci, analisis insiden menyeluruh, ringkasan pasaran berstruktur — tiba dalam lebih kurang 1.3 saat. Paras kelajuan ini membuka use case yang sebelum ini tidak praktikal atau mustahil dengan model unggulan.

AI suara masa nyata. Antara muka suara sangat sensitif terhadap response latency. Jeda 3 saat antara soalan pengguna dan jawapan model memecahkan aliran perbualan. Ultrafast membawa GPT-5.6 Sol ke julat di mana interaksi suara semula jadi menjadi praktikal dengan model unggulan, bukan alternatif yang lebih kecil.

Agentic workflows. Agent boleh membuat berpuluh-puluh atau ratusan panggilan LLM untuk satu tugasan. Setiap panggilan menambah latency. Apabila anda mengatur pipeline penyelidikan kompleks atau menjalankan rantaian tool calling yang berulang melalui perancangan, pelaksanaan, dan pengesahan, pecutan 14x setiap panggilan bergabung menjadi masa tugasan keseluruhan yang jauh lebih pendek.

Penyelidikan dan analisis kewangan. Penganalisis yang menjalankan beberapa iteration analisis pasaran, sintesis pendapatan, atau pengurusan risiko tidak lagi perlu menghantar batch job dan menunggu berjam-jam — mereka boleh terus meneroka hasil sementara konteksnya masih segar: bertanya soalan lanjut, menguji hipotesis, mengalih analisis.

Sokongan pelanggan. Dalam aplikasi yang responsnya dinilai pengguna, Ultrafast membawa kecerdasan unggulan ke julat bawah saat. Perbezaan antara jawapan 3 saat dan 0.5 saat dalam sembang sokongan bukan sekadar persepsi — ia mengubah aliran perbualan.

Pembantu pengekodan. Cadangan pelengkap kod dan refactoring mendapat manfaat daripada kelajuan ini, terutama dalam persekitaran penyuntingan interaktif di mana developer menunggu respons model sebelum mengambil langkah seterusnya.

Respons insiden. Apabila sistem production mengalami gangguan, setiap saat penting. Pasukan kejuruteraan OpenAI sendiri menggunakan Ultrafast untuk membaca log, menganalisis trace, dan mensintesis penemuan semasa gangguan. Masa daripada pemerhatian isyarat kepada cadangan hipotesis menurun daripada minit kepada saat.

Harga dan Ketersediaan

OpenAI belum menerbitkan harga Ultrafast. GPT-5.6 Sol standard berharga $5 bagi setiap juta token input dan $30 bagi setiap juta token output. Mod Fast berharga kira-kira dua kali ganda itu. Ultrafast, yang berjalan pada hardware wafer-scale khusus dan bukan infrastruktur komoditi, berkemungkinan membawa premium.

Akses kini terhad kepada sekumpulan pelanggan API terpilih. OpenAI menggambarkan ini sebagai kekangan kapasiti — cip wafer-scale Cerebras ialah hardware yang jarang, dan kapasiti sedia ada terhad. Syarikat itu berkata ia akan mengembangkan akses apabila lebih banyak infrastruktur Cerebras tersedia.

Belum ada antara muka untuk pengguna. Tiada togol ChatGPT, tiada pelanjutan pelayar. Ultrafast hanya wujud di dalam API OpenAI, menyasarkan developer yang membina aplikasi production di mana latency penting.

Apa yang Ini Isyaratkan untuk Pasaran Inference

Cerita yang lebih mendalam di sini bukan sekadar tentang kelajuan. Ia tentang pemisahan model daripada hardware tertentu. GPT-5.6 Sol berjalan sama sahaja pada GPU NVIDIA dan wafer Cerebras. Weights sama. Kecerdasan sama. Yang berubah ialah serving infrastructure.

Ini penting kerana ia membuka jalan ke pasaran inference yang lebih kompetitif. Jika model unggulan boleh berjalan pada pelbagai hardware architecture, vendor bersaing atas kelajuan, kos, dan ketersediaan — bukan sekadar siapa yang boleh membina GPU cluster terbesar. Cerebras ialah alternatif pertama yang membuktikan ini pada skala OpenAI, tetapi ia bukan yang terakhir.

Bagi developer yang membina aplikasi AI, pengambilannya mudah. Pilihan model penting, tetapi serving infrastructure juga penting. Latency dan throughput bukan sekadar fungsi saiz model — ia fungsi hardware architecture. Ultrafast menjadikan pertukaran ini eksplisit, dan ia memberi pasukan pilihan sebenar apabila pemprosesan standard terlalu perlahan untuk use case mereka.

Jika anda menilai infrastruktur AI untuk sistem production, Ultrafast berbaloi diuji bagi mana-mana workflow di mana masa respons memberi kesan langsung kepada pengalaman pengguna atau kecekapan operasi. Modelnya sama. Hardware tidak. Dalam production application, perbezaan itu sama pentingnya dengan model itu sendiri.

Sumber

• OpenAI: Previewing Ultrafast mode: GPT-5.6 Sol at up to 14X the speed
• Cerebras: Accelerating GPT-5.6 Sol Ultrafast with OpenAI
• Cerebras: How Cerebras serves GPT-5.6 Sol at up to 750 tokens per second
• Cerebras: Cerebras Systems Unveils Wafer Scale Engine 3
• OpenAI API docs: Fast mode
• OpenAI: GPT-5.6: Frontier intelligence that scales with your ambition
• TechCrunch: OpenAI signs deal, reportedly worth $10B, for compute from Cerebras