Kenapa Pipeline Penulisan AI Perlu Langkah Semakan Manusia

Kenapa Pipeline Penulisan AI Perlu Langkah Semakan Manusia

Saya pernah lihat demo pipeline blog yang hampir semuanya berjalan automatik. Buka dashboard, tekan satu butang, dan tidak lama kemudian dokumen pun siap — lengkap dengan outline, draf, metadata SEO dan kandungan yang nampak bersedia untuk diterbitkan.

Pada pandangan pertama, memang mengagumkan.

Masalahnya bermula apabila kita fikir tentang apa yang berlaku jika tiada siapa membaca kandungan itu sebelum ia diterbitkan.

Model bahasa boleh menghasilkan ayat yang kemas walaupun fakta di dalamnya salah. Ia boleh memberikan contoh kod yang nampak masuk akal tetapi sebenarnya tidak berfungsi. Ia juga boleh mencampurkan maklumat lama dengan maklumat baharu tanpa memberitahu pembaca bahawa konteksnya sudah berubah.

Kalau pipeline seperti ini terus disambungkan ke laman web live, kesilapan akan terus sampai kepada pembaca.

Sebab tu saya tidak menganggap semakan manusia sebagai langkah tambahan yang membazirkan masa. Untuk kandungan yang dijana AI, ia adalah bahagian penting dalam proses penerbitan.

Daya Tarikan Automasi Penuh

Memang mudah untuk memahami kenapa orang tertarik dengan automasi penuh.

Tools AI sekarang semakin baik dalam menghasilkan draf. Model yang bagus boleh menghasilkan artikel teknikal dalam beberapa minit, lengkap dengan heading, contoh kod dan struktur yang nampak kemas.

Untuk operasi kandungan berskala besar, perbezaannya memang ketara. Anda boleh menghasilkan lebih banyak artikel, mencuba lebih banyak topik dan mengurangkan kerja berulang yang sebelum ini terpaksa dilakukan oleh penulis.

Jadi, langkah seterusnya nampak mudah: sambungkan semuanya menjadi satu pipeline. Masukkan prompt, jana artikel, kemas kandungan, terus publish.

Tools seperti Zapier dan Make boleh sambungkan satu servis dengan servis yang lain. Sistem CMS pula boleh menerima kandungan melalui API dan menerbitkannya secara automatik.

Dari sudut teknikal, semuanya boleh dibuat.

Persoalannya ialah sama ada kita patut melakukannya tanpa pemeriksaan manusia.

Satu artikel mungkin kelihatan sempurna pada skrin, tetapi satu fakta yang salah atau contoh kod yang rosak sudah cukup untuk membuat artikel itu bermasalah.

Apa Yang Berlaku Apabila Tiada Siapa Memantau

Masalahnya bukan kerana AI "bodoh".

Model bahasa memang direka untuk menghasilkan teks yang sesuai berdasarkan konteks yang diberikan. Ia bukan sistem yang secara automatik mengetahui sama ada setiap fakta yang ditulisnya benar.

Sebab itu ada dua jenis masalah yang sering muncul.

Yang pertama ialah halusinasi. Model boleh menghasilkan fakta yang sebenarnya tidak wujud tetapi menyampaikannya dengan yakin. Ia mungkin mencipta nama kajian, nombor statistik, nama pengarang atau sumber yang tidak pernah diterbitkan.

Seorang rakan penulis pernah memberitahu saya tentang artikel yang dihasilkan AI dan mengandungi rujukan kepada kertas penyelidikan yang sebenarnya tidak wujud. Rujukan itu kelihatan sangat meyakinkan — ada nama pengarang, jurnal dan tahun penerbitan.

Pembaca yang tidak menyemak sumber asal mungkin tidak akan menyedarinya.

Masalah kedua ialah ralat teknikal.

Apabila diminta menghasilkan kod, AI mungkin beri kod yang nampak betul dari segi sintaks tetapi masih ada masalah. Mungkin import yang tertinggal, flag yang sudah deprecated, penggunaan API yang sudah berubah, atau keadaan tertentu yang menghasilkan race condition.

Masalah seperti ini lebih susah dikesan kerana kod itu nampak kemas.

Dan apabila pembaca menyalin kod itu daripada artikel anda, masalah itu akhirnya menjadi masalah mereka — dan secara tidak langsung menjadi masalah kepada anda juga.

Yang lebih bahaya, kesilapan macam ini boleh menjejaskan kredibiliti anda. Pembaca tidak melihat model AI yang menghasilkan artikel itu. Mereka melihat laman web anda — dan itulah sebab pendedahan bukti mengalahkan label authorship: tunjukkan surihan, bukan sekadar lencana.

Bagi pembaca, maklumat yang salah itu datang daripada anda.

Pintu Semakan: Polisi Insurans Yang Murah

Penyelesaiannya bukan dengan berhenti menggunakan AI.

Letakkan satu langkah semakan manusia antara draf dan publish.

AI boleh melakukan kerja menghasilkan draf, menyusun maklumat dan membuat perubahan awal. Selepas itu, seseorang perlu membaca hasilnya sebelum ia sampai kepada pembaca.

Penyemak tidak semestinya perlu menulis semula keseluruhan artikel. Selalunya tugasan lebih mudah: semak fakta penting, periksa sumber, uji contoh kod dan pastikan artikel itu memang masuk akal.

Bagi artikel yang pendek, proses ini mungkin hanya mengambil beberapa minit.

Masa itu jauh lebih murah berbanding menerbitkan artikel yang mengandungi maklumat palsu, kemudian perlu membetulkannya selepas pembaca menemui kesilapan.

Langkah semakan ini boleh memberi tumpuan kepada tiga perkara utama:

1. Semak fakta khusus seperti statistik, sitasi, nama produk dan versi software.
2. Jalankan atau periksa contoh kod yang disertakan dalam artikel.
3. Pastikan kandungan tidak terlalu generik dan masih sesuai dengan identiti serta standard penerbitan laman tersebut.

Pipeline moden boleh kelihatan seperti ini:

def publish_with_review(generated_draft):
    # Stage 1: Automated checks (fast, wide)
    run_linter_and_fact_checks(generated_draft)
    
    # Stage 2: Human gate (slow, deep)
    status = request_review_approval(generated_draft)
    if status == "rejected":
        log_issue(generated_draft.id)
        regenerate_with_feedback(status.comments)
        return publish_with_review(generated_draft)
    
    # Stage 3: Ship
    return deploy_to_cms(generated_draft)

Perhatikan bahawa proses tersebut tidak menjadi sepenuhnya manual.

Jika penyemak menolak draf, maklum balas boleh dihantar semula kepada model untuk menghasilkan versi baharu. Selepas itu, draf itu masuk semula ke proses semakan.

AI masih melakukan sebahagian besar kerja.

Manusia cuma memegang keputusan terakhir sebelum kandungan diterbitkan.

Kekal Laju Tanpa Mengorbankan Pertimbangan

Ada yang mungkin berpendapat bahawa semakan manusia akan menghilangkan kelebihan automasi.

Sebenarnya tidak semestinya begitu.

Bahagian yang paling sesuai untuk diautomatikkan ialah kerja menghasilkan kandungan dan pemeriksaan awal. Bahagian yang memerlukan pertimbangan pula boleh diberikan kepada manusia.

Jika jumlah artikel terlalu banyak, anda boleh memperbaiki proses semakan tanpa menghapuskan semakan itu sendiri.

Contohnya, paparkan diff preview supaya penyemak boleh melihat perubahan dengan cepat. Tandakan dakwaan yang memerlukan pengesahan. Jalankan pemeriksaan automatik lebih awal supaya manusia tidak perlu menyemak perkara yang boleh diselesaikan oleh sistem.

Artikel juga boleh disusun mengikut tahap risiko.

Artikel mengenai berita teknologi yang berubah dengan cepat mungkin memerlukan pemeriksaan lebih teliti. Artikel yang hanya menerangkan konsep asas mungkin memerlukan pemeriksaan yang lebih ringan.

Dengan cara ini, manusia tidak perlu menjadi bottleneck dalam keseluruhan pipeline.

Mereka hanya perlu campur tangan apabila keputusan manusia memang diperlukan.

AI boleh menjana draf dengan cepat. Sistem automatik boleh menjalankan pemeriksaan awal. Manusia pula memastikan hasil akhirnya masuk akal sebelum diterbitkan.

Itulah keseimbangan yang lebih masuk akal untuk pipeline penulisan AI.

Automasi boleh mengambil alih kerja yang berulang. Tetapi untuk kandungan yang membawa nama dan reputasi kita, keputusan terakhir masih patut dibuat oleh manusia. Naluri sama berada di tengah panduan institusi — AI Risk Management Framework NIST meletakkan akauntabiliti manusia, melalui fungsi Govern, di sekeliling sistem AI yang digunakan.

Sumber

• NIST: AI Risk Management Framework