JEV - Intuisi dan nalar: pertanyaan yang bukan miliknya

Penulis bersama: folkbench.com (Folkbench adalah platform evaluasi dan pemilihan yang dapat ditinjau untuk API AI, layanan model, dan situs terkait. Platform ini memakai informasi layanan yang sudah diterbitkan, harga, ketersediaan, latensi, dan jendela bukti untuk membantu pengguna membandingkan dan memilih jalur.)

Sepuluh tulisan dalam seri ini:

• JEV - Sendi tidak membutuhkan otak
• JEV - Pelumas pada simpul kendali
• JEV - Dari BERT kembali ke satu distribusi
• JEV - Merancang pertanyaan tertutup, bukan mantra
• JEV - Buku anti-token tidak merilisnya lebih dulu
• JEV - Dua demo yang hanya mengembalikan distribusi
• JEV - Keluar dari loop: keyakinan ditulis ke kode
• JEV - Setelah garis, lebih pintar bukan lagi produknya
• JEV - Intuisi dan nalar: pertanyaan yang bukan miliknya
• JEV - Dari layar ke probabilitas semata

Beberapa pertanyaan bukan miliknya. Bukan karena sopan santun. Karena bertanya di lapisan yang salah. Kahneman membelah kognisi menjadi lapisan yang cepat dan lapisan yang lambat. Sendi hanya boleh memikul lapisan yang cepat, dan hanya penilaian yang sudah tertutup. Menyerahkan pikiran yang lambat, alasan yang harus diucapkan kepada seseorang, atau pertanyaan terbuka yang belum dipecah, kepada Jev, berarti meminta sebuah karangan kepada model yang tidak punya mulut.

Lapisan yang cepat dan lapisan yang lambat

System 1 cepat dan murah, dan bertumpu pada pola. System 2 lambat dan mahal, dan memikul deduksi serta pilihan yang hati-hati.

Cabang deterministik dalam perangkat lunak sudah merupakan proyeksi kaku dari pikiran yang lambat: setiap if sudah dituliskan. Setelah model besar tiba, silikon untuk pertama kali punya penilaian cepat yang kuat: asosiasi, nada, rasa terhadap konteks, sesuatu seperti intuisi. Penilaian cepat yang murni juga rapuh. Ia gagal di depan urutan langkah yang rapat, dan tanpa refleksi ia membulatkan kesalahan sampai terdengar utuh.

Maka arsitektur hari ini mengundang kembali lapisan yang lambat: rantai pemikiran, pemeriksaan atas dirinya sendiri, alat, rencana yang panjang. Lapisan yang cepat menangani asosiasi dan niat. Lapisan yang lambat menangani verifikasi dan deduksi banyak langkah. Ini otak yang menghabiskan perhatian mahal hanya untuk pengecualian dan masalah baru. Jika setiap kali meraih cangkir harus membentangkan pertimbangan penuh, maka metabolisme lebih dulu habis.

Yang bukan milik sendi adalah ucapan yang harus dibentangkan.

Bangunkan lapisan lambat ketika intuisi tidak cukup

Penerapan awal mendorong komputasi yang sangat besar menembus setiap detail, dan yang didapat adalah pemakaian token yang tinggi serta latensi yang tinggi. Kepiawaiannya adalah tahu kapan memercayai intuisi yang tertutup, dan kapan menaikkan pertanyaan.

• Perutean biasa, derajat, di dalam batas atau tidak: pertanyaan tertutup.
• Deduksi matematika, kode yang harus dihasilkan, rencana banyak langkah, alasan yang harus dijelaskan kepada seseorang: bangunkan model yang bisa berbicara, dan biarkan ia berjalan lambat.

Saklar ini bukan selera. Bertanya di lapisan yang salah, maka sendi dipaksa menulis kalimat yang tidak dapat ia tulis, atau otak terbuang pada refleks lutut.

Apa yang tidak boleh ditanyakan kepada sendi

Secara konkret, ini:

• Jangan bertanya «apa yang harus kita lakukan selanjutnya» jika Anda belum selesai mendaftar jalan-jalannya. Sel yang tidak ada di Choice tidak diisi.
• Jangan minta ia menulis balasan, ulasan, atau alasan yang harus dibaca seseorang. Mulut itu milik lapisan kecerdasan.
• Jangan minta ia menjadi kalkulator, ekspresi reguler, atau transaksi. Aturan yang tepinya sudah tertulis tidak boleh naik menjadi refleks.
• Jangan mengganti tiga pertanyaan ortogonal dengan satu pertanyaan gabungan. Apakah kupon diterbitkan, apakah diloloskan, apakah tampak seperti penipuan: pecah dulu, baru tanya.
• Jangan lewati pemeriksaan akuntansi dan izin yang seharusnya ada di kode, hanya karena 0.99 kembali. Probabilitas bukan otorisasi.

Pertanyaan yang cocok hampir terlalu pendek untuk tampak seperti permintaan: dalam state ini, pada anak tangga mana niat utama berada; pada anak tangga mana derajat negatif jatuh; apakah kalimat ini keluar dari batas. Penilaian yang orang terlatih bisa buat dalam satu detik adalah pertanyaannya. Pertanyaan yang membutuhkan analisis panjang tidak masuk ke sini secara utuh.

Pikiran tidak dikumpulkan menjadi satu dewa

Membangun satu model yang memiliki setiap lapisan adalah khayalan yang umum pada rentang ini. Rekayasa dan praktik duduk lebih dekat pada kalimat lain: otak milik otak, dan sendi milik sendi.

Otak memahami niat, berbicara kepada seseorang, dan membuat rencana global. Sendi membuat penilaian tertutup, mengarahkan pada konkurensi tinggi, dan menyerahkan kecenderungan kepada kode. Aturan dan eksekusi di bawahnya tetap pasti seperti tulang.

Ujung teknik bukan memakai silikon untuk meratakan lapisan-lapisan ini. Setelah yang cepat dan yang lambat dipisah, terlihat ucapan mana yang dapat diterima intuisi, dan ucapan mana yang membuat sistem mahal pada saat ditanyakan. Tinggalkan apa yang bukan miliknya pada lapisan yang lambat, atau pada seseorang.

Seri

• Sebelumnya: JEV - Setelah garis, lebih pintar bukan lagi produknya
• Berikutnya: JEV - Dari layar ke probabilitas semata