Judul asli: Pajak Organisasi

Asal kata:Addy Osmani

Foto oleh Peggy

Editor: Sebagai Agen AI menjadi lebih murah dan lebih mudah diakses, pengembangan perangkat lunak memasuki fase baru: Pertanyaannya bukan lagi apakah Agent bisa diaktifkan, tetapi apakah manusia memiliki cukup perhatian untuk mengelola, mengadili dan mengkonsolidasikan output mereka。

Artikel ini menyajikan konsep yang menggugah — ” pajak formulasi ”. Biaya dari Agen starting sangat rendah, dan hanya sebuah Prompt atau klik; tetapi yang benar-benar mahal adalah tindak lanjut: memeriksa apakah hasilnya benar, memahami dampaknya pada arsitektur sistem, berurusan dengan konflik antara Agen yang berbeda, dan akhirnya memutuskan kode mana yang dapat memasuki cabang utama. Upaya-upaya ini tidak dapat dikurangi menjadi paralel sederhana, tetapi mereka masih harus kembali ke sumber serial yang sama: penilaian manusia。

Penulisnya membandingkan pengembang dengan ØGIL" dalam sistem AI Agen, kunci satu arah yang membatasi throughput akhir dari sistem co-produksi. Agen Multipen Dapat Berganda dapat beroperasi secara simultan, tetapi selama mereka memasuki tahap penilaian arsitektur, review kode dan konsolidasi konflik, mereka harus direkayasa kembali oleh otak developer ' s. Akibatnya, semakin besar jumlah Agen, semakin tinggi keluaran, semakin panjang tugas yang akan ditinjau, semakin sering konteks beralih dan kelelahan kognitif bagi pengembang。

Ini juga merupakan titik yang mudah diabaikan dalam gelombang alat pemrograman AI saat ini: efisiensi dan produktivitas nyata tidak selalu sama. Agen dashboard layar penuh menciptakan ilusi dari \"high-yielding\"; tetapi jika pengembang tidak benar-benar mengerti, meninjau dan mengkonsolidasi perubahan ini, sistem akhirnya mungkin menumpuk bukan dalam produktivitas, tetapi dalam utang teknis dan kognitif。

Jadi diskusi yang sebenarnya di sini tidak "bagaimana menggunakan lebih banyak Agen" tetapi "bagaimana merancang ulang alur kerja di sekitar perhatian orang." Pada Zaman Agen, kemampuan kunci tidak hanya mengajukan pertanyaan, menetapkan tugas, tetapi mengetahui tugas mana yang dapat ditinggalkan ke mesin secara paralel, dan tugas mana yang harus diserahkan kepada penilaian manusia; ketika ulasan harus dibuat dan kapan harus dihentikan dan difokuskan kembali pada masalah inti。

AIA memperluas kapasitas co-produksinya, tetapi perhatian manusia tetap sumber daya yang paling langka dan tidak dapat diperbaiki dalam sistem. Zair kerja Agen yang benar-benar matang, daripada melemparkan semua tugasnya ke mesin, dengan cermat merancang struktur perhatian sendiri seperti sistem produksi desain。

Berikut ini adalah teks asli:

Sekarang, mulai lebih banyak Agen AI telah menjadi mudah. Tapi lebih banyak Agen berjalan pada saat yang sama, yang tidak berarti bahwa Anda telah berubah. Kelebaran kognitif Anda tidak dapat diselaraskan. Semua penilaian yang benar-benar membimbing mereka, menilai hasil mereka, menggabungkan modifikasi mereka, pada akhirnya masih harus melewati prosesor serial yang sama — yaitu, diri sendiri。

Dasarnya adalah harga yang kau bayar saat kau melupakannya. Dan satu-satunya solusi yang nyata adalah mulai merancang perhatianmu sendiri, seperti sistem kogenerasi lainnya。

Saya berpartisipasi dalam diskusi round-table di Google I/O dengan Richard Seroter, Aja Hammerly, Ciera Jaspan tentang bagaimana perangkat lunak bekerja sekarang terlihat dan bagaimana mungkin berkembang. Ke arah akhir, Richard bertanya kepada kami, "Apa hal yang paling penting untuk diambil dan berubah setelah pengembang telah mendengar?"

Saya mengatakan satu hal yang telah terjadi selama beberapa bulan terakhir: merasa sibuk tidak pernah sama dengan memiliki output nyata. Anda dapat menjalankan 20 Agen sekaligus dan merasa sibuk. Tapi itu bukan berarti kau telah mengirimkan 20 beban kerja yang berhubungan dengan Agen。

Sebelumnya dalam percakapan itu, Richard memberi nama pertanyaan ini. Berkatalah ia: \"Apa yang kamu bicarakan itu, ialah menetapkan pajak\". Kau tak bisa mengatur 20 Agen di kepalamu

Dia benar. Saya ingin mengambil konsep ini lebih sepenuhnya terpisah, karena itu bukan masalah regulasi diri, tetapi arsitektur。

Ada sebuah frase dalam tabel bulat yang hampir saya katakan, dan itu selalu dalam pikiran saya: menjalankan beberapa Agen tidak berarti ada satu lagi Anda di dunia。

Orang-orang tidak menghitung asimetris

Ada asimetris tersembunyi dalam aliran kerja Agen。

Mulailah dengan agen murahan. Anda hanya perlu mengetuk keyboard atau menulis Prompt. Tapi itu tidak murah untuk menyelesaikan cincin Agen. Ia harus diperiksa jika ia kembali dengan benar dan mengkoordinasikannya dengan perubahan Agen lain。

Orang ini adalah kau. Dan kau hanya punya satu。

Bulan lalu, saya menulis sebagian dari masalah ini dalam batas Agent Yang Selari Anda, berfokus pada jenis kekhawatiran lingkungan bahwa Anda tidak tahu benang paralel mana yang secara diam-diam gagal. Artikel ini mengenai struktur di balik biaya ini。

Dan ketika Anda mulai melihat Agen sebagai sistem kogenerasi, Anda menyadari bahwa manusia hanyalah komponen dari sistem. komponen serial lambat。

Kau sumber satu arah

Jika Anda telah menulis kode simultan, Anda memiliki insting untuk memahaminya. Hanya saja kau menggunakan insting itu di tempat yang salah。

Python memiliki kunci penterjemah global, yaitu GIL. Anda dapat membuat beberapa benang, tetapi pada saat yang sama hanya ada satu thread untuk mengeksekusi Python bytes karena mereka harus mendapatkan kunci ini terlebih dahulu。

Kau agen AI Gil。

Mereka semua bisa berjalan bersamaan. Tetapi selama pekerjaan mereka membutuhkan pemahaman yang tulus tentang arsitektur sistem atau resolusi konflik konsolidasi, kunci harus diambil. Dan hanya ada satu kunci yang tersisa darimu。

Hukum Amdal membuat masalah ini sangat tepat: kap percepatan yang dihasilkan dari paralelisasi tergantung pada bagian dari pekerjaan yang masih harus dilakukan secara tandem. Jika ada banyak hal yang tidak bisa kau lakukan secara paralel, tidak peduli seberapa banyak kau dimasukkan ke dalam inti, kau akan berakhir dengan langit-langit keras。

Dalam perkembangan Agen, bagian serial ini adalah penilaian。

Mulai 8 Agen tidak mempercepat waktu penilaianmu. Ini hanya akan membuat antrian menunggu Anda lebih lama。

Ini adalah fakta lama dalam rekayasa kinerja, tetapi banyak orang masih terkejut bahwa hal ini mengoptimalkan non-bottleneck dan tidak meningkat secara keseluruhan throughput. Anda hanya menumpuk lebih pekerjaan yang belum selesai di depan orang aneh。

Agen Penambahan untuk optimisasi adalah bagian yang tidak terikat olehnya. Kekangan nyata adalah link ulasan, dan throughput sistem adalah jumlah yang sama dari throughput。

Pajak pajak adalah kesenjangan struktural antara kapasitas produktif Agen dan apa yang Anda dapat benar-benar bergabung. Itu terjadi ketika Anda mendapatkan sumber satu arah untuk mengelola sistem kogenerasi。

Ini tidak akan memecahkan struktur langit-langit

Dan di atas meja itu saya berkata: Saya tidak pernah merasa begitu efisien dalam sarana saya, tapi saya tidak pernah begitu lelah。

Kedua perasaan itu benar-benar nyata dan mereka berasal dari alasan yang sama。

Ada sumber yang sangat spesifik dari kelelahan ini: itu adalah perasaan terus menekan prosesor serial hingga 100%, tanpa memberikan waktu tambahan。

Setiap kali Anda melihat kembali Agen yang keluar dari pikiran Anda, Anda membayar untuk saklar konteks. Kau harus membersihkan otakmu dan mengisi ulang bahasa lain dari awal。

CPU OLIVIER DAPAT MELAKUKAN HAL INI DALAM MIKRODETIK, MESKIPUN DEMIKIAN ARSITEK AKAN MENCOBA UNTUK MENGHINDARI PERGANTIAN YANG SERING. DAN ITU AKAN MEMBAWA ANDA BEBERAPA MENIT UNTUK MENYELESAIKAN, DAN ANDA TIDAK AKAN PERNAH DAPAT MENYEMPURNAKAN KONTEKS。

Agen 5 bukan dua kali lipat beban kerja lima kali. Ini adalah lima-waktu dingin-dimulai konteks reload, ditambah proses otak yang terus di belakang panggung, dan Anda terus khawatir tentang yang Agen Anda harus memeriksa sekarang。

Kau tidak bisa menyelesaikan kekangan struktural dengan " lebih berusaha". Pajak pajak ini selalu dibayar。

Jika Anda mencoba untuk mendorongnya, itu akan berakhir dalam bentuk lain: baik kode menjadi lebih dangkal, atau Anda memasuki keadaan "mengakui menyerah" -- karena pembentukan penilaian Anda sendiri begitu membosankan sehingga Anda hanya menerima kode yang ditulis oleh Agen。

Entah Anda membayar pajak atas inisiatif sendiri atau membiarkannya perlahan menghancurkan pemahaman Anda tentang sistem Anda dalam gelap。

Reka perhatianmu seperti sistem desain

Jadi, kau harus menganggap perhatianmu sebagai sumber daya kolusi yang langka。

Kau tidak akan melihat kebobrokan saat kau merancang sistem distribusi. Nah, memberikan otak Anda rasa hormat yang sama。

Berikut adalah beberapa metode yang benar-benar bekerja untuk saya:

Perluas tim Agen sesuai dengan kemampuan akses, tidak sesuai dengan kemampuan UI。

Sistem kogenerasi yang bagus menggunakan mekanisme kontra-tekanan untuk menghindari pertumbuhan antrian tanpa akhir. Produsen perlu melambat agar sesuai dengan kapasitas konsumen。

Nomor Agenmu adalah produser, kemampuanmu adalah konsumen. Nomor yang benar dari Agen paralel harus nomor Anda dapat benar-benar menyelesaikan review kode. Bagi kebanyakan orang, angka ini biasanya sangat rendah。

Alat AI tentu akan senang untuk membuat Anda memulai 20 Agen, tapi itu hanya fungsi UI, bukan untuk mengatakan Anda benar-benar memiliki kemampuan untuk mengelola mereka。

Klasifikasi tugas。

Ketika Richard bertanya bagaimana menangani ini, aku menyebutkan itu. Aku akan membagi misi menjadi dua tumpukan。

Pertama adalah pekerjaan yang relatif independen, dan aku bersedia menyerahkannya kepada Agen, yang berjalan di belakang awan. Tugas-tugas ini dapat dilaksanakan secara berbeda, biasanya hanya sekali di gerbang terakhir。

yang kedua adalah tugas yang rumit, dan pekerjaan yang sebenarnya adalah penilaian. seperti bug aneh, atau desain arsitektur。

Kesalahan terbesar adalah mencoba untuk paralel kategori kedua tugas. Menangani berbagai tugas kompleks dalam paralel tidak akan memperluas output Anda, tetapi hanya akan memungkinkan kunci untuk diperebutkan berulang-ulang, dan akhirnya semua hasil akan memburuk。

review ugd。

Setiap konteks switch akan biaya banyak. Hasil dari duduk sekali dan untuk semua jauh lebih murah daripada melihat satu, melakukan sesuatu yang lain, mulai dingin dan menonton yang lain。

Berikan Agen tali yang lebih panjang. Biarkan pekerjaan menumpuk sedikit dan kemudian menganggapnya sebagai kelompok。

Hanya gunakan kunci ini untuk penilaian。

Jangan sia-siakan otakmu pada sesuatu yang bisa dibuktikan oleh mesin itu sendiri. Annagone Biarkan Agen menulis tes yang lulus, atau menghasilkan screenshot。

Biarkan mereka membuktikan diri bahwa 80% dari bagian kering tapi dapat diverifikasi. Jadi, perhatianmu hanya perlu dihabiskan untuk 20 persen dari apa yang benar-benar membutuhkan penilaian manusia。

Lindungi waktu serialmu。

Botlenecks mengambil waktu terbaik Anda, bukan sisa puing antara beberapa Agen cek。

Kadang-kadang, langkah yang paling kuat adalah mematikannya sepenuhnya: mematikan komputer yang diisi dengan Agen, untuk fokus pada satu masalah dan untuk memegang kunci tegas sepanjang proses。

Organisasi tidak benar-benar pekerjaan. Ini hanya biaya sekitar pekerjaan。

Anda perlu tahu apa yang benar untuk Agen dan apa yang terlalu besar untuk itu。

Aku ingin menambahkan bahwa kau bagian dari sistem. Kau memperhatikan jumlah kerumunan yang rendah. Sistem ini menghormati angka itu atau akan melewatinya dengan secara diam-diam menurunkan standar Anda。

Menjadi sibuk bukan berarti menjadi produktif

Ini sangat penting karena pola kegagalan ini hampir tak terlihat bagimu。

Dua puluh agen yang berjalan akan memberikan rasa produktivitas. Dashboard penuh, semuanya bergerak. Tapi ada decoupling antara perasaan ini dan konsolidasi sebenarnya kode kualitas tinggi ke cabang utama。

Kau bisa sampai ke batas, tapi ada sedikit output nyata. Keduanya hampir sama dalam hal pengalaman internal。

Caera (Ciera) mengacu pada studi utang Margaret-Anne Storey. Kami berbicara tentang utang teknis dan tentang utang kognitif。

Gagal membayar pajak struktur akan memungkinkan Anda untuk mengumpulkan kedua jenis utang。

Kau menggabungkan sesuatu yang tak kau baca. Model pikiran Anda untuk perpustakaan kode benar-benar ketinggalan zaman. Pertanyaan-pertanyaan ini tidak akan ada di dashboard hari ini. Dan mereka akan muncul saat lingkungan produksi rusak -- lalu Anda melihat sistemnya dan tiba-tiba menyadari bahwa Anda tidak tahu cara kerjanya。

Jadi, kesimpulan sebenarnya adalah bahwa memulai Agen bukanlah kemampuan. Siapa saja bisa lari 20。

Kemampuan sebenarnya adalah merancang sistem di sekitar sumber daya serial yang tidak dapat dikloning dan tidak dapat disinkronisasi。

Sumber daya ini adalah fokusmu。

Ia merancangnya seperti komponen kritis apa pun yang bergantung pada lingkungan produksi。

[Terkekeh]Bahasa Asli]