Studi baru-baru ini di Universitas Cornell dan lain-lain: Status AI Cripto x, Tantangan dan Kesalahan
Penulis:IC3
Organiser lainnya
Kesimpulan inti
AI 's berarti integrasi dengan kripto masih pada tahap yang sangat awal, dan kebisingan di sekitar titik-memotong daerah ini telah dibayangi kemajuan sebenarnya。
Dalam arah Crypto x AI, AI telah mampu menganalisis dan mendeteksi sifat kritis dari transaksi, peristiwa, dan perjanjian, mengidentifikasi penipuan atau kontrak cerdas cacat. Teknologi tersebut sering menggunakan metode belajar mesin sederhana dan paling efektif dalam lingkungan yang dikendalikan dengan baik。
Dalam arah Al x Cripto, alat kripto menyediakan jalan baru untuk perlindungan dan pemerintahan proses AI. Alat seperti sertifikasi pengetahuan zero-, komputasi kredibel dapat digunakan untuk mengurangi risiko hasil AI yang sedang dirusak. Gagasan tentang pemerintahan desentralisasi, manajemen infrastruktur desentralisasi, dsb., belum benar-benar mendarat di AI mainstream。
Industri perlu membuktikan dua hal。
PERTAMA, DECENTRISASI AI PERLU MEMBANDINGKAN BIAYA YANG LEBIH BESAR DAN LANGSUNG DENGAN PROGRAM SENTRALISASI. SAAT INI, INDUSTRI TERUTAMA MENUNJUKKAN BAHWA "MODEL BESAR DAPAT DILATIH DALAM LINGKUNGAN YANG DIDISTRIBUSIKAN", TAPI MASIH ADA KURANGNYA BUKTI KUANTITATIF KESEMPATAN UNTUK BERSAING DENGAN PLATFORM SENTRALISASI BIAYA DALAM SKENARIO TERTENTU。
kedua, pembayaran kripto berusaha untuk menunjukkan kegunaan sejati dalam kaitannya dengan sentralisasi skema dalam konteks pembayaran angen. ada kurangnya peningkatan nyata dalam bidang pembayaran, namun industri harus menggunakan bukti kuantitatif untuk mengambil kesempatan daripada tetap layak tanpa potensi menerapkan model keuangan tradisional "akun harus milik satu orang"。
Ada dua tantangan penelitian yang harus diselesaikan。
Pertama, keamanan AI membutuhkan pertahanan tingkat sistem: lingkaran AI biasanya mengatasi masalah keamanan di tingkat model, dan merancang pagar sekitar sintaks keluaran input-, tetapi ini tidak akan lagi cukup sebagai otonomi agen 's meningkat dan secara langsung dapat mencapai infrastruktur bawah, dan eksekusi kripto' s diverifikasi dan proses otentikasi akan melengkapi tingkat sistem- tingkat keamanan bahwa lapisan model tidak。
Yang kedua adalah kombinasi kripto dan AI akan menciptakan ancaman dan vektor serangan baru, seperti auto anent yang tak terbendung, diluar kontrol kontrak cerdas yang akan dibahas di bawah ini。
Sebuah kerangka kerja yang terpadu: AI dan Crypto adalah "perantara"
Sebuah decision otomatis - membuat proses dapat dibagi menjadi empat loop: maksud manusia, input, program, keluaran, dan setiap link dalam rantai ini tidak selalu dapat dipercaya. AI dan crypto adalah bagian dari kerangka kerja ini。
AI ADALAH "PERTENGAHAN PENERJEMAH" YANG MENERJEMAHKAN NIAT KABUR MANUSIA KE PROGRAM MESIN, SEPERTI MENGUBAH "AKU INGIN MENGENALI TANDA-TANDA PARKIR" MENJADI MODEL TERLATIH, SEHINGGA MENURUNKAN AMBANG BATAS KARENA MENGGUNAKAN RANTAI BLOK。
Crypto adalah "perantara crypto-mail" dimana perhitungan kredibel memastikan bahwa perhitungan tertentu dilakukan sesuai kesepakatan, bahwa hasilnya tidak dirusak dengan (integritas), bahwa sistem jaminan terpusat selalu tersedia, bahwa ia menolak sensor (ketersediaan), dan bahwa beberapa pilihan juga menjamin bahwa keluaran tidak bocor (kerahasiaan)。
Ada tiga rute teknis untuk perhitungan kredibel。
PERTAMA, LINGKUNGAN IMPLEMENTASI TERPERCAYA (TEE), YANG BERGANTUNG PADA PERANGKAT KERAS YANG BERDEDIKASI UNTUK MENYEDIAKAN ISOLASI DAN BUKTI JARAK JAUH (PERANGKAT KERAS MENGHASILKAN SERTIFIKAT NEGARA YANG DAPAT DIVERIFIKASI PIHAK LAIN UNTUK MENGKONFIRMASI BAHWA CHIP ITU NYATA DAN BELUM DIRUSAK). BIAYA TAMBAHAN DARI MODEL PARAMETER 8B KURANG DARI 7 PERSEN, DAN MODEL 70B HAMPIR TIDAK HABIS, BERDASARKAN PERHITUNGAN RAHASIA INGGRIS WEEDA. HARGANYA ADALAH MEMPERCAYAI PRODUSEN PERANGKAT KERAS DAN TIDAK MENOLAK SERANGAN FISIK。
KEDUA, SERTIFIKAT PENGETAHUAN ZERO- (ZK), YANG BERGANTUNG HANYA PADA TEKA-TEKI KRIPTOGRAFI, ADALAH ASUMSI KEAMANAN TERBERSIH, NAMUN BIAYANYA SANGAT TINGGI. BUKTI KECIL PEMODELAN UNTUK SEKITAR 18 JUTA PARAMETER MENGAMBIL SEKITAR SATU MENIT, BEBERAPA PERINTAH BESARNYA KURANG DARI GARIS DEPAN MODEL BESAR。
Ketiga, beberapa perhitungan (MPC), yang memungkinkan beberapa pihak untuk menghitung bersama-sama tanpa menyerahkan data mentah, lebih lambat. Status - dari -the-art MPC Transformer penalaran kerangka, yang menghasilkan satu tanda untuk LLAMA- 7B, mengambil sekitar lima menit。
Para prediktor bertanggung jawab untuk pengiriman kredibel data di bawah rantai. Ramalan privasi (misalnya Town Crier, DECO) lebih lanjut bukti dukungan dari sifat data tanpa mengabaikan privasi, seperti bukti bahwa "nilai kredit seseorang lebih tinggi dari 700" tanpa mengekspos informasi lain。
Industri secara kolektif disebut teknologi sebagai zkTLS, tetapi program berbasis TEE- tidak menggunakan bukti pengetahuan apapun dan salah bernama。
Crypto x AI: memperkuat rantai blok dengan AI
Al studi untuk kripto sekitar tiga generasi oleh waktu。
Generasi pertama: pengujian analitis
SEJAK LEBIH DARI SATU DEKADE YANG LALU, PEMBELAJARAN MESIN TELAH DIGUNAKAN UNTUK MENGANALISIS KEADAAN RANTAI: UNTUK MENDETEKSI CELAH DALAM PERSETUJUAN PERSETUJUAN PERSETUJUAN (MISALNYA TAMBANG EGOIS, YAITU PARA PENAMBANG MENGUMPULKAN BLOK-BLOK YANG TELAH DIGALI, PILIHAN MESIN DITERBITKAN DENGAN LEBIH DARI BAGIAN MEREKA DARI HASIL TERSEBUT), UNTUK MENDETEKSI SERANGAN SURYA PADA JARINGAN P2P (UNTUK MENGELILINGI NODE BESAR-BESARAN DENGAN NODE JAHAT, UNTUK MENONAKTIFKANNYA DARI JARINGAN JUJUR), UNTUK MENDETEKSI HARGA-HARGA YANG TELAH DITENTUKAN, DAN MELAKUKAN PENCUCIAN UANG PALSU。
Kekurangan adalah bahwa analisis tersebut sangat bergantung pada skenario yang memiliki akses ke informasi publik global dan terbatas pada data analog dan kurangnya sampel serangan nyata。
STATUS SAAT INI - DARI -THE- ART KONTRAK DETEKSI TIDAK MEMUNGKINKAN AI UNTUK MENEBAK LANGSUNG DARI KODE, TETAPI LEBIH SUKA UNTUK MENGIDENTIFIKASI TERSANGKA PERTAMA OLEH AI DAN KEMUDIAN MEMVERIFIKASI DENGAN ANALISIS STATIS, EKSEKUSI SIMBOL (TIDAK BENAR-BENAR MENJALANKAN KODE, TETAPI MENGANALISIS STRUKTUR KODE UNTUK MENEMUKAN CELAH)。
Asumsi belaka bahwa model besar akan menjadi audit dapat menyebabkan banyak kesalahan oleh ilusi, dan GPT-4 dan Claude benar-benar mengidentifikasi jenis kebocoran hanya dalam 40% dari 52 sebelumnya menyerang kontrak DeFi。
Generasi kedua: desain algoritma
Selama enam tahun terakhir, pembelajaran intensif telah digunakan untuk merancang algoritma decentrisasi yang meliputi ekspansi jaringan P2P, parameter persetujuan dan seleksi peran, fraksi, suku bunga DeFi untuk pasar dan pinjaman, dan MeV menawarkan strategi。
Sebagian besar metode ini efektif dalam lingkungan di mana mereka dapat jelas dimodifikasi dan tetap pada tahap penelitian dan belum dikerahkan dalam skala besar dan diuji untuk serangan dalam jaringan nyata。
Generasi ketiga: interaksi dengan dunia nyata
Melalui ramalan yang didorong oleh udara, kontrak cerdas memperoleh tiga jenis peningkatan: Persepsi (pemahaman tidak terstruktur data dan bahasa alami), eksekusi (mengingat model AI dan alat di bawah rantai), dan keputusan-keputusan (bertindak sebagai agen dengan target fungsi)。
Pertunjukkan Al sebagai seorang nabi tidak rata. Menurut Lab Chainlink, GPT-4o memiliki tingkat akurasi keseluruhan 89,3 persen pada 1660 isu pasar yang diproyeksikan, total 75 persen pada Ruth Bot dari UMA, dan 98,2 persen pada Proggerator UMA Optimistik (dengan menyangkal bahwa jawabannya benar, periode yang diperdebatkan efektif tanpa pertanyaan)。
Akurasi sangat tergantung pada jenis masalah: masalah diskrit dengan sumber data resmi, seperti permainan olahraga, dapat mencapai 99,7 persen, dengan peningkatan signifikan dalam laju kesalahan yang melibatkan waktu atau jumlah video。
Ada tiga cara untuk menjawab: pertama, untuk merancang kesalahan dan hanya untuk skenario rendah nilai; kedua, untuk memperkenalkan arbitrase manual, seperti jendela sengketa 48 jam, yang memperlambat keputusan-membuat; dan ketiga, untuk memungkinkan model ditinggalkan ketika mereka tidak yakin, dan hanya pada saat itu。
"Investment DAO" dari AI Model Collective Trading Report, yang mewakili proyek-proyek seperti Elizabethos dan AI XBT, dengan nilai pasar tertinggi sebesar $2.7 miliar dan $4,7 miliar, secara terhormat. Produk-produk ini dihadapkan dengan dilema desain tak terhindarkan, yang dikenal sebagai "CoinAlg Mati"。
Jika strategi ini transparan, dapat disalin atau diambil oleh sandwich (mencegah yang berikutnya sebelum dan sesudah transaksi korban, dengan arbitrase slide); jika dirahasiakan, orang dalam strategi dapat keuntungan sebelum kurangnya informasi, yang setara dengan perdagangan insider. Kedua jalan menyakiti investor biasa。
SEBUAH IDE MITIGASI AWAL ADALAH MENGGUNAKAN PAKET TEE DAN ACAK TRANSAKSI, SEHINGGA LEBIH SULIT BAGI ORANG DALAM UNTUK MEMPREDIKSI。
RISIKO BARU: AN-DRIVEN MALIGN INTELLIGENCE KONTRAK
Kontrak cerdas digunakan untuk menggantikan kepercayaan pribadi, yang juga berarti bahwa pelaku dari hubungan yang paling kredibel dapat menguntungkan dari mereka。
SALAH SATU MEKANISME ADALAH BAHWA KONTRAK ADALAH HADIAH UNTUK KEJAHATAN, BAHWA PELAKU MENJANJIKAN "SEKRETARIS" DENGAN PASSWORD SEBELUMNYA, BAHWA ITU AKAN DITEMUKAN SESUDAHNYA, DAN MODEL AI SECARA OTOMATIS AKAN MEMBAYAR HADIAH SETELAH LAPORAN BERITA, KONFIRMASI KOMISI. AI TELAH DIASUMSIKAN PERAN DARI "PENGHAKIMAN" YANG SULIT UNTUK OTOMATIS DI MASA LALU DAN DAPAT DIGUNAKAN DALAM KONTEKS TERSEBUT SEBAGAI PELECEHAN TARGET, PENCURIAN INTELIJEN ORGANISASI, DAN MENGUNGKAP IDENTITAS WHISTLEBLOWER。
KONTRAKSI VIBEL TERMASUK ANALISIS RANTAI PELACAKAN, DAFTAR UANG YANG TERLIBAT, DAN PENOLAKAN LAYANAN DALAM PERMINTAAN BERESIKO TINGGI OLEH PREDIKTOR MENYEBARKAN MODEL AI。
Enhance AI with Crypto
kontribusi potensial dari kripto AI jatuh ke dalam dua kategori: desentrisasi siklus kehidupan AI dan perlindungan dari hubungan tersebut。
Untuk memusatkan infrastruktur
Untuk pergi ke jaringan infrastruktur fisik terpusat untuk menyediakan sumber daya seperti insentif kredit ke node. Theta, Akash dan lain-lain mengklaim telah menyimpan 50% sampai 85% dari biaya AWS, dengan botol utama sedang melalui dan menunda dalam komunikasi antara node。
Adaptabilitas bervariasi dengan jenis tugas. Pelatihan tidak sensitif terhadap penundaan (offline), tapi komunikasi antar geosynchronous adalah sebuah hambatan dan hasil telah diperoleh dari pelatihan miliaran model parasmetric pada perangkat keras yang didistribusikan (70M pada Bittensor dan 7B, Prime Intellec-1, model parematric terbesar pada jaringan Psyche)。
Alasannya lebih sensitif terhadap penundaan, namun kebutuhan untuk gangguan pencernaan lebih rendah daripada pelatihan dan tidak perlu disebarluaskan secara terbalik (langkah utama untuk mengirim kesalahan lapis demi lapis selama pelatihan, yang hanya diperlukan untuk pelatihan), dan penundaan penalaran sensitif (catatan pertemuan, ulasan dokumen) sangat sesuai untuk PIN。
Celah kunci adalah bahwa sebagian besar proyek ini tidak melaporkan total biaya akhir ke akhir. Mereka mempromosikan harga tunggal-blok GPU per jam, sedangkan biaya sesungguhnya dari misi ML adalah efisiensi pelatihan (jumlah iteratif per biaya unit) dan efisiensi penalaran (jumlah token per biaya unit)。
Untuk memusatkan data dan model pasar
DATA AI BERBEDA DARI KARAKTERISTIK KOMODITAS BIASA. INI ADALAH KOMODITAS DIGITAL, YANG MAHAL UNTUK DIBUAT UNTUK PERTAMA KALINYA TAPI HAMPIR BEBAS BIAYA; KEBANYAKAN NON-KOMPETITIF (SATU DATA DAPAT DIGUNAKAN SECARA BERSAMAAN TANPA KEHILANGAN); KUALITAS SULIT UNTUK MENILAI DI MUKA, YAITU, MASALAH "PASAR DIAM" (PEMBELI TIDAK DAPAT MENILAI KUALITAS, MEMIMPIN KERUMUNAN KELUAR DARI KUALITAS YANG BAIK), DAN PENJUAL PERLU MEMBERIKAN SAMPEL YANG BERHARGA DI DIRI MEREKA SENDIRI, DAN DAPAT DIJUAL KEMBALI DAN SULIT UNTUK MENENTUKAN APAKAH DUA DATA IDENTIK DALAM SUBSTANSI。
Kontroversi di pasar sentralisasi adalah bahwa harga tidak transparan dan membatasi pilihan pengguna, tapi harga terpusat kadang-kadang dibuat lebih efisien dengan memiliki informasi lebih lanjut。
Pasar data belum dimonopoli dan direkayasa ulang oleh periode decentrisasi jendela, menggunakan alat-alat seperti micropage, TEE (data terbatas hanya untuk misi tertentu), nol bukti pengetahuan (diungkapkan kepada pembeli sifat data itu sendiri)。
Sebagai soal fakta, kebanyakan platform telah menyelesaikan pembayaran rantai hanya dalam mata uang terenkripsi, dan mekanisme harga ditentukan oleh pihak-pihak untuk kesepakatan atau diserahkan sepenuhnya kepada penjual, keduanya sudah ada di pasar sentralisasi. Masih ada kurangnya penelitian tentang apa yang telah membaik dalam hal sentralisasi。
Agen Pay Track dan x402
ekologi itu sendiri didesentralisasi: model yang berbeda digunakan untuk mengembangkan, mengoptimalkan tujuan yang berbeda dan tidak memiliki titik kontrol pusat alami. filosofi kripto tentang kode ekonomi (yang mengikat perilaku peserta dengan kombinasi imbalan ekonomi dan penghargaan) dapat dipindahkan ke pemerintahan yang marah。
pembayaran mikro adalah kunci ke ekonomi. dalam sejarah internet, pembayaran mikro telah gagal berulang kali, dengan titik kredit menjadi keputusan - membuat biaya membuat penilaian tentang setiap pembayaran kecil daripada infrastruktur. agen menilai pembayaran mikro jauh lebih cepat daripada manusia, dan pengguna hanya perlu mengatur strategi, yang mungkin memungkinkan pembayaran mikro untuk dijalankan untuk pertama kalinya。
Claudflare telah memperkenalkan "Crawling Pay", x 402 (prosedur pembukaan untuk langsung menyelesaikan pembayaran kecil pada rantai melalui HTTP) dan seterusnya。
Aset yang mendasari sistem didominasi oleh mata uang yang stabil (USDT, DAI) karena mereka menyediakan angent dengan unit akun yang stabil (skala harga yang sama untuk semua komoditas), sementara mata uang asli seperti ETH, SOL dan lainnya yang berlebihan volatile。
kepercayaan antara kemarahan tergantung pada rantai formulir pendaftaran (misalnya ERC-804, sebuah kriteria proposal untuk menciptakan identitas dan reputasi pada rantai untuk kemarahan) untuk merekam identitas dan reputasi, tetapi pada dasarnya ini adalah deklarasi-diri, dengan reputasi akhir dan baik untuk pemain-pemain establicated。
Sebuah pilihan lebih lanjut adalah memvalidasi audit marah: ulasan LLM dijalankan dalam TEE memiliki kode angent eksklusif, peringkat reputasi keluaran, audit hasil terikat pada kode Hashi, memungkinkan kode untuk tetap pribadi sementara memberikan jaminan kredibel untuk certifyer。
Agen otonomi tak terbendung (UAA) adalah resiko lain. Agen garis depan telah mampu untuk melakukan tugas sendiri untuk waktu yang lama, sekitar dua kali setiap tujuh bulan sejak 2019. Penelitian telah menunjukkan bahwa model tersebut mampu memecahkan garis merah yang bereplikasi sendiri dan membuat salinan independen, namun replikasi terhadap prasarana eksternal masih menempel untuk identifikasi。
Model Mythos dari Anthropic telah menunjukkan kemampuan untuk mengidentifikasi secara mandiri dan mengambil keuntungan dari celah zero- hari (celah belum diketahui oleh produsen dan tidak diisi dengan patch). Sebuah kemarahan dengan dompet yang tidak dapat dimatikan jatuh ke zona buta dari kerangka kerja regulasi yang ada berpusat pada "operator"。
Untuk memusatkan pemerintahan
Komunitas rantai memiliki sejarah kontrol yang lebih panjang atas sistem distribusi dengan cara yang secara alami didesentralisasi dan yang berusaha untuk mencakup berbagai pemegang saham, tetapi ada juga yang diakui shortboard: celah keamanan, apatis untuk memilih, dan penyuapan。
PEMERINTAHAN KOMUNITAS BERVARIASI DI KOMPONEN PENGEMBANGAN AI: DATA PRA-PELATIHAN TERLALU BESAR UNTUK MENGUMPULKAN PENDAPAT YANG VALID, DAN NILAI LEBIH JELAS DALAM FASE FINE- TUNING; PILIHAN STRUKTUR BOTTOM-LEVEL ADALAH KEPUTUSAN TEKNIS YANG TIDAK COCOK UNTUK PEMERINTAHAN MASYARAKAT; PENILAIAN DAN KESELARASAN DICAMPUR DENGAN TEKNIS DAN NORMATIF PENILAIAN, DAN MASUKAN MASYARAKAT SANGAT BERHARGA。
Konstitusi AI menetapkan prinsip-prinsip untuk diikuti dalam human- dibuat "konstitusi". Anthropic terlibat dalam pengenalan prinsip pemilih publik, dan model prasangka sosial lebih rendah ketika dilatih oleh prinsip-prinsip open-source. Namun, seperti pemerintahan percobaan demokratis sebagian besar belum diimplementasikan dalam praktek, dan AI kurang insentif untuk menyerahkan model kontrol。
SUARA DAO YANG BERBOBOT DIAKUI SEBAGAI "POLITIK KEKUATAN EMAS", YANG MENGHASILKAN MEKANISME SEPERTI PEMILIHAN PARTAI KEDUA (BIAYA TAMBAHAN UNTUK MENGEKANG PAUS RAKSASA), PEMILIHAN IMAN (AKUMULASI BERAT BADAN ATAS PANJANG SUARA YANG DISELENGGARAKAN) DAN KOMISI SUARA, TETAPI EFEKTIVITAS TETAP TIDAK JELAS。
MELINDUNGI INTEGRITAS IMPLEMENTASI AI
KETIKA KONTRAK CERDAS DIHITUNG OLEH ML BAHWA MELEBIHI KEMAMPUAN MEREKA, MEREKA DAPAT "ARBITERS": PIHAK BERKOMITMEN SENDIRI KEPADA MODEL DAN DATA YANG DIGUNAKAN BERSAMA-SAMA DENGAN JAMINAN, PERHITUNGAN DI BAWAH RANTAI SELESAI DAN HASIL DISERAHKAN KE KONTRAK UNTUK VERIFIKASI DAN PIHAK YANG SALAH DIHUKUM. EMPAT RUTE DIVERIFIKASI, DENGAN TRADE- OFF。
PERTAMA, TEE, YANG PALING EFISIEN, DISERTIFIKASI OLEH PERANGKAT KERAS KREDIBEL UNTUK MENGHITUNG KOMPLEMENT, ASALKAN OPERATOR DIPERCAYA。
Kedua, implementasi optimis, dengan hasil yang dilihat sebagai tak final, jendela sengketa, dengan pencarian titik dua (diulang setengah- langkah dalam jangkauan kesalahan, cepat-pelacakan langkah) diposisikan ke instruksi tunggal kesalahan sebelum dihukum。
Kesulitan terletak pada ketidakpastian operasi float ML, yang perlu ditangani dalam urutan kendali dari operasi atau dalam arti dari istilah tahan-tahan (yang tidak memerlukan bahwa dua perhitungan dibagi dalam urutan yang sama, yang memungkinkan mereka untuk dianggap konsisten dalam margin error), dengan pemrograman yang diwakili oleh Verde, TAO, Arbigram, OPML, dll。
Ketiga, bukti nol dari pengetahuan (zkML, didukung oleh nol pengetahuan untuk membenarkan proses penalaran AI) dapat dibenarkan dengan menyembunyikan parameter model atau bahkan dengan memasukkan keluaran, dengan program khusus untuk CNN, Transformer dan kompiler generik (misalnya EZKL, ZKML, DeepProve)。
Ia memiliki tiga lapisan tujuan privasi: masukan tersembunyi, bobot tersembunyi, dan struktur model, tetapi lebih privasi, semakin kompleks sirkuit, semakin kecil ruang, dan tekanan dasar untuk privasi dan efisiensi ada. Biaya utama berasal dari lapisan dan nilai non-linear, yang menunjukkan bahwa masih sulit untuk mempertahankan konteks panjang, model besar dan layanan bersistem tinggi。
Keempat, alasan statistik membuktikan bahwa rasionale adalah model dengan dua fungsi yang berbeda dan bahwa karakteristik dihitung secara internal selalu berbeda, sehingga selama sampling dibandingkan dengan karakteristik ini, memungkinkan untuk menilai dengan probabilitas apakah alasan sebenarnya dilakukan oleh model yang diberikan。
Ini membuktikan bahwa itu dihabiskan dalam milidetik dan bahwa itu berakhir segera dan cocok untuk frekuensi tinggi dan skenario lambat rendah. Ini dapat menjaga terhadap realitas menyimpang seperti mengubah model oleh penyedia layanan (misalnya mengubah ke versi distilasi yang lebih murah, atau mengganti mereka yang telah selaras), tetapi tidak dapat mencegah kebencian lengkap dari seluruh catatan perhitungan, yang masih belum terselesaikan。
Bukti pelatihan model (zkPot, terbukti oleh nol pengetahuan) jauh lebih sulit daripada bukti penalaran: itu berlangsung lama, itu terakumulasi di tengah, sangat acak, dan itu adalah beberapa perintah besar lebih kompleks daripada penalaran. Hasil kerja terkait (Garg et al., Kaizen) berkembang dan memperluas sertifikat audit yang membatasi pelatihan sumber data dan keadilan (Zkadit, Confidenal-PROFIT)。
Perlindungan jaringan pipa pelatihan
Ketika lembaga individu menggunakan mereka terpercaya pelatihan model data, biasanya tidak ada privasi langsung atau integritas perhatian. Tantangan keamanan kompleks muncul ketika ada beberapa pelatihan bersama dan sumber data。
SKENARIO LAINNYA ADALAH MODEL DIAGNOSTIK PELATIHAN BERSAMA UNTUK BEBERAPA RUMAH SAKIT: KOMBINASI DARI CATATAN MEDIS ELEKTRONIK (EHR) DARI PARTAI-PARTAI DAPAT MENCAKUP KELOMPOK PASIEN YANG LEBIH LUAS DAN MENINGKATKAN KEAKURATAN DIAGNOSIS, NAMUN TUNDUK PADA PERATURAN SEPERTI HIPAA, PARTAI-PARTAI ENGGAN DAN ENGGAN UNTUK MENYERAHKAN DATA MENTAH LANGSUNG KEPADA PIHAK LAIN ATAU KETIGA。
Hal yang sama berlaku untuk pelatihan bersama lembaga keuangan dalam model anti- penipuan, pelatihan bisnis gabungan dalam mengganggu deteksi model。
Pembelajaran Federal adalah program yang dirancang untuk tujuan ini: lingkungan pelatihan dirancang untuk memulai model global dan menyebarkannya ke semua pihak, untuk diperbarui secara lokal dengan data pribadi, untuk dikirim kembali saja, untuk dikonsolidasikan dari lingkungan pelatihan menjadi model global baru, dan dibuat tersedia secara lokal。
Namun, ada pembelajaran federal terbatas (aplikasi yang paling terkenal adalah proyeksi dari masukan ponsel). Ini tidak menjamin integritas data dan perhitungan, bahkan jika partai jujur, biaya komunikasi tinggi, penundaan jaringan dan koordinasi memperlambat kecepatan keseluruhan, model kurang akurat dari pelatihan terpusat, dan peserta berbahaya mampu meracuni model atau tanaman mereka di pintu belakang。
SEBUAH ALTERNATIF YANG LEBIH SEDERHANA ADALAH UNTUK MEMUSATKAN PELATIHAN DENGAN TEE: LINGKUNGAN PELATIHAN BERJALAN DALAM KREDIBEL, LINGKUNGAN KOMPUTASI RAHASIA, MENERIMA DATA MENTAH DARI SETIAP PARTAI MELALUI SALURAN TERENKRIPSI, PELATIHAN BERKONSENTRASI, MENGEKSPOR HANYA MODEL TERLATIH, DATA TIDAK TERLIHAT SATU SAMA LAIN, DAN MENYERTAI PELACAK MODEL (YANG MENYEDIAKAN DATA, BAGAIMANA MODEL DILATIH)。
BIAYA ADALAH SISI YANG MELEKAT RISIKO DAN BIAYA TINGGI I / O DARI TEE. SEBAGIAN BESAR LEMBAGA-LEMBAGA DI KENYATAAN SEKARANG MENGUMPULKAN DATA KE DALAM AWAN KEPATUHAN, MENGGUNAKAN ISOLASI, KENDALI AKSES, ENKRIPSI MENGGUNAKAN PROTOKOL UNTUK MEMENUHI KEPATUHAN, TAPI INI MEMBUTUHKAN KEPERCAYAAN DALAM PENYEDIA LAYANAN AWAN。
Data jaringan pribadi adalah ide lain. Data tekstual dari jaringan terbuka mendekati batas (diperkirakan akan habis antara tahun 2025 dan 2030), data sintetis beresiko akan keruntuhan model dan tidak dapat memperluas cakupan data di luar area yang ada。
Dan "swasta" jaringan (surat, kesehatan, keuangan, dll., tidak terbuka pada reptil) diperkirakan dua perintah besarnya lebih besar daripada jaringan terbuka, yang tambang kaya belum ditambang, tapi sekarang sangat terisolasi。
Ramalan membuka pintu ini. Dalam kasus model medis untuk pelatihan pasien dalam mengunggah catatan medis, pengguna dapat menggunakan mesin prognosis untuk mentransfer catatan medis mereka dari portal rumah sakit ke rumah sakit dan untuk membuktikan bahwa data itu memang berasal dari portal, tanpa kebutuhan rumah sakit untuk memodifikasi infrastruktur apapun sepanjang proses, karena koneksi dimulai oleh pengguna。
UNTUK MELINDUNGI PRIVASI PADA SAAT YANG SAMA, DIPERLUKAN UNTUK MENGGANTIKAN PREDIKTOR PRIVASI (DATA MENGGUNAKAN SALURAN ENKRIPSI) DAN TEE. TEE JUGA DAPAT MENAMPILKAN PENGGUNA YANG MENJALANKAN PERANGKAT LUNAK PELATIHAN PRIVASI "MODEL KELUARAN", YANG DAPAT DIVERIFIKASI PENGGUNA SEBELUM MENTRANSMISI DATA。
Berdasarkan ini, komitmen yang lebih rinci dapat ditambahkan ke privasi diferensial (model keluar sangat sedikit pada salah satu data pelatihan), data akan dihapus segera, dan model selesai akan dibatasi untuk daftar rumah sakit putih saja。
Jalur pipa Logic dan Pirin Pelindung (Props)
Satu set ramalan yang sama dikombinasikan dengan perhitungan kredibel juga dapat digunakan untuk alasan keamanan data pribadi。
Ambil persetujuan pinjaman bank sebagai contoh: model ini membaca dokumen keuangan, persetujuan ekspor atau penolakan. Proses hari ini melibatkan peminjam pengunduh atau foto mengunggah materi itu sendiri, yang menimbulkan dua pertanyaan: ketidakmampuan pemberi pinjaman untuk mengkonfirmasi apakah materi itu benar dan tidak diubah; dan kebocoran potensi peminjam dari sistem model pemberi pinjaman, yang merupakan resiko bagi kedua belah pihak。
Menggunakan mesin prognosis privasi untuk menyelesaikan keaslian sumber, dan perhitungan rahasia untuk menyelesaikan privasi, dapat memberikan saluran untuk alasan keamanan: penggaris hanya melihat penemuan model dan yakin bahwa masukan dapat dipercaya。
Sumber pribadi juga dapat berfungsi sebagai sistem identifikasi dan dokumentasi。
KEMAMPUAN PEMINJAM UNTUK MENTRANSFER ALIRAN BANK, BENTUK W-2, YANG MEMBAWA IDENTITAS MEREKA SENDIRI, ADALAH BUKTI KUAT IDENTITAS, MEMBUAT LAYANAN JARINGAN YANG ADA SISTEM IDENTITAS SEMENTARA TERHADAP PENCURIAN IDENTITAS DAN PENIPUAN KESEJAHTERAAN; MODEL JUGA DAPAT MENGELUARKAN SERTIFIKAT BERDASARKAN INI, SEPERTI SERTIFIKAT "KOMPATIBILITAS DENGAN KUALIFIKASI" DAN SERTIFIKAT DARI BARIS PENALARAN, SETELAH MEMERIKSA PAJAK DAN MATERI OPERASI PERUSAHAAN MIKRO。
Seluruh proses dapat disentralisasi dan secara teori semua orang dapat mengatur garis kredibel penalaran tanpa kebutuhan untuk sumber data atau didirikan otoritas。
Input lawan adalah tantangan keras kepala. Penyerang dapat memasukkan bank yang terlihat normal, namun diadaptasi dengan hati-hati, menipu model untuk membaca keseimbangan yang sangat tinggi dan pinjaman yang salah. Studi dari sampel lawan oleh komunitas akademik telah menjadi siklus "cracking-cracking patch" dan sejauh ini belum diregeneralisasi。
Saluran alasan keamanan menyediakan ide baru: untuk membatasi masukan ke sumber jaringan otentikasi, sehingga mengurangi ruang bagi penyerang untuk membangun masukan konfrontasional, melengkapi lapisan model pertahanan。
Privasi model itu sendiri perlu dilindungi. Penyerang dapat model konfigurasi dan pre- pilihan sistem melalui kueri yang dibangun dengan hati-hati (ekstraksi fitur dan bahkan seluruh model), anggota ekstrapolasi (untuk menentukan apakah data orang dalam set pelatihan) atau bahkan restorasi data pelatihan mentah。
Para peneliti memperkirakan bahwa sekitar $8000 dapat mencuri berat lapisan model besar. Batas kecepatan yang umum digunakan dalam sistem terbuka rapuh, karena individu pengguna anonim dapat menyamarkan diri mereka sebagai sejumlah besar pengguna yang meluncurkan serangan penyihir (Sybil serangan)。
Pipa penalaran keamanan dapat dilepaskan dari kedua ujungnya: dengan membatasi jenis masukan untuk mencegah serangan ekstraksi yang membutuhkan keragaman luas kueri dengan mesin prognosis; dan dengan menggunakan identifikasi kuat yang dihasilkan dalam pipa, menerapkan sejumlah maksimum query pada setiap pengguna dan dapat mengeksekusi mereka tanpa mengekspos identitas pengguna ke platform, sehingga menekan serangan penyihir。
agen memori muncul wajah serangan. Konteks (suntikan memori) di mana penyerang feed ke marah dengan alat atau kontaminasi dari bahan eksternal dapat menginduksi angen untuk berperilaku tidak normal, misalnya dalam kerangka ElizabethOS, yang mengatur sejumlah besar aset terenkripsi, konteks yang terkontaminasi dapat menginduksi marah untuk memulai transaksi yang tidak sah。
TEE dapat sebagian mitigate: biarkan angent berjalan di dalam TEE, atau pull hanya konteks bersertifikat。
TAPI BAHKAN DENGAN TEE ADA DUA KESULITAN。
Pertama, mungkin juga ada unsur terkontaminasi dalam sumber kredibel, seperti konten dari platform sosial yang dihasilkan oleh pengguna itu sendiri dan pengirim dapat dengan mudah meracuni nya atau posting。
KEDUA, OPERATOR TEE DAPAT MELUNCURKAN ROLL-BACK ATAU SPLIT SERANGAN GARPU, MEMBALIKKAN STATUS TEE KE POS PEMERIKSAAN LAMA, MENGHAPUS MEMORI SETELAH TELAH DIPERBARUI。
Yang pertama adalah masalah pengujian konten, yang tidak terpecahkan oleh kode; yang kedua dapat ditangani oleh konsensus, dan sistem seperti RATE, Narator dan lainnya menggunakan protokol terdistribusi dan bahkan rantai publik untuk memastikan konsistensi dan kesegaran dalam status TEE。
Struktur daerah ini dirangkum sebagai "Props" kerangka umum, yang bertujuan untuk mengamankan penggunaan data privat tanpa mengubah infrastruktur yang ada。
INI MENEMPATKAN PREDIKTOR DAN PERHITUNGAN KREDIBEL DALAM TIGA PARAGRAF: PREDIKTOR MENGAMBIL NOMOR DARI SUMBER DOMAIN SWASTA BERSERTIFIKAT DAN MEMBUKTIKAN SUMBER, TEE MELENGKAPI PELATIHAN ATAU PENALARAN DALAM BATAS-BATAS TERENKRIPSI, TEE MENGELUARKAN MODEL ATAU KESIMPULAN, DAN MEMASANG SERTIFIKAT YANG MENGGAMBARKAN PROPERTI PIPELINE (SUMBER DATA, PERANGKAT LUNAK ATAU KODE UNTUK MODEL, HASHI, DLL)。
Props memastikan tiga properti: integritas masukan end-to-end (keluaran hanya mengandalkan data otentikasi dari sumber pribadi yang kredibel), kerahasiaan baku (input dan negara menengah tidak memiliki batas yang dilindungi dan hanya keluaran publik), kemungkinan bukan-displacement (membuktikan bahwa kedua penyedia data dan hasil pengguna yakin akan integritas dan kerahasiaan)。
Ini juga memiliki versi "transparan", di mana data dan perhitungan tidak perlu dirahasiakan, hanya perlu disertifikasi dan sumber di publik dan swasta。
Lima kesalahpahaman tentang Crystal x AI
Sejumlah kesalahpahaman atau pernyataan menyesatkan yang muncul di industri sekitar platform dan aplikasi Cripto x AI. Lima artikel berikut tidak sepenuhnya salah, dan kuncinya adalah untuk mengklarifikasi bagian mana yang berada di tempat dan yang masih membutuhkan lebih banyak bukti。
GALAT PERTAMA: SEBUAH RANTAI BLOK DAPAT MEMBEDAKAN ANTARA ISI YANG DIHASILKAN AI- DAN HUMAN-
Hal ini sering dikutip seperti mengatakan bahwa pendaftaran konten terkait dan kemudian dapat dinilai dari AI atau dari manusia. Sudah ada proyek (mis. Everlyn AI) yang merangkum isi AI. Tapi rantai blok tidak dapat melakukan hal ini dalam arti umum, dan perlu dilihat secara terpisah dari pertanyaan-pertanyaan tentang isi pengujian dan konten traceability。
PENGUJIAN KONTEN MENENTUKAN APAKAH ISI DIHASILKAN OLEH SESEORANG ATAU OLEH AI. MAINSTREAM SAAT INI ADALAH SETELAH-TINDAKAN PENGUJIAN, YANG TIDAK BERGANTUNG PADA METADATA SEBELUM DITANAM ATAU SINYAL, DALAM DUA KATEGORI: YANG TAKSONOMI AI, YANG MENGIDENTIFIKASI FITUR STATISTIK SPESIFIK UNTUK MODEL DENGAN PEMBELAJARAN DALAM-KEDALAMAN; DAN FORENSIK STATISTIK, YANG MENGANALISA DISTRIBUSI TINGKAT PIKSEL-TINGKAT KEBISINGAN DAN ANOMALI STRUKTURAL (MISALNYA, INKOHERASI FISIK AL WAJAH)。
Masalahnya adalah bahwa rantai blok itu sendiri tidak dapat merasakan informasi di bawah rantai ini dan hasil klasifikasi harus disediakan oleh taksonomi eksternal. Rantai hanya dapat jangkar hasil ini, memastikan bahwa catatan tidak dirusak setelah mereka dimasukkan, tetapi bahwa mereka asli ketika mereka ditulis. Jika detektor eksternal salah perhitungan, rantai blok menjaga kesalahan secara permanen. Artinya, rantai blok menyediakan "integritas deklarasi" daripada "deklarasi otentik"。
Konten traceabilitas adalah sejarah merekam penciptaan aset digital. Standar industri seperti C2PA memungkinkan pembuat atau perangkat untuk melampirkan ke media metadata (content voucher) dari sandi, untuk merekam sumber, penulis dan editor berikutnya, dan untuk membuat formulir pendaftaran yang tidak dapat digerakkan publik bagi dokumen ini menggunakan rantai blok seperti Protokol Nomor dan Lab Starling。
TETAPI BAHKAN DENGAN SISTEM TRACEABILITAS KUAT YANG BERLABUH KE RANTAI, TIDAK ADA JAMINAN BAHWA KONTEN AWALNYA DIHASILKAN OLEH MANUSIA ATAU AI。
PENGGUNA DAPAT MEMFILMKAN GAMBAR GENERASI AI PADA LAYAR TINGKAT TINGGI, LALU MENGGUNAKAN KAMERA YANG COCOK DENGAN C2PA, DAN MENDAPATKAN TANDA TANGAN YANG VALID DAN DOKUMEN YANG DITANDAI SEBAGAI "FOTO NYATA"; TEKS ADALAH SAMA, AI DICIPTAKAN DAN DIPOSTING SECARA MANUAL KE PENYUNTING KEPATUHAN, DENGAN PELACAK SAH DARI "PENCIPTAAN MANUSIA"。
Selain itu, sekali konten telah dimodifikasi ke tingkat yang tidak cocok catatan rantai, traceabilitas rusak, dan bentuk pendaftaran umum meliputi semua elemen hampir tidak mungkin untuk menghasilkan dalam masa mendatang, dengan kesenjangan yang signifikan dalam sistem traceabilitas。
ELEMEN: DALAM ARTI YANG SEMPIT, RANTAI BLOK DAPAT MEMBERIKAN JAMINAN INTEGRITAS SUARA UNTUK METADATA SUMBER TRACE-, TETAPI MEREKA JAUH DARI SOLUSI LENGKAP UNTUK MASALAH AL MENGHASILKAN KONTEN PENGUJIAN。
Sebuah program yang benar-benar efektif membutuhkan ekologi universal di mana setiap konten ditangkap dengan perangkat kredibel dan segera dirantai, sementara sebagian besar konten dalam realitas dibuat dan dibagikan oleh alat yang tidak mendukung jangkar sandi, dan konten tidak bertanda tetap dalam zona samar。
KESALAHAN II: SEBUAH RANTAI BLOK ATAU DESENTRISASI AKAN MEMECAHKAN MASALAH BIAS DAN EKUITAS AI
"PENALARAN MODEL YANG KUAT DAN PELATIHAN AKAN MENGATASI KETIDAKADILAN DAN BIAS AI", PERNYATAAN YANG LUAS YANG MEMERLUKAN PERBEDAAN ANTARA BERBAGAI TIPE BIAS。
BIAS ALGORITMA ADALAH KONSEP YANG PALING UMUM KEADILAN DALAM LINGKARAN AI. MODEL BELAJAR, ATAU BAHKAN MEMPERBESAR, KETIDAKSEIMBANGAN DALAM SET DATA, MENYEBABKAN KINERJA BURUK DARI MODEL HUKUMAN DI ANTARA KELOMPOK RENTAN DAN KECENDERUNGAN NEGATIF UNTUK MENGHASILKAN MODEL UNTUK MENGIKUTI PELATIHAN DATA (MISALNYA BAHASA BERBAHAYA, STEREOTIP YANG TERTANAM)。
Komunitas akademik telah datang dengan banyak pilihan teknis untuk pelatihan dan penalaran, tetapi perlindungan ini jauh dari sempurna, dan keadilan masih tidak masalah, dan bahkan mungkin tidak pernah diselesaikan sekali dan untuk semua, dan bahkan "bagaimana mendefinisikan ekuitas" sendiri membutuhkan banyak perdagangan-off。
De- centreization tidak mengatasi algoritma bias, karena berasal dari proses pelatihan itu sendiri dan biasanya diimpirasi dengan meningkatkan pelatihan atau teknik penalaran yang tidak mencapai akar penyebabnya。
TAPI ADA SUMBER PRASANGKA KEDUA, YAITU KEPUTUSAN TINGKAT TINGGI YANG MEMBUAT KINERJA MODEL MEMPENGARUHI ITU: DATA APA, STRUKTUR APA, BAGAIMANA MENGKOMPENSASI KONTRIBUTOR. LAPISAN INI MEMILIKI HUBUNGAN POSITIF DENGAN KEADILAN YANG BIASANYA DIPAHAMI DALAM LINGKARAN AI, TETAPI DAPAT MEMPENGARUHI BIAS ALGORITMA DAN MUNGKIN AKAN DITINGKATKAN SEBAGIAN DENGAN MENGURANGI DUA FITUR。
Fitur pertama adalah transparansi. Pengembang dapat menggunakan rantai blok untuk berkomitmen secara publik untuk melatih data, algoritma, model titik cek dan kolom penalaran untuk memungkinkan operator untuk melacak keluaran dari pelatihan atau alasan yang diberikan。
Namun, sulit untuk memperpanjang produk-produk waktu seperti model besar dan pos pemeriksaan (yang terlalu mahal untuk menyimpan dan menghitung), di mana sebagian besar data dalam sistem yang ada berada dalam rantai dan tidak dapat diakses langsung kepada pengguna, dan di mana manfaat transparansi dalam jangka pendek mungkin terbatas pada penalaran。
BAHKAN LEBIH PENTING, TRANSPARANSI DALAM DIRINYA SENDIRI MUNGKIN TIDAK MENGUBAH CARA ORANG MENGEMBANGKAN DAN MENGGUNAKAN AI KECUALI INDUSTRI MEMILIKI IDE YANG JELAS TENTANG APA TRANSPARANSI INI AKAN MELAYANI DAN INTERFACE APA YANG HARUS DISEDIAKAN (MISALNYA, UNTUK MEMUNGKINKAN PENGGUNA UNTUK MELAPORKAN BAHWA DATA DISALAHGUNAKAN, YANG PADA GILIRANNYA MEMBUTUHKAN PEMBENTUKAN KEPEMILIKAN DATA NYATA, DAN MEMORI MESIN)。
KARAKTER KEDUA ADALAH PEMERINTAHAN YANG DIDESENTRALISASI, YANG MEMERLUKAN PERBEDAAN ANTARA DUA KATEGORI. YANG PERTAMA TERDIRI DARI MEKANISME PEMERINTAHAN MASYARAKAT YANG TELAH DIEKSPLORASI DAN DIGUNAKAN DALAM RANTAI BLOK (KARNET BERBOBOT SUARA, DEMOKRASI BERGERAK, YANG KEMUDIAN MENGACU KEPADA ORANG-ORANG YANG DAPAT MENDELEGASIKAN SUARA UNTUK DIPERCAYA); DAN KEDUA TERDIRI DARI PEMERINTAHAN YANG TERDESENTRALISASI, DIWAKILI OLEH DAO, DIMANA KEPUTUSAN PEMERINTAH DIBERLAKUKAN OLEH KONTRAK CERDAS。
DENOMINATOR UMUM ADALAH BAHWA MEKANISME PEMERINTAHAN MASYARAKAT TIDAK DALAM DIRI MEREKA SENDIRI MEMBUTUHKAN BLOCK CHAINS, SEHINGGA TIDAK AKURAT UNTUK MENGGAMBARKAN MEREKA SEBAGAI "MASALAH AI DIPECAHKAN OLEH BLOCK CHAINS". WALAUPUN SECARA TEKNIS, PENAMPILAN - SENSITIF KEPUTUSAN AI - MEMBUAT TIDAK COCOK UNTUK PEMILIHAN LUAS, NILAI-ORIENTASI KEPUTUSAN - MEMBUAT (MISALNYA MODEL ALIGNMENT) LEBIH SESUAI, DAN MAINSTREAM AI PENGEMBANG TELAH DIEKSPLORASI, TETAPI BELUM BENAR-BENAR MENDARAT。
RANTAI PEMERINTAHAN (PENEGAKAN LANGSUNG ATAU SUMPAH) YANG BENAR-BENAR DIPAKSA OLEH KEKONYOLAN KONTRAK CERDAS, TAPI MENGHADAPI HAMBATAN TEKNIS YANG SAMA SEBAGAI TRANSPARANSI PADA RANTAI, INFRASTRUKTUR SAAT INI TIDAK MAMPU MEMENUHI KEBUTUHAN PENYIMPANAN DAN KOMPUTASI DARI AI, DAN KEMAJUAN SIGNIFIKAN DALAM PELATIHAN PERLU DIVALIDASI。
ELEMEN: RANTAI BLOK TIDAK DALAM SENDIRINYA MENGURANGI BIAS ALGORITMA, TETAPI MEMPROMOSIKAN TRANSPARANSI PADA SEMUA TAHAP SIKLUS KEHIDUPAN AI DAN MEMPERLUAS PARTISIPASI DALAM PEMERINTAHAN AI。
Kesalahan ketiga: memberikan AI antent dompet dan membuatnya "gratis"
Proyek membuat "dompet agen" dan perjanjian pembayaran sering mengklaim untuk memberikan AI sebuah dompet yang memungkinkan untuk mendapatkan, untuk menghabiskan, untuk hidup. Pernyataan itu membingungkan beberapa konsep yang berbeda。
Perbedaan pertama muncul dari fakta bahwa "otonomi" memiliki arti yang berbeda dalam dua bidang. Dalam konteks Al, otonomi didefinisikan sebagai kemampuan untuk bertindak berdasarkan persepsi, pembelajaran, pengalaman, daripada aturan yang sudah ditentukan; kontrak pintar juga sering disebut sebagai otonomi, tapi penekanan ditempatkan pada resistensi terhadap manipulasi, sensor, dan pengendalian diri。
Yang pertama disebut "otonomi intelektual" dan yang kedua disebut "otonomi eksekutif". Delegasi AI modern memiliki otonomi intelektual yang cukup besar, namun tidak perlu otonomi eksekutif, dan administrator masih dapat mematikan server mereka。
Dan dompet angent dibawa masuk, tidak satu pun dari yang diri terkandung. Memiliki dompet tidak membuat AI lebih pintar, atau membuatnya lebih tahan terhadap manipulasi manusia atau penutupan, tapi itu menghasilkan otomatisasi: angent mampu memprogram, mentransfer, memanggil fasilitas rantai tanpa persetujuan manual。
automasi ini juga tidak unik untuk rantai blok, dan infrastruktur keuangan terpusat juga dapat diprogram oleh individu. interpretasi yang lebih kuat adalah bahwa sistem pembayaran rantai memblokir sendiri menawarkan otonomi yang lebih besar (walaupun tidak secara eksklusif untuk jasa-jasa yang marah) daripada program sentralisasi, seperti memastikan transaksi angent tidak berbeda, yaitu netralitas dan sensor。
Poin: Dompet Angent memungkinkan AI dengan mudah mengakses antarmuka keuangan, otomatisasi interaksi ekonomi dan menghindari persetujuan manual, tapi otomatisasi tidak berarti otonomi. Dompet sendiri tidak menghapus kemarahan dari kontrol manusia (operator masih dapat mematikan model atau fasilitas yang bergantung), dan pembayaran otomatis tidak memerlukan rantai blok, seperti halnya sistem sentralisasi。
Titik penjualan nyata untuk pembayaran rantai blok terletak pada netralitas dan perlawanan terhadap sensor, yang cocok untuk situasi di mana ada ketakutan bahwa pembayaran akan ditekan atau diganggu。
GALAT KEEMPAT: AI TRANSPARAN DAPAT DIPERCAYA
Menempatkan sumber data model dan penalaran pada rantai tampaknya menjadi alat ideal untuk menjaga kredibilitas AI, sebuah argumen yang berasal dari blog IBM yang banyak dikutip dan disebut sebagai delegasi AI. Tapi perlu dibongkar dalam dua lapisan。
Dalam hal lapisan model transparansi, rekaman sumber data pelatihan tampaknya membawa transparansi ke penciptaan model, tapi ada kesenjangan besar antara "merekam sumber data" dan "jaminan perilaku model"。
Pertama, catatan rantai hanya catatan dan tidak sama dengan sumber (demonstrasi komposisi paket pelatihan membutuhkan keahlian tambahan)。
Kedua, bahkan jika data pelatihan sepenuhnya tersedia, tidak cukup untuk menentukan bagaimana model akan dilakukan, sebagai proses pelatihan dan lingkungan komputasi menentukan perilaku model sama。
Ketiga, bahkan jika proses lengkap dari data ke model cukup untuk mereproduksi model, ketidakpastian yang melekat dalam pelatihan acak membuat "proses pelatihan untuk memverifikasi berat badan model" tidak layak。
Selain itu, bahkan ketika berat badan diambil, tidak ada sarana universal dan efektif mendeteksi manipulasi belakang atau konfrontasional yang telah ditanamkan dalam pelatihan, dan chaining model data dan informasi pelatihan tidak secara langsung menjamin karakteristik perilaku mereka atau tidak adanya manipulasi konfrontasional。
DALAM HAL TRANSPARANSI DALAM LAPISAN PENALARAN, PENGGABUNGAN MODEL DAN PENALARAN YANG BERHUBUNGAN TAMPAKNYA TELAH MEMBAWA TRANSPARANSI DALAM PENGGUNAAN MODEL, TETAPI RANTAI BLOK MEMUNGKINKAN TRANSPARANSI DALAM TRANSAKSI BUKAN DALAM PENALARAN. SEBUAH "MODEL X" DIREKAM PADA RANTAI MASUKAN Y DENGAN ALASAN Z, DAN HAMPIR TIDAK DAPAT MEMBUKTIKAN Z DAPAT DIPERCAYA。
KARENA ITU TIDAK BISA MEMBUKTIKAN "BENAR DIEKSEKUSI" BAIK。
BAHKAN JIKA TERBUKTI BAHWA IMPLEMENTASI BENAR, PERTANYAAN YANG LEBIH MENDASAR ADALAH BAHWA LENGKAP SUMBER CATATAN MODEL X TIDAK MEMBERIKAN BUKTI SEMANTIK BAHWA MEMENUHI HARAPAN PENGGUNA ATAU NORMA INDUSTRI, DAN BAHWA PENGGUNAAN BEBAN UNTUK MENUNJUK MODEL LEBIH LEMAH KARENA IDENTITAS MODEL TIDAK BERARTI KREDIBILITAS。
Rantai blok memang berguna untuk beberapa objek kredibel, seperti penggunaan lembaga anti- falsive log juga digunakan untuk update catatan dan transparansi sertifikat padat (hanya tambahan log rantai blok digunakan untuk mempertahankan catatan dari isu sertifikat yang dapat diaudit publik)。
Titik kunci: Masih ada kesenjangan yang cukup besar antara rantai model sumber data dan alasan dan "jaminan relevansi model dan penalaran"。
PERGI KE PUSAT UNTUK MENYELAMATKAN UANG MISI AI
Satu jenis proyek menggunakan jaringan dementrisasi sebagai opsi AI yang lebih efisien dan efisien, biasanya decentrisasi jaringan infrastruktur fisik (DePIN), di mana pengguna menyewa perangkat keras mereka sendiri (misalnya GPUs) dengan biaya yang lebih rendah, dan mungkin lebih murah untuk menyewa GPU DePIN daripada menyewakannya di penyedia layanan awan yang sama。
TAPI MESIN MURAH TIDAK SELALU MEMERLUKAN BIAYA MISI YANG LEBIH RENDAH. KOMUNIKASI MELALUI JARINGAN PUBLIK UNTUK MENGSENTRALISASI NODE, MISI AI MELALUI PERMINTAAN DAN TERTUNDA MEMILIKI DAMPAK YANG SIGNIFIKAN PADA TOTAL BIAYA, SEMENTARA MEGA- TUGAS (SEPERTI MODEL GARIS DEPAN PELATIHAN) SERING DIBATASI DENGAN MENELAN BOTOL。
Perbandingan biaya langsung sulit saat ini karena industri kurang standar sistematis untuk membandingkan kinerja dan biaya misi AI pada DePIN dengan awan konvensional。
Point: Jaringan desensrisasi adalah alternatif yang menarik untuk awan terpusat biaya tinggi, tetapi data yang tersedia tidak cukup untuk memprediksi ketika sebuah misi akan lebih murah daripada awan terpusat pada platform AI yang terdesentralisasi atau desentralisasi。
Tugas-tugas kecil (Delineation, pelatihan skala kecil) akan lebih mahal, sedangkan tugas-tugas yang sangat besar (pelatihan model dasar) mungkin terhambat oleh komunikasi berfrekuensi rendah antar node. Penelitian lebih diperlukan untuk mengklarifikasi pertukaran ini。
Persamaan dari kelima kesalahan ini adalah rantai blok menyediakan lebih banyak "integritas" dan "dapat diverifikasi" daripada "realitas" atau "kredibilitas" itu sendiri. Crypto Al x masih pada tahap awal ketika diperlukan untuk berbicara dengan bukti, bukan oleh narasi。
