コーネル大学等での最近の研究:Cripto x AIステータス、課題と誤解

著者:IC3

その他の組織

コア結論

AI の有意義な暗号との統合は、まだ非常に初期段階にあり、この断面積を取り巻く騒音は実際の進捗を上回りました。

暗号 X AI の方向では、AI は、既存の取引、イベント、契約の重要な性質を分析し、不正または不正なスマートコントラクトを特定することができます。 このような技術は、多くの場合、単純な機械学習方法を使用しており、よくデータ制御された環境で最も効果的です。

AI X Cripto の方向では、暗号化ツールは、AI プロセスの保護とガバナンスのための新しい手段を提供します。 ゼロ知識の認定などのツール, 信頼できるコンピューティングは、改ざんされているAI結果のリスクを減らすために使用することができます. 分散型ガバナンス、分散型インフラ管理などの考え方は、主流AIに本当に上陸していません。

業界は2つのことを証明する必要があります。

まず、集中化AIは、集中化プログラムで、より厳格な直接コストを比較する必要があります。 現在、業界は主に「分散環境で大きなモデルを訓練できる」と宣言していますが、特定のシナリオでコストで集中プラットフォームと競争する機会の量的証拠はまだ欠如しています。

第二に、暗号支払いは、その方法の集中化に関連して、その真の有用性を提示しようとします。 支払いの領域に実質的な改善が欠如しているが、業界は「アカウントは1人に属しなければならない」の伝統的な金融モデルを適用することなく、生存するよりも機会を節約するために量的証拠を使用する必要があります。

解決すべき研究課題は2つあります。

まず、AIセキュリティはシステムレベルの防衛を必要とします。AIサークルは通常、モデルレベルのセキュリティ問題に対処し、入力アウトプットの構文の周りのフェンスを設計しますが、これはエージェントの「自律性が増加し、直接ボトムインフラストラクチャに到達することができ、そして、暗号の「検証可能な実行と認証プロセスは、モデルレイヤーがそうでないシステムレベルの保護を補完します。

第二は、暗号とAIの組み合わせが、次の議論される非ストップ可能なオートアンテ、制御不能スマートコントラクトなどの新しい脅威と攻撃ベクトルを作成することです。

統合フレームワーク:AIと暗号は「インターメディア」です

自動化された意思決定プロセスは、人間の意図、入力、プログラム、出力、およびこのチェーンの各リンクが必ずしも信頼できるわけではありません。 AIと暗号は、このフレームワークの一部です。

AIは、「駐車標識を認識したい」を訓練されたモデルに変えるなど、人間の漠然とした意思を機械で利用できるプログラムに翻訳する「トランスレーターミドル」で、ブロックチェーンの使用のしきい値を下げます。

暗号は、信頼できる計算によって、一定の計算が合意通りに行われることを保証する「暗号化メールの中間体」であり、その結果は集中管理された保証システムが常に利用可能である(積分)改ざんされず、それが検閲(可用性)に抵抗し、いくつかのオプションも出力が漏れていないことを保証するものではありません(機密性)。

信頼できる計算のための3つの技術的なルートがあります。

まず、分離とリモートプルーフを提供する専用のハードウェアに依存する信頼できる実装環境(TEE)(ハードウェアは、他の当事者がチップが実質的であり、改ざんされていないことを確認することを可能にする検証可能な状態証明書を生成します)。 8Bパラメータモデルの追加料金は7セント未満で、70Bモデルは、イギリスのWEEDAの秘密の計算に基づいて、ほぼ非枯渇しています。 価格は、ハードウェアメーカーを信頼し、物理的な攻撃に抵抗しないことです。

第二に、暗号化のパズルに反するゼロ知識証明書(ZK)は、最もクリーンなセキュリティを前提としていますが、コストは非常に高いです。 約18万パラメータの小型モデリングの証拠は、1分程度かかります。前線の大型モデル未満の大きさのいくつかの注文。

第三に、複数の計算(MPC)は、複数の当事者がデータを渡すことなく一緒に計算することを可能にします。 LLAMA-7Bの単一トークンを生成する最先端のMPCトランス推論フレームワークは、約5分かかります。

予測者は、チェーン下のデータの信頼性のある配信を担当しています。 プライバシーの支柱(例:タウンクライア、DECO)は、他の情報を公開することなく、プライバシーを開示することなく、データの性質の証明をさらに支持しています。

業界は、zkTLS という技術に集合的に言及しましたが、TEE ベースのプログラムはゼロ知識の証拠を使用しず、誤名をつけませんでした。

暗号x AI:AIでブロックチェーンを強化

仮想通貨のAI研究は3世代程度です。

第一世代:分析テスト

10年以上前から、機械学習はチェーンの状態を分析するために使用されてきました:コンセンサス協定のループホールを検出するために(例えば、自発的なマイニング、すなわちマイナーは、ダグアップされているブロックを収集し、マシンの選択は、P2Pネットワーク上のソーラー攻撃を検知する(大量の悪意のあるノードを囲むには、正直なネットワークから切断し、取引価格を予測する)、および不正取引を識別する。

そのような分析は、グローバル公開情報にアクセスし、実際の攻撃サンプルのアナログデータと欠如に限定されているシナリオに大きく依存していることです。

現在の最新型のコントラクトギャップ検出では、AIが直接コードから推測することができませんが、AIが最初に疑わしいものを識別し、静的解析、記号の実行(実際にはコードを実行していませんが、コード構造を分析してループホールを見つけます)。

大規模なモデルがオーディション者になるという単なる仮定は、錯誤による大量のエラーを引き起こす可能性があり、GPT-4 と Claude は、以前に攻撃した DeFi 契約のわずか 40% で漏れのタイプを正しく識別しました。

第2世代:アルゴリズムの設計

過去6年間、集中学習は、P2Pネットワークの拡張、コンセンサス協定のパラメーターと役割の選択、分数、市場と融資のためのDeFiの利息率、およびMEV入札戦略をカバーする集中アルゴリズムの設計に使用されています。

これらの方法のほとんどは、明らかにモデル化し、研究段階に残っていることができる環境で有効であり、まだ大規模に展開されず、実際のネットワークでの攻撃のためにテストされていない。

第三世代:現実世界との交流

AI主導の予言により、スマートコントラクトは、知覚(非構造化データと自然言語の理解)、実行(チェーン下のAIモデルとツールのリコール)、意思決定(ターゲット機能によるエージェントとして機能する)の3種類の強化を取得しています。

預言者としてのAI のパフォーマンスが不均一です。 Chainlink Labsによると、GPT-4oは1660の予測された市場問題に1セントあたり89.3の全体的な精度率を持っていました。UMAのRuth Botの合計75パーセント、およびUMA Optimistic Prognatorに1セントあたり98.2パーセント(回答が真であることをデフォルトで、紛争された期間は問題なく有効です)。

精度は、問題の種類に依存しています:スポーツゲームなどの公式のデータソースの離散的な問題は、1セントあたり99.7に達することができます。

応答には3つの方法があります:まず、エラーのために設計し、低値のシナリオのためにのみ;第二に、48時間の紛争ウィンドウなどの手動仲裁を導入し、意思決定を遅くします。そして3分の1は、モデルが不確実なときに放棄されるようにし、その時点でのみ。

エリザベスOSやAI XBTなどのプロジェクトを代表するAIモデル・コレクティブ・トレーディング・レポート「Investment DAO」は、それぞれ$ 2.7億と$ 4.7億のピーク市場価値を持ちます。 これらの製品は、「CoinAlg Dead」として知られる、目に見えないデザインジレンマに直面しています。

戦略が透明である場合、それはサンドイッチによってコピーまたは取り去ることができます(犠牲者 ' s トランザクションの前後、スライドの仲裁で)。それが機密保持されている場合、戦略のインサイダーは、インサイダー取引と等しい情報不足から事前に利益を得ることができます。 両路は普通の投資家を傷つけます。

初期の緩和の考え方は、TEEパッケージを使用して取引をランダム化し、インサイダーが予測するのはより困難です。

新しいリスク:AI主導のMALIGNインテリジェンス契約

スマートコントラクトは、対人的信頼を置き換えるために使用されます。これは、少なくとも信頼できる関係のパーペレータがそれらに利益をもたらす可能性があることを意味します。

1つのメカニズムは、契約が犯罪に対する報酬であり、パーペレータは、以前のパスワードで「秘密」を約束し、その後発見され、AIモデルは、ニュースレポート、手数料の確認後に自動的に報酬を支払うことになります。 AIは、過去に自動化することが困難だった「判断」の役割を想定し、ターゲットを絞ったハラスメント、組織の知能の盗難、ウィズルブローワーズのアイデンティティを明らかにするなど、そのようなコンテキストで使用することができます。

可視対策は、追跡のチェーン分析、関与する資金のブラックリスト化、およびAIモデルを展開する予測者による高リスク要求におけるサービスの拒否を含みます。

AI x 暗号化: 暗号化でAIを強化

aIへの暗号の潜在的な貢献は、AIのライフサイクルの集中化とそれらのリンクの保護の2つのカテゴリに分類されます。

インフラの集中化

集中型物理インフラのネットワークにアクセスし、ノードへのクレジットインセンティブなどのリソースを提供します。 AWS コストの 50% から 85% を節約するアカッシュ、その他の要求は、主要なボトルネックは、ノード間の通信のスループットと遅延です。

タスクの種類によって適応性が異なります。 トレーニングは遅延(オフライン)に敏感ではありませんが、クロスジオ同期通信はボトルネックであり、分散ハードウェア(Bittensorおよび7B、プライムインテルレック-1、Psycheネットワーク上の最大40億パラメトリックモデルの数十億のパラメトリックモデルのトレーニングから得られた結果です。

推論は遅延に敏感であるが、摂取の要件は、トレーニングのそれよりも低く、逆(トレーニング中にレイヤーによってエラーバックレイヤーを送信するためのコアステップ)で分別されず、不感的な推論の遅延(会議の記録、ドキュメントレビュー)は、特にDePINに適している。

重要なギャップは、これらのプロジェクトの大部分は、トータルエンドツーエンドのコストを報告しないということです。 ML ミッションの実費がトレーニング効率(単価あたりの反復の数)と推論効率(単価あたりのトークン数)である一方、彼らは1時間あたりのシングルブロック GPU の価格を促進します。

データおよびモデル市場を一元化するため

通常の商品の特徴と異なるAIデータ。 それはデジタルコモディティで、初めて作成するのは高価ですが、ほとんど無料です。 主に非競争(1つのデータは損失なしで同時に使用できる)。 品質は、事前に判断するのは困難です、すなわち、「サイレント市場」の問題(バイヤーは、品質を優先することができません、良い品質のクラウドファンディングにつながります)、そして売り手は自分自身で価値のあるサンプルを提供する必要があります。 そして、再売られ、それは2つの物質が同じデータを定義するのは困難です。

集中的な市場での論争は、価格設定が透明ではなく、ユーザーの選択を制限することですが、集中的な価格設定は、より多くの情報を持っていることによって、より効率的になります。

データ市場はまだ一元化されていないし、集中化されたウィンドウ期間によって再設計され、マイクロペイメント、TEE(特定のミッションのみ制限されたデータ)などのツールを使用して、知識のゼロ証拠(データを開示することなくデータの性質のバイヤーに開示)。

事実の問題として、ほとんどのプラットフォームは暗号化された通貨でのみ決済チェーンを完了し、価格設定メカニズムは、当事者が合意に決定するか、またはベンダーに完全に渡されます。その両方が既に集中された市場で存在しています。 集中化の面で改善されたものに関する研究はまだ欠如しています。

エージェントペイトラックとx402

エコロジー自体は分散されています:異なるモデルは、異なる目的を開発し、最適化し、自然な中央制御ポイントを持たないために使用されます。 暗号のコード経済の哲学(参加者の行動を経済報酬と報酬の組み合わせと結びつける)は、エージェント・ガバナンスに移すことができます。

マイクロペイメントは経済の鍵となります。 インターネットの歴史では、マイクロペイメントは繰り返し失敗し、クレジットポイントは、インフラではなく、各小額の支払いについて判断するコストである。 エージェントは、マイクロペイメントを人間よりもはるかに速く評価し、ユーザーは、マイクロペイメントが初めて実行できるようにする戦略だけを設定する必要があります。

Claudflareは、「Crawling Pay」、402(HTTPを介してチェーン上で直接小さな支払いを完了するための手順を開く)などを導入しました。

システムの根本的な資産は、安定した口座単位(すべての商品のための一般的な価格のスケール)で、ETH、SOLなどの元の通貨は過度に揮発性であるので、安定した通貨(USDC、USDT、Dai)によって支配されます。

エージェント間の信頼は、登録フォームのチェーンに依存します(例えば、ERC-804、エージェントのチェーン上のアイデンティティと評判を作成するための提案の基準)、アイデンティティと評判を記録するが、これらは本質的に自己宣言であり、定評のあるプレーヤーに適しています。

追加のオプションは、エージェントの監査を検証する必要があります: LLMのレビューは、TEE内で実行され、排他的なエージェントコード、出力の評判評価、監査結果は、コードの橋に縛られ、認証者に信頼できる保証を提供しながら、コードはプライベートを維持できるようにします。

無停止自律性エージェント(UAA)は、別のリスクです。 フロントラインエージェントは、2019年以降7ヶ月ごとに約2倍の期間、自分のタスクを実行できるようになりました。 このモデルは、自発的な赤い線を破壊し、独立したコピーを作成するためにローカルにモデルができるようにされていることを研究しましたが、外部のインフラへのレプリケーションはまだ識別に固執しています。

AnthropicのMythosモデルは、ゼロデイループホール(メーカーにはまだ知られていないループホールでパッチで満たされていない)を自律的に識別し、活用する能力を実証しました。 「運営者」を中心とした既存の規制枠組みのブラインドゾーンに落ちることはできません。

ガバナンスの集中化

エリアチェーンコミュニティは、自然に分散され、幅広い利害関係者を含むことを求める方法で流通システムを制御するための長い歴史を持っていますが、よく認識されるショートボードもあります:セキュリティループホール、嘔吐への無関心、および賄賂。

コミュニティ・ガバナンスは、AI開発コンポーネント間で変化します。事前学習データは、有効な意見を収集するために大きすぎ、そして価値は微調整フェーズでより明らかです。ボトムレベルの構造選択は、コミュニティ・ガバナンスに適さない技術的決定です。評価とアライメントは、技術的で規範的な判断と混合され、コミュニティの入力は価値があります。

構成AIは、人造の「憲法」に従う原則を設定します。 Anthropicは公共の投票の原則の導入に関与しており、オープンソースの原則によって訓練されたときにモデルの社会的偏見が低下します。 しかし、そのような民主主義のガバナンス実験は、実際には実施されていないが、AIはモデル制御を渡すためのインセンティブを欠いています。

DAOの為替は「金力政治」として認識され、第二党投票(巨大な捕鯨を治すための追加の投票の増分コスト)、信仰投票(保留期間にわたる体重の蓄積)、投票の委託など、その有効性は不明です。

AIの実装の完全性を保護する

スマートコントラクトは、その能力を上回るMLによって計算されると、それらは「仲裁人」であることができます。締約国は、担保とともに使用されるモデルとデータに自分自身をコミットし、チェーンの下の計算が完了し、結果は検証のための契約に提出され、間違ったパーティーは罰されます。 トレードオフで4つのルートを確認しました。

まず、最も効率的であるTEEは、オペレータが信頼されていることを提供し、完全性を計算するための信頼できるハードウェア署名によって認証されます。

第二に, 最適化された実装, 結果は、非final として見られます, 紛争ウィンドウ, 2 点の検索で (エラー範囲の半ステップを繰り返します, 速追跡手順) 罰される前に単一のエラー指示に位置。

難しさは、MLフロート操作の不確実性にあります。これは、操作の制御された順序で対処する必要があるか、または不法な用語の意味で(2つの計算が同じ順序で分割されることを必要としません。これにより、それらはエラーのマージン内で一貫したとみなされます)、Verde、TAO、Arbigram、OPMLなどで表されるプログラム。

第三に, 知識のゼロ証拠 (zkML, AI 推論プロセスを正当化するためにゼロ知識によってサポート) は、モデルのパラメータを隠すか、出力を入力することによって正当化することができます, CNN のための専用のプログラム付き, トランスと汎用コンパイラ (例えば EZKL, ZKML, DeepProve)。

隠し入力、隠し重み、モデル構造の3つの層がありますが、よりプライバシー、より複雑な回路、スペースを小さくし、プライバシーと効率のための基本的な緊張が存在します。 主な費用は、非線形層と値から派生しています。これは、長い文脈、大きなモデル、および高いスループットサービスを維持することはまだ困難であることを示しています。

第四に、統計的な推論は、合理的は2つの異なる機能を持つモデルであり、内部で計算された特性は必ずしも異なっていることを証明しています。従って、サンプリングがこれらの特性と比較している限り、その推論が実際に割り当てられたモデルによって実行されるかどうかの確率で判断することができます。

それはミリ秒で費やされていることを証明し、それはすぐに終了し、高周波と低遅延のシナリオに適しています。 サービスプロバイダー(より安価な蒸留バージョンに変更、既に整列されているものを交換するなど)によってモデルを変更したり、そのような悪意のある現実をガードできますが、未解決のままの計算レコード全体を完全に消去することはできません。

モデルの訓練(ゼロ知識によって証明されるzkPot)の証拠は、推論の証拠よりもはるかに困難です:それは長く持続します、それは中間に蓄積します、それは非常にランダムであり、それは推論よりも複雑の大きさのいくつかの注文です。 関連する作業(Garg et al., Kaizen)は、トレーニングデータソースと公正性(Zkaudit, Confidential-PROFIT)を制限する監査可能な証明書の進行と拡張を進めています。

訓練パイプラインの保護

個々の機関が信頼できるデータトレーニングモデルを使用している場合、通常はすぐにプライバシーや完全性の問題はありません。 複数の共同訓練やデータソースがある場合、複雑なセキュリティ課題が発生します。

典型的なシナリオは、複数の病院のための共同訓練診断モデルです: 当事者の電子医学記録(EHR)の組み合わせは、患者のより広いグループをカバーし、診断の精度を向上させることができますが、HIPAAなどの規制に応じて、締約国は、直接各または他の第三者に生データを渡すために寛容で寛容です。

同じことは、不正防止モデルの金融機関の共同訓練、侵入検知モデルの共同事業訓練に適用されます。

連邦学習は、この目的のために設計されたプログラムです: トレーニング環境は、グローバルモデルを開始し、すべての当事者にそれを配布するように設計され、プライベートデータでローカルに更新され、唯一の送信され、トレーニング環境から新しいグローバルモデルに統合され、ローカルで利用できるようにします。

しかし、限られた連邦学習があります(最も有名なアプリケーションは携帯電話の入力の投影です)。 締約国が正直である場合でも、データと計算の完全性を保証するものではありません。通信コストが高く、ネットワークと協調遅延の遅延は、全体的な速度を遅くし、モデルは集中的なトレーニングよりも正確であり、悪意のある参加者はモデルを毒したり、バックドアに植えたりすることができます。

より簡単な代替手段は、TEEでトレーニングを集中することです。トレーニング環境は、信頼できる機密コンピューティング環境で実行され、暗号化されたチャネルを通じて、各パーティから生データを受信し、訓練されたモデルのみをエクスポートし、訓練されたモデルのみをエクスポートし、モデルトレーサ(データ提供、モデルの訓練)を同行します。

コストは、固有のサイドリンクリスクとTEEの高いI/O費用です。 実際の代理店の多くは、データをコンプライアンスクラウドにプールし、隔離、アクセス制御、暗号化、データ使用プロトコルを使用してコンプライアンスを満たしていますが、これはクラウドサービスプロバイダの信頼を必要とします。

プライベートネットワークのデータは別のアイデアです。 開いたネットワークのテキストデータは、制限(2025と2030の間に枯渇する予測)に近づいています。合成データは「モデル崩壊」の危険性にあり、既存の領域を超えてデータカバレッジを拡大することはできません。

そして「プライベート」ネットワーク(メール、健康、金融など、爬虫類に開放されていない)は、まだ採掘されていない豊かな鉱山であるオープンネットワークよりも大きい倍率の2つの注文であると推定されているが、今、非常に分離されている。

預言者はこのドアを開けます。 医療記録をアップロードする患者の訓練のための医療モデルの場合には、ユーザーは、病院のポータルからトレーナーに自分の医療記録を転送し、データが確かにポータルから来ていることを証明するために、病院がプロセス全体にインフラストラクチャを変更する必要性なしで、接続がユーザーによって開始されるので、予後機械を使うことができます。

プライバシーを同時に保護するためには、プライバシー予測者(暗号化チャネルを使用してデータ)とTEEを監督する必要があります。 また、データを送信する前にユーザーが確認できる「出力モデル」プライバシートレーニングソフトウェアを実行するユーザーを表示することもできます。

このベースでは、より詳細なコミットメントは、差分プライバシー(モデル出力は、トレーニングデータの任意の1つに非常に少ないに依存します)に追加することができ、データはすぐに削除され、モデルがホワイトリスト病院に限られます。

安全ロジックパイプラインと保護パイプライン(プロップ)

同一の預言者と同一の計算は、プライベートデータのセキュリティ推論にも使用できます。

銀行の融資承認を例に挙げてください。モデルは、申請者の ' s の財務文書、輸出承認または拒否を読みます。 今日のプロセスは、材料が真であるか否かを確かめる貸主の不能性を2つの質問を上げる借主のダウンロードまたは写真のアップロード材料自体を含みます。そして、貸し手のモデルシステムからの借り主の潜在的な漏出は、両方の当事者に危険です。

プライバシーの予後マシンを使用して、ソースの真正性を解決し、プライバシーを解決するための秘密の計算は、セキュリティの推論のための水路を提供できます。貸し手はモデルの発見だけを見て、入力が信頼できると確信しています。

プライベートソースは、識別および文書システムとして機能することもできます。

銀行の流れを転送する借主の能力, 自分の身元を運ぶW-2フォーム, 自体は、アイデンティティの強力な証拠であります, 既存のネットワークサービスは、アイデンティティの盗難や福祉の不正に対する一時的なアイデンティティシステムを作る; モデルは、このに基づいて証明書を発行することができます, そのような「資格の適合性」の証明書や推論の行の証明書など, マイクロエンタープライズの税と運用材料をチェックした後、。

プロセス全体が一元化され、理論的には、データソースや確立された当局を必要としない理由の信頼できるラインを設定することができます。

Opposive 入力は頑固な挑戦です。 攻撃者は、普通に見える銀行を提出することができますが、慎重に適応され、非常に高いバランスと間違った融資を読むためにモデルを欺きます。 学術コミュニティによる反対のサンプルの研究は、「ひび割れたパッチ」のサイクルであり、これまでに一般化されていない。

conduit のセキュリティは、認証ネットワークのソースへの入力を制限するという新しいアイデアを提供します。したがって、攻撃者のためのスペースを減らして、対立入力を構築し、防衛のモデルレイヤーを補完します。

モデル自体のプライバシーは保護する必要があります。 攻撃者は、慎重に構築されたクエリ(機能の抽出とモデル全体)、メンバーのエキストラポレーション(人' sデータがトレーニングセットにあるかどうかを判断するために)、または生のトレーニングデータの復元を通じて、システムの構成と前処理の選択をモデル化することができます。

研究者は、約$ 8000が大きなモデル層の体重を盗むことができると推定しました。 オープンシステムで一般的に使用される速度制限は、個々の匿名ユーザーは、ウィッチ攻撃(Sybil攻撃)を起動する多数のユーザーとして自分自身を偽装することができますので、壊れやすいです。

セキュリティ推論パイプラインは、両方の端から容易にすることができます: 予後処理機で広範なクエリの多様性を必要とする抽出攻撃をデターするために入力の種類を制限することにより、; パイプライン内で生成された堅牢な識別を使用して、各ユーザーのクエリの最大数を示唆し、プラットフォームにユーザーのアイデンティティを露出することなく実行できるようにすることで、魔力攻撃を抑制します。

エージェントのメモリは、攻撃の新しい顔です。 攻撃者は、外部材料からのツールや汚染の手段によって、エージェントに供給するコンテキスト(メモリーインジェクション)は、多くの暗号化されたアセットを管理するエリザベスOSのフレームワークで異常に振る舞いを促すことができます。汚染されたコンテキストは、無許可のトランザクションを開始するためのエージェントを誘導することができます。

TEE は部分的にマイティゲートできます: TEE 内のエージェントの実行を許可するか、認証されたコンテキストのみをプルします。

しかし、TEEでも2つの難しさがあります。

まず、ユーザー自身が生成したソーシャルプラットフォームのコンテンツや送信者など、信頼できる情報源に汚染された要素も簡単に自分の投稿を毒することができます。

次に、TEE演算子はロールバックまたは分割フォーク攻撃を起動し、TEEステータスを古いチェックポイントに戻し、更新後にメモリを消去することができます。

前者は、コードによって解散されていないコンテンツテストの問題です。後者はコンセンサスによって対処でき、ROTE、Narratorなどのシステムでは、分散プロトコルやパブリックチェーンを使用して、TEEステータスの一貫性と鮮度を保証します。

このセクションの構造は、既存のインフラストラクチャを変更することなく、個人データの使用を保護することを目的とした「プロップ」ジェネリックフレームワークとしてまとめられています。

予測者と信頼できる計算を3つのパラグラフにまとめます。予測者は認証されたプライベートドメインソースから番号をとり、ソースを証明します。TEEは暗号化された境界、TEE出力モデル、または結論の範囲内でトレーニングや推論を完了し、パイプラインプロパティ(データソース、ソフトウェア、モデル、HASHIなどのコード)を記述する証明書を添付します。

Propsは、エンドツーエンドの入力整合性(信頼できるプライベートソースからの認証データのみに依存する出力)、デフォルトの機密性(入力および中間状態は保護された境界と唯一のパブリック出力を持っていません)、有望な非開示(データプロバイダと結果のユーザーは、完全性と機密性を確信していることを確認してください)。

また、データと計算が機密でない必要がある「透明」バージョンがあり、公私および私的でのみ認証およびソースが必要です。

クリスタル×AIの5つの誤解

よくある誤解や誤解を招く文の数が、Cripto x AI プラットフォームやアプリケーションを中心に業界に登場しています。 次の5つの記事は徹底的に偽りなく、鍵はどの部分が配置されているかを明確にし、さらに多くの証拠を必要としていることです。

エラー1: ブロックチェーンは、AI生成されたコンテンツと人間の生成されたコンテンツ間で区別できます

コンテンツの登録がリンクされ、AIや人間から判断できるとよく引用されます。 既にAIのコンテンツを連鎖するプロジェクト(Everlyn AIなど)があります。 しかし、ブロックのチェーンは常識ではできません。コンテンツテストやコンテンツのトレーサビリティの質問とは別に表示する必要があります。

コンテンツテストでは、コンテンツが人やAIによって生成されるかどうかを判断します。 現在の主流は、あらかじめ植えられたメタデータや信号に依存しない、その後の反応テストです。2つのカテゴリ:AIの課税、詳細な学習とモデル固有の統計的特徴を識別します。そして、ピクセルレベルのノイズ分布と構造異常を分析する統計フォレンジック(例えば、AIの物理的影響)。

問題は、ブロック自体のチェーンがこれらのチェーンの下に情報を感じることができず、分類結果は外部の課税によって提供されなければならないことです。 チェーンは、この結果だけを固定することができます, レコードが提出された後に改ざんされていないことを保証する, しかし、彼らが書かれているとき、彼らは本物です. 外部ディテクタが誤った場合、ブロックチェーンはエラーを永久に保ちます。 つまり、ブロックのチェーンは「宣言は本物」ではなく「宣言の完全性」を提供します。

コンテンツのトレーサビリティは、デジタルアセットの作成を記録する歴史です。 C2PAなどの業界標準では、作成者やデバイスがパスワード署名のメタデータ(コンテンツバウチャー)をメディアに添付できるようにし、ソース、著者、およびその後のエディタを記録し、番号プロトコルやスターリングラボなどのブロックチェーンを使用して、これらの文書の公開不能な登録フォームを作成することができます。

しかし、チェーンに固定する堅牢なトレーサビリティシステムでも、もともと人間やAIによって生成されたコンテンツを保証するものではありません。

ユーザーは、高レベルの画面でAIの生成イメージを撮影し、C2PAにマッチするカメラを使用し、「本物の写真」としてマークされている有効なシグネチャと文書を入手することができます。テキストは同じです。AIは、コンプライアンスエディタに手動で作成され、再投稿され、「人の作成」の正当なトレーサを持っています。

また、チェーンレコードと一致しないレベルのコンテンツが変更されたら、トレーサビリティが壊れ、すべての要素をカバーする一般的な登録フォームは、トレーサビリティシステムにおける重要なギャップを持つ、予期せぬ未来で生成することはほとんど不可能です。

要素: 狭い意味では、ブロックチェーンは、トレースソースメタデータに対する健全な完全性の保証を提供することができますが、それらは完全なソリューションからAI生成コンテンツテストの問題までです。

本当に効果的なプログラムは、すべてのコンテンツが信頼できるデバイスでキャプチャされ、すぐにチェーンアップされ、現実のコンテンツの大半は、パスワードアンカーをサポートしていないツールによって作成され、共有され、驚くべきコンテンツは漠然としたゾーンに残ります。

MISTAKE II: ブロックチェーンまたはデセントライゼーションは、AIのバイアスとエクイティの問題を解決します

「モデルの推論とトレーニングを強化すると、AIの不公平性とバイアスに対処します」、異なる種類の偏差を要求する広範な声明。

アルゴリズムのバイアスはAIの円の公正の最も一般的な概念です。 モデルは、学習したり、データセットで無視したり、不均衡したり、脆弱なグループと負の傾向のモデル間で送信されたモデルのパフォーマンスを低下させ、トレーニングデータ(例えば、有害な言語、エントレンデッドステレオタイプ)に従うモデルを生成します。

学術コミュニティは、トレーニングと推論のための技術的なオプションの大きな範囲を思い浮かび上がっていますが、これらの保護は完璧から遠くにあり、公正性はまだ問題ではありません。そして、一度も解決しなくてもよいでしょう。さらに、「株式を定義する方法」自体には、トレードオフの大きな取引が必要です。

集中化はアルゴリズムの偏差に対処しません。なぜなら、それはトレーニングプロセス自体から成り立ち、通常、根本原因に到達しない改善されたトレーニングや推論技術によって緩和されます。

しかし、モデルのパフォーマンスに影響を与える偏見の第二のソースがあります。データ、構造、コントリビューターを補正する方法。 このレイヤーは、AI サークルで一般的に理解されている公正性と肯定的な関係を持っていますが、アルゴリズムのバイアスに影響を及ぼす可能性があり、2 つの機能の濃縮によって部分的に改善される可能性があります。

最初の機能は透明です。 開発者は、ブロックチェーンを使用して、データ、トレーニングアルゴリズム、モデルチェックポイント、推論列を公にコミットして、オペレータが特定のトレーニングや推論の出力を追跡できるようにすることができます。

しかし、既存のシステムのデータの大部分がチェーンにあり、ユーザーに直接アクセスできず、短期の透明性のメリットが理由に限られている場合、大規模なモデルやチェックポイント(保存して計算する費用がかかりすぎる)などのトレーニングタイム製品に拡張することは困難です。

業界がこの透明性が機能し、どのインタフェースが提供すべきかについて明確に考えている場合を除き、それ自体のより重要な透明性は、人々がAIを開発し、使用する方法を変更することはできません(例えば、ユーザーがデータを誤用していることを報告できるようにするため、その結果、実際のデータ所有権の確立と機械メモリの)。

第二の特徴は、分散型ガバナンスであり、2つのカテゴリ間の差別化を必要とします。 最初は、ブロックのチェーン(カルネット・ウェイト・ウォッティング、モバイル・民主主義、信頼への投票を委任できる人々への後者の言及)で探索され、使用されているコミュニティ・ガバナンス・メカニズムで構成されています。そして、第二は、DAOが代表する分散型自己政府で構成されており、ガバナンスの決定はスマート・コントラクトによって執行されます。

一般的なデノミネーターは、コミュニティ・ガバナンス・メカニズムがブロック・チェーンを必要としないため、「ブロック・チェーンで解決するAIの問題」として説明するのは正確ではありません。 技術的でパフォーマンスに敏感なAIの意思決定は、幅広い投票、価値指向の意思決定(モデルアライメントなど)には適していませんが、主流のAI開発者は探していますが、実際には上陸していません。

スマートコントラクトが真に執行するガバナンス(直接執行または約束)のチェーンは堅牢性を高めていますが、チェーン上の透明性と同じ技術的な障壁に直面しています。現在のインフラはAIのストレージとコンピューティングの必要性を保証できず、トレーニングの重要な進歩は検証する必要があります。

要素: ブロックチェーンはアルゴリズムバイアス自体を低下させないが、AIライフサイクルのあらゆる段階で透明性を促進し、AIガバナンスへの参加を広げる。

Mistake 3: AI にウォレットを意図して「無料」にする

「エージェントウォレット」と「決済契約」を作るプロジェクトは、多くの場合、それが稼ぐことを可能にするAIに財布を与えると主張し、支出し、生きます。 そのステートメントは、いくつかの異なる概念を混乱させました。

「autonomy」が2つのフィールドに異なる意味を持つという事実から、違いが最初に来ます。 AI文脈では、自律性は、定義されたルールではなく、認識、学習、経験に基づいて行動する能力として定義されます。スマートコントラクトは、多くの場合、自律性と呼ばれていますが、操作、検閲、および拘束に対する抵抗に重点が置かれています。

前者は「知的自律性」と呼ばれ、後者は「執行自律性」と呼ばれます。 現代のAIは、かなりの知的自律性を持っていますが、必ずしも役員の自律性ではなく、管理者はサーバーをオフにすることができます。

そして、Angentの財布は、自己完結しているもののどれも持ち込まれています。 ウォレットを持つと、AIをスマートにしたり、人間の操作や閉鎖に対してより耐性を持たせたりしませんが、それは自動化をもたらします: エージェントは、手動で承認せずにチェーン施設をプログラム、転送、呼び出しすることができます。

この自動化は、ブロックチェーンとは一意ではなく、一元化された財務インフラも個別にプログラムすることができます。 より堅牢な解釈は、チェーン決済システム自体が、集中化プログラムよりも、より一層の自律性(エージェントサービスだけではありません)を提供することです。例えば、エージェントの取引が異なる処理されていないことを確実にするなど、中性および検閲。

ポイント: Angent の財布は、AI のエージェントが簡単に金融インターフェイスにアクセスし、経済の相互作用を自動化し、手動の承認を回避することができますが、自動化は自律性に量はありません。 ウォレットだけでは、人的制御(オペレータは依然としてそれに依存するモデルや施設をシャットダウンすることができます)からアンジェントを削除せず、自動決済は、集中システムとしてブロックチェーンを必要としません。

ブロックチェーン決済の実際の販売ポイントは、中立性と検閲に対する耐性にあります。これは、支払いが抑制または干渉される恐れがある状況に適しています。

エラー4:透明なAIは信頼できるAIです

チェーン上でモデルのデータソースと推論を置くことは、AIの信頼性を保護するための理想的なツールであるように思われます, 広く引用されたIBMブログから来る引数は、AIデレゲートと呼ばれています. しかし、それは2つの層で分解される必要があります。

モデルレイヤーの透明性の観点から、トレーニングデータソースの記録はモデル作成の透明性をもたらすようですが、「データソースの記録」と「モデル行動の維持」の大きなギャップがあります。

まず、チェーンレコードはレコードだけであり、ソースを等しくしません(トレーニングパッケージの構成の実証は追加の専門知識が必要です)。

次に、トレーニングデータが十分に利用できる場合でも、トレーニングプロセスとコンピューティング環境がモデルの動作を均等に決定するので、モデルの実行方法を決定するのは十分ではありません。

第三に、データからモデルまでの完全なプロセスがモデルを再現するのに十分な場合でも、ランダムなトレーニングでは不確実性が「モデルの重みを検証するためのプロセスの訓練」が実現できない。

また、重量が取られた場合でも、トレーニングに注入されたバックドアや対立操作を検出する普遍的な効果的な手段はありません。モデルデータとトレーニング情報のチェーンは、行動の特徴や対立操作の欠如を直接保証しません。

推論層における透明性の観点では、モデルと対応する推論の連鎖はモデルの使用において透明性をもたらしたが、ブロックのチェーンは、推論ではなくトランザクションの透明性を可能にします。 Zを推論して入力Yのチェーンに「モデルX」を録音し、Zを信頼性に証明することができません。

「右実行」を証明できないため。

実装が正しいことを証明する場合でも、より基本的な質問は、モデルXの完全なソースレコードが、ユーザーの期待や業界規範を満たしている、そしてモデルを設計するための重量の使用が、そのモデルのアイデンティティがその信頼性に量ではないので、相乗的な証拠を提供していないということです。

ブロックチェーンは、エージェント ' s などのいくつかの信頼できる目的に確かに有用です。 オープンソースの重みモデルの Hashi 出版物 を非取り外し可能な参照として使用して、ユーザーは、非調整された実際のモデルを使用していることを確認できるようにします。 類似の反偽物ログ思考は、ソリッドピースで証明書のレコードと透明性を更新するためにも使用されます(ブロックチェーンの追加ログのみが、一般に監査できる証明書の発行を維持するために使用されます)。

重要なポイント: モデルデータソースと推論の連鎖と「モデルと推論の関連性」の間のかなりのギャップはまだあります。

間違った5:AIのミッション・マネーを救うために中心に行きます

1つのプロジェクトでは、より効率的で費用対効果の高いAIオプションとして、通常、物理的なインフラネットワーク(DePIN)の集中化を使用して、ユーザーは自分のハードウェア(GPUなど)を低コストでレンタルし、同じクラウドサービスプロバイダでそれを借りるよりも、DePIN GPUを借りる方がはるかに安いかもしれません。

しかし、安価なマシンは必ずしも全体的なミッションコストを削減する必要はありません。 パブリックネットワークを介して通信し、ノードを一元化し、AI ミッションのスループットと遅延された需要は、メガタスク(トレーニングのフロントラインモデルなど)がボトルネックを嚥下することで制約される間、トータルコストに大きな影響を与えます。

業界が従来のクラウドでDePINのAIミッションのパフォーマンスとコストを比較するための体系的なベンチマークが欠けているため、直接コスト比較は現時点で困難です。

ポイント: Decentrization ネットワークは、コストの高い集中型のクラウドに魅力的な代替手段です。しかし、利用可能なデータは、DePIN または非集中型の AI プラットフォーム上で、ミッションが集中したクラウドよりも安くなると予測できません。

小規模なタスク(デリンテーション、小規模なトレーニング)は、より高価である可能性が高くなりますが、超大型のタスク(基本的なモデルのトレーニング)は、ノード間の不安定、低帯域幅の通信によって妨げられることがあります。 これらのトレードオフを明らかにするために、より多くの研究が必要です。

これらの5つの欠陥の共通分岐器は、ブロックのチェーンが「現実」または「信頼性」自体よりも「完全性」と「検証可能」を提供するということです。 クリプトx AIは、物語ではなく、証拠と話す必要があるときの初期段階ではまだあります。