Hugging Face幹部がAI評価システムの難しさを警告

人工知能の開発において、ベンチマークテストはモデルの性能や安全性を示す標準的な手段として用いられてきました。主要な開発企業は、競合との差別化や規制当局への安全性の証明として評価スコアを公開しています。しかし、TechCrunch Disruptのパネルディスカッションにおいて、Hugging Faceのポリシー最高責任者であるアイリーン・ソライマン氏は、現在の評価方法には標準化が不足しており、科学的な成熟度が低いと懸念を表明しました。

評価テストに対する信頼性の根幹は、公開された結果を第三者が再現できるかどうかにあります。ソライマン氏は、再現性の確保が業界における大きな課題であり、特にモデルの重みや詳細な設定が非公開の場合、検証が極めて困難になると説明しました。オープンウェイトのモデルは、外部の監査人が正確な検証を行うための透明性を提供する上で重要な役割を果たします。非公開モデルでは、API経由の不透明なテストに頼らざるを得ず、スコアの変動理由を特定することが困難です。

相次ぐ全性の問題や規制強化の動きを受け、一部のAI企業は「組み込み型評価機関（Embedded Evaluators）」の導入を推進しています。これは外部の第三者機関を企業内に配置し、継続的に安全性や適合性を監査する仕組みです。しかし、この取り組みに対しては疑問の声も上がっています。コンサルティング企業などが高度なAIの安全性を評価する十分な技術的専門性を備えているか、また真の中立性を維持できるかについて、疑問視する専門家も少なくありません。

さらに、複雑なタスクを自律的に実行するAIエージェントの登場により、評価の難易度は一段と増しています。現在の評価はモデル単体にとどまらず、モデルを取り巻くソフトウェア環境（ハーネス）を含めた system 全体を対象にする必要があります。ソライマン氏は、優れたハーネスを備えた標準的なモデルが、劣悪な環境で動作する最先端モデルの性能を上回ることがあると指摘しました。こうした複雑なエージェント環境に対応する評価手法の開発には、膨大なコストと技術的工夫が求められます。

結論として、信頼できるAI評価のエコシステムを構築するには、マーケティング目的のスコアから脱却し crystalline な標準化と再現性を追求する必要があります。AIが社会インフラに組み込まれる中、システム全体を包含する総合的な監査ツールの開発が急務となっています。評価者の資格基準を明確にし、オープンな検証環境を整えることが、持続可能なAI開発の鍵となります。