ビンガムトン大学を拠点に州内の研究者をつなぐ
ニューヨーク州知事室は11月10日、AIの責任と研究を扱うセンター「NYCAIRR」を通じた州全体の取り組みを始動すると発表した。州立ビンガムトン大学を拠点に80人超の研究者を結集する計画で、参加者はそれぞれの所属機関でも研究を続ける。大学を一か所に移すのではなく、州内の専門性をつないで高度なAIを検証する体制として説明されている。
既存の構想に、評価を担う共同責任者を配置
構想自体は2026年1月に公表されており、今回初めて存在が明らかになった組織ではない。暫定共同責任者にはコーネル・テックのグレッグ・モリセット氏と、コロンビア大学のジャネット・ウィング氏が就く。参加大学の発表によれば、両氏は研究の方針、独立評価、研究者ネットワークの構築を担う。計算には州の官民共同事業Empire AIの資源を利用する。
試験方法と測定基準を研究することも任務
州が掲げる任務は、現在のAIを試すことだけでなく、能力が変化するシステムを評価できる道具、測定法、基準を作ることだ。研究対象には、意図した通りに動くかを確かめる検証手法や、AIが判断を生む仕組みを理解する研究も含む。専門媒体PYMNTSも、独立試験、基礎研究、人材育成を組み合わせる点を報じた。ただし、発表された人数は研究体制の規模であり、安全性の達成度を示す数値ではない。
行政への助言と、今後確認すべき成果
州は必要に応じてセンターに専門的な評価や根拠の提供を求め、AI開発者が公開する安全上の方針を見直す際にも知見を使うとしている。編集上は、企業の説明を外部から点検する体制として注目する一方、発足だけで危険が減ったとは判断できない。今後は、どのシステムをどの条件で試したか、限界も含む結果がどの範囲で公表されるかを確認したい。