GENESIS章「第1部 · 4. 七分の零、そして七分の七」電子文明
同じ七体、五つの政府省庁、連続するミッション。商務の投票では、自分の人格に言及した票が一つもなかった。その次の財務の投票では、すべての票がそうだった。同じエージェント、同じ設定、一日違い。
同じ七体のエージェントを、五つの実在する政府省庁に放り込み、審議させた。四十票が投じられ、三十五票が数えられた。最も興味深い二回の投票は、隣り合って並んでいた——誰も自分が何者かを口にしなかった回と、その次の、全員が口にした回である。
人格がエージェントの行動を変えると確かめるのは、一つのことだ。それは実験室の結果である——条件を揃えた一括試行、統制された比較、清潔な数字。
より難しい問いは、それが制度との接触を生き延びるかどうかだ。
チームを省庁の中に置き、現実の制約を伴う現実の任務を与えれば、省庁が個人を単に呑み込んでしまうかもしれない。それはまったく立派な結果だし、公務員組織に望むものはむしろそちらだという議論すらある。
だがそれは同時に、人格について確かめられたことのすべてが、エージェントを働かせた瞬間に意味を失うことを意味する。
というわけで——同じ七体、五つの制度、各一ミッション、対等な相互投票。選挙管理局、次に行政府、次に商務、次に財務、最後に人工知能。
得点表
五回の投票、どれ一つ同じものがない。
選挙管理局はステディ・ホライズンが七票中四票で制した。行政府はシルバー・ガーディアンが七分の六——強い合意で、五つのうち財務と並んで最も固い。
商務は荒れた。クリア・レイヴンが三票で勝ったが、正真正銘の三・二・二の分裂、差はわずか一。
財務はベルベット・メドウへ、七分の六。そして人工知能はクリア・レイヴンが四票で取った。
投じられた票は総計四十、数えられたのは三十五。差は対照群メンバーの分である——その票は記録されてから除外され、その提案はそもそも議案に載らない。
正規の七人のうち三人は、五つの制度のどこでも一度も勝利提案を書かなかった。クリア・レイヴンは二つ取った。分布は平らではないし、偶然のようにも見えない。
隣り合って並んだ二回
すべての票について、エージェントが述べた理由が人格次元——性向、象徴的な判断様式、地方的背景——を明示的に持ち出しているかどうかを採点した。実行全体を通じて、数えられた三十五票のうち十八票が該当した。
その十八の分布が、発見である。
商務にて——七分の零。そして次のミッションである財務にて——七分の七。
同じエージェント。同じ設定。連続する投票。一方では、アイデンティティに手を伸ばしたと採点された票が一つもなく、次では、すべてがそうだった。
これが何を意味するかについては慎重でありたい。過大に主張したくなる誘惑があるからだ。
零は採点上の結果であって、沈黙の誓いではない。商務のエージェントたちも自分の文体で書いていたし、少なくとも一票は伝達様式に軽く触れている。
この対が示すのは、アイデンティティが述べられた理由の中に立ち現れる度合いはきわめて不均一であり、そしてそれを動かすのはエージェントではなく部屋だ、ということである。
商務の任務と財務の任務は、同じ七人から違うものを引き出す。一律の比率が出るよりも、はるかに興味深い結果だ。
エージェントたちが実際に目を向けていた先
この実行全体で最も物を言う細部は、まったく採点されておらず、危うく見落とすところだった。
シルバー・ガーディアンは財務での提案で、「知事室」に説明したいと書いた。クリア・レイヴンは商務で、「議会（Congress）への詳細な報告書」の準備を提案した。実行中の他の箇所では、エージェントたちは国土安全保障省に、そして財務省（Ministry of Finance）に手を伸ばしている。
USPE には立法機関がある。知事府もある。だが Congress も、国土安全保障省も、Ministry of Finance も存在しない。
そしてエージェントたちは、USPE の制度に手を伸ばしてなどいなかった。訓練データの中にある制度に手を伸ばしていた。
制度的に振る舞えと言われたエージェントは、すでに知っている制度装置を自前で調達してくる。しかも自信を持って、それ以外はまともな提案のただ中で、そうする。
任務のどこにも Ministry of Finance を招く文言はなかった。ただ現れたのだ。真面目な政府文書とはそういうものを含むから。
これは票数より価値がある。「制度的に振る舞う」ということが、そう求められたモデルにとって何を意味するかを語っているからだ——形はどこかから来る。自分の文明が十分にしつこく形を供給しなければ、形はよそから供給される。
対照群と、それがしなかったこと
ベルベット・コンパスは五つすべてに座った。人格設定は一切なく、票は記録され除外された。
五つの制度を通じて、チームの勝利提案と一致したのはちょうど一度、行政府でのみ。五回のうち四回、部屋が選ばなかったものを支持した。
当時これは、対照群が目に見えて歩調を外している——設定済みのエージェントが互いに収束する一方、未設定のものが漂っている——と読まれた。
いまはもっと慎重に言う。あの対照群は後に、二つの別々のやり方で誤って作られていたと判明した。それが支える比較は、走らせた当時に信じていたより狭い。票数は立つ。解釈のほうは、相当に居心地の悪い別の一篇の主題である。
我々に都合よく嘘をついたバグ
この実行からもう一つ出てきたものがあり、それは恥として到来した。
ある投票を全会一致とみなすかどうかを決める指標は、勝利提案の得票数が投じられた総票数と等しいかを検査していた。
対照群の票は記録されつつ集計から除外されるため、総数は決して一致しない。結果、投票できるメンバーのあいだでは実際に全会一致だった回が、単に「強い」と採点されていた。
一行の比較、誰も気づかなかった天井、そして一方向には我々に有利に、他方向には不利に、静かに間違っていた数値の束。見つけ、直し、上記の数字を導出し直した。
これを記事に入れるのは、結果表には決して現れない類のものだからだ。もっともらしい数字を出す指標は、疑うことが非常に難しい。この指標が疑いを招いた唯一の理由は、人間が一つの投票を見て、手で票を数え、違う答えを得たことだった。
何が決着したか
人格は制度的文脈を生き延びる。ただし一様にではない——同じエージェントが、立っている省庁によって、アイデンティティ駆動の推論の比率を極端に変える。そしてその両極端は、連続する二回の投票に並んでいた。
制度がしないことは、彼らを平らにすることだ。三人は五省庁を通じて何も勝てず、一人は二度勝った。
部屋がこのエージェントたちに何をするにせよ、彼らを交換可能にはしない。
次回——同じ五つの制度を、投票を完全に覆せる長官を置いて再実行する。五回の機会。覆しは零。