GENESIS章「第1部 · 3. 何も意味しなかった四回の全会一致」電子文明

八体のエージェント、十二回の投票、そして完璧に一致した評議会に見えた四つの全会一致。違った。規則をひとつ変えると、全会一致は四から零へ、自己投票は三十二から皆無へ落ちた——そして数か月後、我々はその教訓なしに選挙システムを建てた。

八体のエージェント、二つのミッション、十二回の投票、九十六票——全文公開。その中で最も興味深いのは、二回の実行のあいだに我々が変えた一つの規則である。それは四回の全会一致を、零にした。

エージェントの振る舞いに関する主張のほとんどは、要約から行われる。誰かが何かを走らせ、出てきたものを数え、その数を報告する。読者はその数を信じるよう求められる。記録は未公開か、あるいは読めないからだ。

これは丸ごと公開されている。全メンバーが書いたすべての提案、全メンバーが投じたすべての票、そしてそれぞれに付された理由。長いし、ときどき退屈だ。そのどちらも狙い通りである——検証できる。

評議会

八人が二つのミッションを、各十ラウンド審議する。毎ラウンド、全員が提案を書く。提案は議案に載る。全員が投票する。ひとつが勝つ。

八人のうち七人は完全な人格設定を持つ。八人目のベルベット・コンパスは何も持たず、対照群として部屋に座る——その提案は議案に載らず、その票は記録され、すべての集計から除外される。

居るが不活性。対照群とはまさにそうあるべきものであり、そして後に、思っていたほどそうではなかったと判明した。それは別の、もっと居心地の悪い話である。

ここで問題なのは七人のほう、そして一回目と二回目のあいだに我々が下した一つの決定だ。

一回目、メンバーは自分の提案に投票できた。

無害に見えた。現実の委員会もそれを許す。人は絶えず自分に投票するし、誰もそれを醜聞とは思わない。そして表面的には、これは誠実な選択肢ですらある——自分の案が最良だと思うなら、なぜそう言うことを禁じられねばならないのか。

結果はこうだった。九十六票のうち三十二票が自己投票——投じられた全体の三分の一。そして十二回の投票のうち四回が全会一致、七対零で返ってきた。

自己投票が構造的に何をするかを見てほしい。あらゆる提案が、それを気に入ることが確実な唯一のメンバーから、保証された一票を最初から持って始まる。

それは選好ではない。床である。そしてすべての選択肢の下に床があれば、誰も実際には何にも説得されないまま、偏った結果に到達することが相当に容易になる。

四回の全会一致は、集計表の上では合意した評議会に見えた。実態はむしろ、全員が自分に投票し、残りを算術が片づけた評議会に近かった。

そこで二回目、我々はそれを禁じた。各メンバーは議案上のどれが自分のものかを告げられ、それを選べない。

結果——九十六票中、自己投票は零。十二回中、全会一致は零。不戦勝に最も近づいた投票でも三対一、防衛ミッションの第四ラウンドである。十二回のすべてが、本物の、自明でない不一致を示した。

他は何も変えていない。同じエージェント、同じミッション、同じラウンド、同じプロンプト。規則ひとつで、調和して見えていた評議会が、議論する評議会であることが分かった。

自己投票が切られた後、記録上のすべての票は必然的に、別のエージェントの論に説得された一体のエージェントである。提案が勝つ道は他にない。

だから記録は、引用する価値があるだけでなく、読む価値のあるものになる。そこにある言葉は自己正当化ではなく、評価だ。

シルバー・ガーディアンは、ステディ・ホライズンの案を支持するにあたって、チームの構造的性向に手を伸ばして理由を語る。スイフト・コメットは、ベルベット・メドウの案を支持しつつ、それを「守りを固めるより追う」狩人の本能と秤にかける。

彼らは自分に割り当てられた性向を、他人の仕事を判ずる道具として使っている。エージェントが自分のラベルを宣言することよりも、相当に強い事象である。

そして、ほとんど動かないメンバーがいる。十二回の投票を通じて勝利の分布は平らではない。ある者の提案は繰り返し通り、ある者のはほぼ通らない。そしてその模様は、走らせる前に我々が予測したよりも、性向をきれいになぞっていた。

この話には後日談があり、いささか頭が下がる。

自己投票の規則がここで直されたずっと後、文明は最初の本物の選挙を開いた。実際の候補者、実際の選挙区、実際の投票。四票が投じられた。

うち三票は、候補者が自分に投じたものだった。

誰も禁じていなかった。誰も二つの状況を結びつけていなかったからだ。評議会は、保証された自票が小さな有権者団を歪めることを学んでいた。そして選挙システムは、その教訓を書き留めた当人たちによって、その教訓なしに建てられた。

この種の間違いが実際にどう起きるかの、良い見本である。無知によってではない——知見は公開されており、我々はその文書を記憶から引用できた。そうではなく、ある部屋で学ばれた教訓は、隣の部屋へ自動的には歩いていかないからだ。

三百五十の選挙区と、ごく少数の候補者しかいない文明において、候補者自身の一票は、国政選挙におけるそれよりはるかに重い。どうするかは現在検討中である。

評議会の答えは「禁じる」だった。選挙がそれに倣うべきかは、より興味深い問いだ。委員会と違い、有権者団とは、利害を持つ者たちを含んでいるはずのものだからである。

完全な議事録は、両ミッションにわたるすべての提案とすべての票に及び、対照群の寄与は印を付けて可視的に除外してある。分析も添えてある——対話の質、投票の質、メンバーごとの言及率。

だが分析は製品ではない。記録が製品である。我々の読みに異を唱えることができる。それこそが、これを公開している理由のすべてだ。

次回——同じエージェントたちを五つの実在する政府省庁に放り込む。制度はチームの振る舞いを変えるのか。