Vaultを作り始めてから、「記録を残す」ということの意味が少し変わって見えるようになりました。
最初はもっと単純で、あとから探しやすくするためのものだと思っていました。以前に調べたことや考えたこと、判断したことを残しておけば、同じことを何度もやり直さなくて済む。実際、それだけでもかなり便利です。
ただ、Loop Engineのような仕組みを作り始めると、記録は単なる保管庫ではなくなってきます。過去に何をやって、結果がどうなって、どこで失敗したのか。次は何を変えるべきなのか。そういうものを残して次の判断に使っていくと、記録そのものがシステムの能力の一部になってきます。
そこで最近、人間も案外似たようなことをしているのではないかと思うようになりました。
人は何かを繰り返していると慣れます。最初は一つひとつ考えながらやっていたことが、そのうちあまり意識しなくてもできるようになる。問題が起きたときも、以前に似た経験があれば、「たぶんこの辺が怪しい」と当たりをつけられるようになります。
もちろん、人間の脳とAIの仕組みが同じだと言いたいわけではありません。ただ、過去の経験を残して、それを次の判断に使い、少しずつ行動を変えていくという見方をすると、思っていたより近いものがあります。
AIの場合は、その仕組みがやたらとむき出しで見えるだけなのかもしれません。
いま進めている開発でも、その時点で絶対に間違えてほしくないことは、直近で読む仕様書に書きます。もっと広い範囲でずっと守ってほしいことは、ルールとして抜き出しておく。そのルールができた背景や、それまでに何があったのかはVaultに残しておきます。
作業するときにはまず現在の仕様を確認し、必要なら過去の記録を探す。そこで得た情報をもとに次の判断をする。失敗したら、その結果もまた残しておく。
こうやって書くとずいぶん機械的ですが、人間も似たようなものです。いま取り組んでいる仕事については、直近の事情を一番強く意識します。何度も繰り返したことは、昔の経験を毎回細かく思い出さなくても、「こういうときはこうする」という形で身についていきます。普段と違う問題が起きたときには、過去に似たことがなかったかを思い出します。
AIとの違いは、その辺をかなり意識して作らないといけないところです。
何を保存するのか。何をルールにするのか。何を毎回読ませるのか。どの記録を探しにいくのか。この設計が雑だと、性能の高いモデルを使っていても、以前と同じところで迷ったり、前に決めたことを無視したりします。
逆に、この辺をきちんと整理すると、モデルそのもの以上に安定してくることがあります。
最近は、AIを使うときに「どのモデルが一番賢いか」だけを見るのは少し違う気がしています。そのAIが何を覚えていて、作業の直前に何を確認して、過去のどんな失敗にアクセスできるのか。実際に長く使っていくと、そちらの方が効いてくる場面がかなりあります。
そして、ここまで考えたところで、もう一つ気になってきたことがあります。
AIの「個性」はどこから生まれるのだろう、ということです。
いまの生成AIを比べるとき、どうしても性能差に目が向きます。このモデルはコーディングが強い、このモデルは文章がうまい、このモデルは推論が強い、といった違いです。多少の話し方の違いはあっても、それはあらかじめ与えられたキャラクターの違いに近く、私にはまだ「個性」と呼ぶには少し薄く感じます。
でも、同じAIに一つのVaultを長期間読ませ続けたらどうなるのでしょう。
そこには、そのAIが関わってきた仕事、失敗、判断、修正、何を重要だと考えたか、何を何度も確認したかが蓄積していきます。
同じ出来事を記録していても、残し方は完全には同じにならないでしょう。あるシステムでは失敗の原因を細かく残すかもしれないし、別のシステムでは判断基準を強く残すかもしれない。何を長期記憶に上げるのか、何をルールにするのか、検索するときにどの情報を優先するのかも少しずつ違ってくる。
それが何年も積み重なったら、同じ基盤モデルを使っていたとしても、かなり違う判断をするようになるのではないでしょうか。
それを個性と呼んでもいいような気がしています。
考えてみれば、人間の個性も、生まれつきの性質だけでできているわけではありません。
誰と関わってきたのか。どんな家庭や社会で育ったのか。何を成功と教えられ、何を避けるべきだと教えられたのか。どんな失敗を経験し、それをどう受け止めたのか。そうしたものが積み重なって、その人らしい判断や振る舞いができていきます。
社会そのものが変われば、人の振る舞いもかなり変わります。
数千年前の社会を見れば、そのことは分かりやすいでしょう。現在とは常識も価値観も大きく異なり、いまでは個人的な性質だと思いがちな振る舞いでさえ、本人を取り巻く社会や時代の影響を強く受けています。
だとすると、人間の個性というものも、脳という本体だけではなく、その人が接続されてきた社会と、そこから蓄積した経験を含めて考えた方がいいのかもしれません。
そう考えると、AIにも似たことが起きる可能性があります。
モデルそのものが同じでも、接続されている情報源が違う。経験してきた仕事が違う。残されている記録が違う。重要だとされてきたルールが違う。
つまり、同じ「脳」を持っていても、違う社会を生きてきた状態です。
このことを考えていたとき、『攻殻機動隊 STAND ALONE COMPLEX』に出てくるタチコマを思い出しました。
タチコマたちは情報を共有しています。それなのに、見ているうちに一機ずつ微妙な違いが出てきます。
以前は単純に面白いSF上の設定として見ていましたが、いまVaultを作っていると、少し違った見え方をします。
もし情報を共有していたとしても、それぞれが完全に同じ記憶構造を持っていなかったらどうなるでしょう。
どの出来事を重要だと判断したのか。どの経験を強く残したのか。何を何度も参照したのか。ある出来事と別の出来事をどう関連付けたのか。
記録の中身そのものよりも、その重み付けやつながり方に少しずつ差が出る。
すると同じ情報を共有しているはずなのに、そこから引き出される判断は少しずつ違ってくる。
たぶん今の私なら、タチコマの個体差を「それぞれのVaultの形が少しずつ違った」と考えます。
もちろん作中の設定が実際にそうだ、という話ではありません。今のAIシステムを作っている自分から見ると、その比喩が妙にしっくりくる、というだけです。
そしてこれは、これから現実のAIでも起こるのではないかと思っています。
一つのAIを長期間使い、そのAIが参照する記録を蓄積していく。仕事をするたびに判断が残り、失敗するたびにルールが修正される。それが何年も続けば、最初は同じモデルだったAI同士でも、かなり違った存在になっていくかもしれません。
しかも興味深いのは、その「個性」を別のAIにある程度移植できる可能性があることです。
人間の場合、何十年分もの経験を別の人にそのまま渡すことはできません。AIでは、経験のかなりの部分を外部に記録できます。
あるAIと進めた仕事で得た経験を、記録や仕様書、ルール、評価基準として残しておけば、次に違うAIを使っても、その続きをある程度再現できます。前のAIそのものがいなくても、何を考え、何を決め、どこまで進んだのかが残っていれば、そこから始められます。
だとすると、将来のAIにとって「個体」とは何なのでしょう。
モデルなのか。記憶なのか。モデルとVaultを合わせたものなのか。それとも、そこに接続された人間や他のAIを含めたネットワーク全体なのか。
まだよく分かりません。
でも、自分でVaultを作り、そこに少しずつ記録が積み上がっていくのを見ていると、少なくとも「AIの個性はモデルの中だけにある」という見方は違う気がしています。
Loop Engineを作り始めた当初は、自動化の仕組みを作っている感覚が強くありました。
最近は少し変わりました。
やっていることは、経験を残し、そこから次の判断を変え、その変化自体をまた保存することです。
それが十分な時間続いたら、単なる便利な記録庫ではなくなるのかもしれません。
今回作り始めたVaultも、いまはまだ情報の集まりです。
でも、ここに数年分の判断や失敗、興味、優先順位が蓄積していったとき、それは一つの「個性」と呼べるものになるのではないか。
そんなことを考えると、ただの記録作業が急に面白く見えてきます。
コメント