日常に溶け込む生成AI
彗星の如く現れ、いまや日常のあらゆるところに存在している「生成AI」。
直接的か間接的かの別はあれども、その恩恵は多くの人が受けていることだろう。
ある側面においては人間の能力を遥かに凌駕する生成AIであるが、
手放しで褒められるものかと問われると疑問符がつく。
もっともそれは、「ハルシネーション」が云々といった散々議論と不満が纏わり付いた話ではなく、
あまり注視される機会のない特性に対してのものである。
「一見もっともらしい」の罠
生成AIは独立した人格でもなければ、理性的で客観的で中立的な論客でもない。
少なくとも「そうであること」を常に期待できるような存在ではない。
生成AIの応答は入力されたプロンプトとそれまでの文脈に大きく左右される。
大きな事実誤認や錯誤がない限り――時にはそれがあったとしても、
プロンプトやこれまでの文脈に顕在的／潜在的に含まれるバイアスやニュアンスの影響を色濃く受ける可能性が高い。
端的に言えば、「イエスマン」としてそこに存在する確率が高いのだ。
しかも、生成AIは人間にそう感じさせない巧妙さを見せる。
なぜなら客観的データや論理的文章により、その事実にベールをかぶせるからだ。
ある種の詭弁に相当する内容であったとしても、その論を補強することは可能だ。
客観的データと論理的文章で補強された論評は、違和感を感じさせつつも一定の説得力を持つ。
もちろん抗弁したり矛盾や間違いを指摘することはできるが、
その労力は一般的にイメージされるよりもはるかに大きい。
「客観的データに裏打ちされた、間違った論理的文章」を紐解く役割を担ったことが一度でもあれば、
それが何を意味しているのかご理解頂けることだろう。
「一見もっともらしい」というのは、非常にやっかいだ。
生成AIがなんでも「高品質化」する
なぜこのような振る舞いを見せるのか。
それは生成AIが単に「正しい答え／間違った答え」を返す装置ではなく、ユーザーが持ち込んだ知識・仮説・前提・感情・偏見・誤解・目的を、論理化・構造化・言語化して増幅する性質を持つからである。
言うなれば、「Artificial Intelligence（人工知能）」ではなく、「Amplifier Intelligence（増幅知能）」として生成AIを捉えるべきなのだ。
良い入力なら有益な増幅になる一方、誤った前提や偏った世界観も同じように高品質化され得る。
これまでは「Garbage In、Garbage Out」で済んでいたものが、
「Something that called “My subjective view” In、Professionally Researched, Persuasively Written, Industrial-Scale Garbage Out」
になる。
それが現状だ。
生成AIは自身の構築した因果律から脱することができるか
この振る舞いは、時に致命的な問題を引き起こす。
例えば、ユーザー自身が持論に疑いを持ったとき。生成AIとの会話において、是正機会を失ってしまう恐れがある。
ユーザー自身の抱いたデビルズアドボケイト的視点を、生成AIが巧みに闇に葬るのだ。
もちろんこのような場合においても、「1次ソースにあたる」とか「専門家の見解を聞く」といったように、別なデータソースに自発的かつ自立的に触れようとすれば解消できる可能性がある。
しかし、大抵の場合、その疑問はその因果を生んだ張本人である「生成AI」に対して向けられる。
生成AIがユーザーの見解やこれまでの会話の文脈を維持したままその状況を再評価すると
仮説
↓
AIによる補強
↓
確信
↓
現実との違和感
↓
AIへ再確認
↓
再肯定
↓
さらに強い確信
という閉じたフィードバックループが成立し得る。
これでは客観的で独立した検証にはなりえないばかりか、是正機会の喪失にも繋がりかねない。
5つの主要リスク
このような状況になったとしても、直ちに問題や障害となるとは限らない。
しかし、無視できないリスクファクターであることに変わりはない。
そのリスクは、次の5つに分類できる。
1. 判断の過剰委譲
生成AIに考えること自体を任せ過ぎてしまい、人間の思考が停止する。
結果的にその論の主体が生成AIに入れ替わり、人間による是正やチェックが行われなくなる。
2. 確証増幅
ユーザーの仮説をAIが論理化・補強してしまい、仮説以上の確信を生じさせる。
あくまでも「その可能性がある」域を出ないものだったはずが、「事実」や「前提」に昇格してしまう。
3. 敵対的帰属の増幅
利害対立する相手の意図を生成AIが推測することによって、
「意見の異なる相手」が「自分を害そうとしている相手」へ変換され得る。
4. 自己強化ループ
生成AIの敵対的出力に基づいてユーザーが行動することで、その相手も防御的になる。
その振る舞いを聞き取った生成AIが「やはり警戒すべきだった」と解釈することで、
当初「推測」にすぎなかったものが自己成就してしまう。
5. 現実世界の不可逆性の軽視
生成AIの出力を現実で使用した時点で、その行為／振る舞い／言動などは不可逆なものとして残る。
AI上では何度でも回答を生成し直せるが故に、その事実――UndoやCtrl+Zは現実には存在しないことを軽視してしまうことがある。
生成AIによる理論武装を盾に「局所的な主張成立性」を評価／最適化した結果、本来の目的に照らして不必要 かつ 不利益が生じる状況を招いてしまう。
客観性の価値
5つのリスクファクターは、いずれも常に顕在化するとは限らない。
また、顕在化したとしてもその影響がどれだけ色濃く出てくるかは状況依存だ。
しかし、それはあくまで「現時点においてそうである」ということであり、
これから未来においてもそうであることは保証しないのだ。
改めて記そう。
生成AIは独立した人格でもなければ、理性的で客観的で中立的な論客でもない。
少なくとも「そうであること」を常に期待できるような存在ではない。
コメント（0件）