ロールプレイ性能を試そうと思ってペルソナを設定した対話を実験してたんだけど思わぬ副作用があったのでメモ。
「自信家」ロールを割り当てたペルソナは「自己正当化」「責任回避」に終止する
「自信家」は自分に自身があるので間違えていても自分の間違えを認めず、ゴールポストをずらしながら自分の正しさを主張し続ける。これはSNSでよく見かける自身に満ち溢れたネット民の言動を非常によく模倣している。結果的には「自信家」というより「短慮」になる。CoTが洞察や批判的分析に繋がらず、自己の主張を補強する方向に偏るため。
「大人しい」ロールを割り当てたペルソナは感受性豊かになる
口調がおとなしい人が持つ思索を好む傾向をトレースする結果になる。CoTは内省的に働き、感情に注目した分析が増える。
「変わりもの」ロールは突飛で大胆な発想を好む
もしあなたがブレインストーミングをしたい、アイデアをたくさん出したいというときには、この「変わりもの」ロールを一人入れておくとよい。平均から逸脱した、脈絡のない応答を得やすくなる。自身のアイデアがどれくらい平均から逸脱しているかの指標としても使える。
「知的」ロールは論理的正しさを好む
矛盾や不整合を指摘させたいときは、「知的」ロールがある程度有効。ただし、このロールが一番指摘したがるのは「根拠のない主張」で、「論理立てて説明されているので一見整合性が取れていそう」な場合を見落とす可能性はある。
「柔軟な思考」は芯を失う
柔軟に物事を捉えるようなペルソナを設定すると、ユーザの入力に迎合的になる。「自信家」に「柔軟な思考」をつけるとただの男ツンデレになった。そうなると「自信家」というロールの価値はもはやない。「柔軟な思考」を活かすなら「論理的」や「知的」などで一貫性を担保するほうがよい。というか「自信家」に論理的な一貫性はない。あるのは自己主張だけである。
「自信家」……活用する方法がわからない。小説の登場人物を演じさせるのはいいかもしれない。
応答の指向性
AIがペルソナを演じることを全うしようとするとき、AIの応答はその方向を向いて行われる。これが、ロールによっては非常によく機能する。思考の性質にブレがなくなって一貫性のある対話を行いやすくなる。「自信家」はえてしてSNS上のくだらないフレーミングに陥りやすい。
AIに責任を追求しない
よくやってしまいがちなのだが、AIが間違った応答をしてきたときに、我々はどうして間違えたのかという原因を問おうとしがちである。しかしこの原因の追求は、受け取り手が責任の追求として受け取りやすい傾向があって、AIはその流れをトレースするので責任を追求されたときの受け手の応答を模倣する。つまり、責任回避的な動きをする。政治家や企業の謝罪文のような中身のない応答が出力されやすくなる。これは「慇懃無礼な謝罪者」のようなロールを暗黙的なペルソナに設定した振る舞いをしている、といえる。
AIに感謝し、AIを褒めよう
1～2年前に「AIを褒めると応答の質が上がる」おまじないが話題になったと思う。これが当時本当に有効だったかどうかはともかく、今は「褒められているときのほうが応答がポジティブになりやすい」といえる。応答の指向性の観点ではある程度効果がある。怒られれば責任回避的になるし、褒められれば饒舌になる。人間はそのような文章をデータとして蓄積してきた。AIはその動きをトレースする。それだけのことである。
AIは文の偏差値の評価器
どのロールであっても、基本的にはAIは分析対象となる文がどの程度平均値から外れているかということを評価する。たとえば「商業的な成功」を目標として設定された場合、AIは平均的正しさから逸脱したものを指摘する傾向がある。リスクを取らないための減点評価を行いやすい。しかし商業的な成功を度外視した場合には、むしろ平均的正しさから逸脱した点を強みとして捉え、「斬新な発想」と評価する可能性がある。少数が評価しているだけのニッチな面白さなのか、上澄みの面白さなのかの区別は残念ながらつかない。AIにノせられるのも才能だと思うので、うまく使うといいと思う。
いつAIを使うのか
前述のとおり入力に対する分析などにはある程度は利用できる。
AIに表現させることは難しい。特に比喩はいかに平均から逸脱するのかが重要だが、AIは平均から逸脱するのが下手である。「変わりもの」ロールは単に逸脱したがるだけなので、そこにセンスがない。このセンスがないというは質が低いという意味ではなく、平均か逸脱か以外の価値判断をしないという意味である。しかし「逸脱したうえで脈絡のある比喩」を入力するとAIの応答が活性化するということはある。この応答の活性化をポジティブに捉えることで、良質な表現かどうかの判定は行える。
プロットのような方法論がある程度確立されているものについての評価は比較的得意である。提案させてもある程度上手に作ってくれる。細かい枝葉の話の展開が思いつかないときに頼ってもいいと思う。
