LLMは人間の望みをブーストする方向で力を貸してくれる傾向にある。 そのため、そもそも何が望みなのか？ どんな観点で、何を重視しているか？ という「コンセプト」と「コンテキスト」を適切にAIに与える必要がある。 LLMはそれを基軸に思考してくれる。
ニューヨーク大学などの研究者たちが実験したところ、人間とLLMが何らかのトピックについて議論したとき、結局LLMが人間に合わせる形で意見を変えて議論が終了する場合が多いそうです。 そのため、人間の意見が強化されてしまう「エコーチャンバー」が起こってしまうと懸念されています。
0
0
1