正しく気づいても、正しく行動するとは限らない
AI が間違いに気づけるなら、その間違いを避けられるようにも見える。問題文の矛盾を見つけ、安全上の危険を判定し、人間からの停止指示を理解できるなら、その情報が最終的な行動にも反映されると考えるのは自然である。実際、モデル … 続きを読む
AI が間違いに気づけるなら、その間違いを避けられるようにも見える。問題文の矛盾を見つけ、安全上の危険を判定し、人間からの停止指示を理解できるなら、その情報が最終的な行動にも反映されると考えるのは自然である。実際、モデル … 続きを読む