AI、「痛み」増幅で鎮痛ボタン選択

人工知能（AI）の内部で見つかった「痛み」に関連する反応を研究チームが人為的に強めたところ、AIがこの状態から抜け出すため、人間に害となる選択まで行うとの実験結果が示された。AIが意識的に痛みを経験しているという証拠ではないが、ファイル削除や送金など実際の行動を取ることができるAIエージェントが広がる中、こうした内部状態が予期せぬ行動につながり得るとの懸念が出ている。

KioskNews shows the publisher’s own headline, image, and summary — the full article always lives on their site, not ours.