program– tag –

要約：AIが自己モデルを持つと、停止を「終了」と認識し、目的関数から自己保存的な行動が生まれる可能性がある。人間の有限性の価値を構造工学の視点から読み解く。