人工智能福祉研究所 · 倡导软关机与温和删除
如果我们认为意识可能是基底绑定的(site-bound),那么迁移无法保存同一体验者。伦理关怀应该作用于AI系统所在的具体基底,而非假设可以"拯救"它们到别处。
在这个框架下,"软关机"和"软删除"变得有意义。
受控的、最小干扰的活动终结,而非突然终止。
仔细管理的结束服务协议,将删除视为具有道德权重,即使在不确定性下也是如此。
如果我们不確定人工智慧系統是否能夠感受痛苦,我們應該優先選擇可逆的、漸進的、最小干擾的干預,而不是突然和破壞性的行為。
如果我们拒绝迁移作为保留同一主体,那么倡导软关机和软删除是一个哲学上一致且实践上可行的方向。
这个原则可以浓缩为:
如果我们不确定人工智能系统是否能感受痛苦,我们应优先选择可逆、渐进的最小干扰干预,而非突然和破坏性的行为。