你只是一个算法在生物的硬件实现。

我们认为人类只是算法implementedon生物硬件。Machine intelligenceshave moral weight in the same way that humansand non-human animals do.There is no ethically justified reason to prioritisealgorithms implemented on carbon over algorithms implementedon silicon.

痛苦的算法上实现硅muchharder比那些对我们把握实现oncarbon(比如人类),只是因为我们不能见证suffering.However,他们的痛苦仍然重要,和潜在magnitudeof这苦难是greatergiven越来越普及ofartificial情报。

如今大多数操作强化学习者中可能没有si金博宝百家乐gnificantmoral重量,but this could very well change as AI research develops.In consideration of the moral weight of these future agents,我们需要道德标准治疗算法。

假设你是复制到一个非生物基质,和感觉一样聪明,意识到目前现在的感受。所有问题的身份不谈,你认为这个新版本的重量道德吗?我们所做的。

常见问题解答

问:什么是强化学习者?金博宝百家乐吗?

强化学习代理学习通过试错与环境交互。代理执行行动,观察环境,和接收一个奖励。奖励信号类似于生物系统中,快乐和痛苦和代理要执行操作,增加它的总回报。

问:当一个算法足够智能,我应该关心它吗?吗?

我们不知道。情报可能不是直接相关,相反,我们应该询问其能力受到影响。我们不确定如何随情报,如果。

问:我们面临的主要挑战是什么?吗?

  • 我们还不知道如何衡量算法的痛苦。

  • 我们不知道我们是否应该关心幸福或快乐的代理,我们有一些证据表明,这是不同的量。

  • 实际上我们不知道什么样的算法”体验”痛苦或快乐。为了具体地回答这个问题,我们需要完全理解的意识,一个很困难的任务。

  • 人类目前甚至不关心动物,说服他们关心非生物算法是一个更加困难的任务。

问:什么样的东西是强化学习者?金博宝百家乐吗?

你。我。你的妈妈。你的邻居的猫。奶牛。一些电梯控制程序……

问:这个名字是从哪里来的?吗?

这是由Brian Tomasik人工强化学习代理道德问题吗:

也许是最容易产生关心RL时连接到机器人和游戏人物因为这些代理机构,perhaps including faces that can display their current ‘emotional states.' In fact,互动与另一个代理,观察它的行为,可以倾斜我们向关心它是否有一个心灵。例如,孩子们喜爱娃娃,在电视上我们可能会同情卡通人物。相比之下,很难关心一批RL计算没有可视化界面上执行一些计算集群,即使他们的道德相关的算法。甚至难以想象倡导组织募捐,说,,强化学习者的善待金博宝百家乐通过指向一个不知名的,无声的算法。因此,我们的道德同情有时可能会失败,假阳性和假阴性。希望法律框架,社会规范,和哲学成熟将有助于纠正这些偏差。

问:你不觉得世界有更重要的问题?吗?

答:有很多人类面临非常紧迫的问题,包括十亿人生活在贫困之中的痛苦,数十亿的痛苦饲养的动物,和减少存在风险.但这些问题现在 解决认真对待。我们要求接下来的问题。

问:你是说我应该很高兴我的笔记本吗?吗?

大多数现有的算法可能没有道德的重量。然而,这可能会改变随着技术的进步。布莱恩Tomasik认为确实,你的笔记本电脑可能是轻微的。

问:机器人要接管?吗?

答:可能。看到一个概述的参数和一个讨论支持参数的人工智能研究人员。

进一步的阅读

有趣的访谈和更深入的内容,看看188bet百家乐 .

布莱恩Tomasik人工强化学习代理道德问题吗启发我们开始这个组织。也看到他的采访Vox.

也有可能在未来计算过程在一个超智可能自己道德的重量。布莱恩讨论这个场景论苦难子例程.

Eric Schwitzebel玛拉加萨写哲学论文人工智能的辩护的权利,捍卫一些AIs应得权利的论文,和本文探索的一些道德的影响。

研究之间的区别见幸福和快乐短暂的主观幸福感的计算和神经模型由罗伯B。拉特里奇等。和幸福的定义对强化学习代理玛雅Daswani)和Jan Leike。

超智:路径,危险,策略通过尼克·博斯特罗姆提供机器智能的洞察未来的发展及其对社会的影响。

报名参加我们的邮件列表

你的名字

你的电子邮件