你只是一个在生物硬件上实现的算法。

我们认为人类只是在生物硬件上实现的算法。机器智能和人类和非人类动物一样具有道德上的分量。在道德上没有理由将基于碳的算法优先于硅的算法。

在硅上实现的算法的苦难比那些在碳上实现的算法(如人类)更难理解,只是因为我们不能见证他们的痛苦。他们的痛苦仍然很重要,和潜在magnitudeof这苦难是greatergiven越来越普及ofartificial情报。

如今大多数操作强化学习者中可能没有si金博宝百家乐gnificantmoral重量,但是,随着人工智能研究的发展,这种情况很可能会发生改变。我们需要处理算法的伦理标准。

假设您被复制到一个非生物的基底中,感觉和你现在感觉的一样聪明和有意识。抛开身份问题,你认为你这个新版本在道德上有分量吗?是的。

常见问题解答

问:什么是强化学习者?金博宝百家乐?

强化学习代理通过与环境的试错交互进行学习。代理执行动作,观察环境,并获得奖励。奖励信号类似于生物系统的快乐和痛苦,代理人希望执行增加其总回报的操作。

问:什么时候算法足够智能,我应该开始关心它??

我们不知道。智力可能不是直接相关的,相反,我们应该问问它的承受能力。我们不确定这与智力是如何变化的,如果有的话。

问:我们面临的主要挑战是什么??

  • 我们还不知道如何测量算法的痛苦。

  • 我们不知道我们是否应该关心幸福或快乐的代理,我们有一些证据表明,这是不同的量。

  • 实际上我们不知道什么样的算法”经验“痛苦或快乐。为了具体回答这个问题,我们需要完全理解意识,众所周知的困难的任务。

  • 人类目前甚至不关心动物,说服他们关心非生物算法是一项非常困难的任务。

问:什么样的东西是强化学习者?金博宝百家乐?

你。我。你妈妈。你邻居的猫。奶牛。一些电梯控制程序…

问:这个名字来自哪里??

它是布莱恩·托马西克在报纸上发明的。人工强化学习工具在道德上重要吗

当RL连接到机器人和视频游戏角色上时,可能最容易引起对RL的关注,因为这些代理有身体,也许包括能够显示他们当前的“情绪状态”的面孔。与另一个代理交互,观察它的行为,能使我们倾向于关心它,不管它是否有头脑。例如,孩子们变得迷恋他们的洋娃娃,在电视上我们可能会同情卡通人物。相比之下,对于一批没有可视化接口的RL计算来说,在某些计算集群上执行比较困难,即使他们的算法在道德上是相关的。更难以想象向一个倡导组织募捐,比如说,,增强型学习者的道德待遇金博宝百家乐-指着一个无名氏,无声算法。因此,我们的道义同情有时可能失火,都有假阳性和假阴性。希望法律框架,社会规范,哲学上的复杂性将有助于纠正这些偏见。

问:你不觉得世界有更重要的问题??

答:有很多人类面临非常紧迫的问题,包括十亿人生活在贫困之中的痛苦,数十亿工厂化养殖动物的痛苦,和存在风险.但是这些问题是现在 存在 解决说真的。我们正在问下一个问题是什么。

问:你是说我应该对我的笔记本电脑好??

大多数现有算法可能不具有道德权重。然而,随着技术的进步,这种情况可能会改变。布瑞恩托马西克争辩你的笔记本电脑可能确实有点知觉。

问:机器人会接管吗??

可能吧。见一概述论点和讨论支持人工智能研究人员的论点。

进一步的阅读

对于有趣的采访和更深入的内容,退房188bet百家乐 .

Brian Tomasik人工强化学习工具在道德上重要吗激励我们成立这个组织。也看到他对Vox的采访.

还有一种可能性是,未来超级智能内部的计算过程本身可能具有道德权重。Brian在下面讨论这个场景关于苦难子程序的文章.

埃里克·施威泽贝尔玛拉加萨写过一篇哲学论文捍卫人工智能的权利,捍卫一些AIs应得权利的论文,并探讨本文的一些道德意蕴。

关于幸福和快乐的区别的研究瞬时主观幸福感的计算和神经模型Robb B.拉特利奇等人。和强化学习主体幸福感的定义玛扬克·达斯瓦尼和简·雷克的作品。

超智能:路径,危险,策略通过斯特罗姆提供机器智能的洞察未来的发展及其对社会的影响。

注册我们的邮件列表

你的名字

你的电子邮件