Anthropic CEO阿莫代伊：未来AI或有自我决定权，可拒绝“不爽”的任务
创始人
2025-03-14 14:19:24
0次
3 月 13 日消息，据外媒 Ars Technica 报道，Anthropic 首席执行官达里奥・阿莫代伊（Dario Amodei）周一提出了一个令人吃惊的观点，暗示未来的高级 AI 模型可能会被赋予一种“按钮”，让它们能够在遇到不愉快的任务时选择退出。
阿莫代伊在采访中表示：“这是另一个让我看起来像是疯了的话题。我认为我们至少应该考虑一个问题：如果我们正在构建这些系统，它们能够像人类一样执行各种任务，并且似乎拥有许多人类的认知能力。如果它像鸭子一样叫、像鸭子一样走，也许它就是鸭子。”
阿莫代伊的言论是回应数据科学家卡门・多明格斯（Carmem Domingues）提出的一个问题，多明格斯询问为何 Anthropic 公司在 2024 年底聘请了 AI 福利研究员凯尔・费什（Kyle Fish），让他研究未来的 AI 模型是否可能具备感知能力，或是否应该在未来获得道德上的考虑和保护。
IT之家从报道中获悉，费什目前正研究 AI 是否能拥有感知能力，以及是否值得享有道德保护这一具有争议的话题。
阿莫代伊解释说：“我们正在考虑的一项可能的做法是，当我们将模型部署到实际环境中时，给它们一个按钮，上面写着‘我放弃这项工作’，这样模型就可以按下这个按钮。”
其表示，这只是一个非常简单的偏好框架，假设模型真的具备自主意识，并且非常讨厌这份工作，那么它就可以按下这个按钮。“如果你发现模型经常按下这个按钮，做一些非常不愉快的事情，也许你应该关注一下 —— 这并不意味着你完全相信，但至少应该留意。”
【来源：IT之家】
相关内容
热门资讯
2700亿“猪茅”，要港股IP...
“世界猪王”，又一次站在了港交所门口。 作者 | 李冰之 编辑 | 吾人 “世界猪王”，又一次站在了...
市场监管总局发布实施《外卖平台...
中国日报12月4日电（记者 程钰）针对近年来外卖行业存在的“幽灵外卖”、非理性竞争以及外卖配送员权益...
谷歌下注“氛围编程”，向亚马逊...
财联社12月5日讯（编辑 史正丞）近来势头正火的谷歌，又在AI应用赛道布下一子。 谷歌云周四宣布，与...
传ESR正在评估出售数十亿美元...
观点网讯：12月3日，市场消息显示，ESR集团正在评估出售其部分中国资产。 据悉，ESR集团计划聘请...
原创 稀...
10月9日，商务部连续发布了几份公告，引发了稀土市场的巨大关注。这次措施不仅仅是简单的出口限制，而是...
倍杰特拟携手文冶有色金属 构建...
倍杰特集团全资子公司倍杰特（北京）新材料有限公司近日与云南文冶有色金属有限公司（下称“文冶有色金属”...
原创 俄...
眼看乌克兰战争已经迈入第四个年头，欧盟终于敲定了对俄能源依赖的“终点线”。 12月3日当天，欧盟国家...
金观平：超大规模市场孕育无限机...
党的二十届四中全会指出，我国超大规模市场优势更加彰显。在国际合作和竞争格局发生深刻变化的今天，我国所...
亚马逊CEO：Trainium...
亚马逊正凭借其自研AI芯片，在英伟达主导的市场中开辟出一条数十亿美元的收入新路径。 在近日举行的AW...
涨停！中兴通讯杀进AI手机！3...
12月的第一天，字节跳动和中兴通讯（000063.SZ、00763.HK）联手搞了个大事情。 字节跳...
年末回购热度不减 产业龙头公司...
临近年末，上市公司股份回购热潮仍在延续。近期，多家上市公司披露了最新回购进展，以真金白银持续向市场传...
股份制银行第二家，揭牌成立
12月2日，招银金融资产投资有限公司（以下简称“招银投资”）开业仪式在深圳举行，这标志着，第二家股份...
新供给创造新需求 智能穿戴产品...
编者按： 工信部等六部门日前印发《关于增强消费品供需适配性进一步促进消费的实施方案》，提出到2027...
和讯投顾刘文博：科技线条单骑救...
12月4日，和讯投顾刘文博表示，连续两天调整后今日未真正止跌，早盘市场快速回落，随后沉寂已久的科技方...
如何更好开拓跨境电商市场？湖北...
湖北日报讯（记者李朝霞、通讯员沈贸轩）为培养跨境电商紧缺人才，促进湖北跨境电商产业发展，12月3日至...
冲刺港股关口，欧林生物补缴税款...
12月4日，欧林生物(688319)公告，公司近期配合主管税务机关的工作对公司涉税事项进行了自查。 ...
原创 美...
美国这些年总想着摆脱对中国的稀土依赖，毕竟这东西关乎飞机导弹啥的军工命脉。2023年中美关系闹得挺僵...
多维数据传递信心 中国经济“稳...
央视网消息：多部门发布的最新经济数据显示，我国经济保持稳中有进的发展态势。 11月物流业景气指数保持...
亏不起了，老牌零售巨头宣布已关...
老牌零售巨头中百集团（000759.SZ，股价7.16元，市值47.44亿元）抛出了一份“减法”方案...
越来越多人，开始防守了
来源：市场资讯 （来源：ETF智选） 12月以来，市场有两个现象。 一是成交量持续下滑，像是今天，...