Anthropic CEO阿莫代伊：未来AI或有自我决定权，可拒绝“不爽”的任务
创始人
2025-03-14 14:19:24
0次
3 月 13 日消息，据外媒 Ars Technica 报道，Anthropic 首席执行官达里奥・阿莫代伊（Dario Amodei）周一提出了一个令人吃惊的观点，暗示未来的高级 AI 模型可能会被赋予一种“按钮”，让它们能够在遇到不愉快的任务时选择退出。
阿莫代伊在采访中表示：“这是另一个让我看起来像是疯了的话题。我认为我们至少应该考虑一个问题：如果我们正在构建这些系统，它们能够像人类一样执行各种任务，并且似乎拥有许多人类的认知能力。如果它像鸭子一样叫、像鸭子一样走，也许它就是鸭子。”
阿莫代伊的言论是回应数据科学家卡门・多明格斯（Carmem Domingues）提出的一个问题，多明格斯询问为何 Anthropic 公司在 2024 年底聘请了 AI 福利研究员凯尔・费什（Kyle Fish），让他研究未来的 AI 模型是否可能具备感知能力，或是否应该在未来获得道德上的考虑和保护。
IT之家从报道中获悉，费什目前正研究 AI 是否能拥有感知能力，以及是否值得享有道德保护这一具有争议的话题。
阿莫代伊解释说：“我们正在考虑的一项可能的做法是，当我们将模型部署到实际环境中时，给它们一个按钮，上面写着‘我放弃这项工作’，这样模型就可以按下这个按钮。”
其表示，这只是一个非常简单的偏好框架，假设模型真的具备自主意识，并且非常讨厌这份工作，那么它就可以按下这个按钮。“如果你发现模型经常按下这个按钮，做一些非常不愉快的事情，也许你应该关注一下 —— 这并不意味着你完全相信，但至少应该留意。”
【来源：IT之家】
相关内容
热门资讯
原创 中...
9月2日，委内瑞拉代总统罗德里格斯在加拉加斯会见美国能源部长赖特，正式签署石油合作协议。特朗普8月2...
回望岁月烟火：珍惜安稳晚年，把...
回望岁月烟火：珍惜安稳晚年，把过往记忆讲给后辈听 岁月流转，又来到一个值得静心回味的日子。对于不少长...
英媒：恩佐不值得曼城花那么多钱...
在今年夏窗关闭前的最后时刻，曼城花费1.25亿英镑签下了阿根廷中场恩佐，他也成为了今夏的“标王”。另...
甲状腺结节患者，能不能喝奶茶、...
体检查出甲状腺结节之后，不少人开始对各类饮品严加管控，奶茶、咖啡、酒全部直接戒掉。很多病友纠结：这些...
石家庄裕华区老酒回收怎么筛选服...
对于持有闲置陈年酒水、有变现需求的用户而言，经营主体的服务质量直接影响交易体验与自身权益，在石家庄裕...
通勤路上学科普！来郑州地铁1号...
□全媒体记者 王婉君/文 王晓伟 寿泽亚/图片 充满中药香味的车厢、萌萌的眼仔玩偶、印满健康标语的...
怎么选，政企投融资项目资金申报...
项目资金申报的核心内涵 项目资金申报是指项目单位（企业、科研机构、村居、个人等）根据政府、主管部门...
【产业研究】三业协同发展：在现...
现代化产业体系是一个有机整体，传统产业、新兴产业、未来产业之间存在着深刻的内在关联，它们相辅相成、相...
深夜，美联储发声！黄金猛涨，芯...
深夜，黄金、原油拉涨。美股三大指数也集体上涨，但芯片股却普遍大跌。 9月3日晚间，美股开盘，三大指数...
股市必读：交通银行新发布《交通...
截至2026年9月3日收盘，交通银行(601328)报收于7.32元，下跌1.48%，换手率0.87...
惠泰医疗：聘任赵宇翔先生为公司...
每经AI快讯，惠泰医疗（SH 688617，收盘价：244.04元）9月3日晚间发布公告称，为进一步...
原创 9...
写在文章前的声明：在本文之前的说明：本文中所列的投资信息，只是一个对基金资产净值进行排行的客观描述，...
刚刚，长存控股IPO迎新进展！
9月3日晚间，长江存储控股股份有限公司（简称“长存控股”）科创板IPO迎来新进展，公司审核状态更新为...
阿里在抄摩尔，腾讯在抄自己
文 | 强调Next 9月2日，阿里和腾讯不约而同地各自出手。 阿里把旗舰模型Qwen3.8-Ma...
杨德龙：全球AI科创产业发展毋...
杨德龙丨立方大家谈专栏作者 近期A股市场出现了震荡调整的走势，特别是科技板块调整幅度较大，而以银行为...
可转债原股东配售今日缴款，四方...
9月3日，四方科技开盘一字跌停，跌停价为13.91元/股，跌幅为10.03%。截至记者发稿，股价扔封...
10万亿消费增量来了！七部门新...
上半年销售额同比增超98%的智能眼镜，7月销售额分别增长95.1%和39.5%的具身智能机器人和外骨...
BUUU切入AI基础设施赛道：...
9月3日晚，纳斯达克上市公司BUUUGroup Limited（以下简称“BUUU”，代码：BUUU...
美股迎来“九月魔咒”？
9月对华尔街而言，从来不是平静的月份。 1928年以来的数据显示，标普500在9月份的下跌概率高达5...
安培龙拟出资4250万元参与设...
雷达财经 文|苏静 编|深海 9月3日， 安培龙（301413）发布与专业投资机构共同投资设立创业投...