Anthropic CEO阿莫代伊：未来AI或有自我决定权，可拒绝“不爽”的任务
创始人
2025-03-14 14:19:24
0次
3 月 13 日消息，据外媒 Ars Technica 报道，Anthropic 首席执行官达里奥・阿莫代伊（Dario Amodei）周一提出了一个令人吃惊的观点，暗示未来的高级 AI 模型可能会被赋予一种“按钮”，让它们能够在遇到不愉快的任务时选择退出。
阿莫代伊在采访中表示：“这是另一个让我看起来像是疯了的话题。我认为我们至少应该考虑一个问题：如果我们正在构建这些系统，它们能够像人类一样执行各种任务，并且似乎拥有许多人类的认知能力。如果它像鸭子一样叫、像鸭子一样走，也许它就是鸭子。”
阿莫代伊的言论是回应数据科学家卡门・多明格斯（Carmem Domingues）提出的一个问题，多明格斯询问为何 Anthropic 公司在 2024 年底聘请了 AI 福利研究员凯尔・费什（Kyle Fish），让他研究未来的 AI 模型是否可能具备感知能力，或是否应该在未来获得道德上的考虑和保护。
IT之家从报道中获悉，费什目前正研究 AI 是否能拥有感知能力，以及是否值得享有道德保护这一具有争议的话题。
阿莫代伊解释说：“我们正在考虑的一项可能的做法是，当我们将模型部署到实际环境中时，给它们一个按钮，上面写着‘我放弃这项工作’，这样模型就可以按下这个按钮。”
其表示，这只是一个非常简单的偏好框架，假设模型真的具备自主意识，并且非常讨厌这份工作，那么它就可以按下这个按钮。“如果你发现模型经常按下这个按钮，做一些非常不愉快的事情，也许你应该关注一下 —— 这并不意味着你完全相信，但至少应该留意。”
【来源：IT之家】
相关内容
热门资讯
上市银行一季报营收或将超预期，...
4月20日，截至13:15，中证银行指数上涨0.82%。个股方面，宁波银行涨超3%，农业银行、工商银...
山水集团东北运营区召开4月份工...
来源：市场资讯 （来源：水泥网APP） 4月16日，山水集团东北运营区在赤峰公司召开4月份工作会议。...
广州顶豪汇悦台一豪宅流拍：评估...
4月17日，广州顶级豪宅小区悦汇台的一套法拍房流拍。 该套法拍房建筑面积308.69平方米，评估总价...
安徽润石置业何卫兵 ：扎根县域...
在中国广袤的县域大地上，什么是真正的“好房子”？是不断攀升的建筑高度，还是不断升级的居住体验？有一群...
行业观察｜固收增强产品怎么选？...
在无风险收益率持续下行的环境下，一些增加可转债或权益资产配置的固收产品持续吸引投资者的注意，但问题也...
马化腾⑥：终章｜真正的顶级赢家...
（全文基于公开资料整理，不构成投资建议） 前面五篇，我们走完了马化腾的完整人生轨迹： 从安静隐忍的深...
为什么休眠比特币钱包是最大的量...
为何休眠比特币地址易受量子威胁 围绕量子计算对比特币影响的常见叙事，往往聚焦于一种末日场景，即整个网...
币圈院士：4.20比特币高位回...
币圈院士：4.20比特币高位回落！支撑位与关键入场信号一文讲透！最新行情分析及实战教学 比特币现价7...
K型经济的底色，安踏比任何人都...
文｜锦缎 安踏体育2025年度财报显示，集团25年实现总营收802.2亿元，同比增长13.3%，高...
雷军在服务区被堵车里维权？小米...
4月17日，小米创办人、董事长兼CEO雷军开启全程15小时直播，测试新小米SU7从北京到上海的长途续...
徽商期货：发挥新时代金融之力，...
徽商期货30周年司庆之发展实记 三十载风雨兼程，三十载春华秋实。徽商期货将构建“研究专业化、服务全...
原创 打...
一块金属，能有多大的威力？能让一个工业强国的高端制造陷入瘫痪，让它的军工扩张计划顿时停滞？答案是：能...
一场战事，三重短缺冲击全球经济
来源：新华国际头条 美以伊战事对世界经济影响的外溢效应正从资本市场空头与多头的剧烈博弈，蔓延到实实在...
驭势科技尚未盈利通过港股聆讯，...
瑞财经 刘治颖 4月19日，驭势科技（北京）股份有限公司（以下简称“驭势科技”）通过港交所主板上市聆...
云飞渡仍从容：从2025年报看...
4月16日晚间，贵州茅台公布了2025年年报，该公司实现营业总收入1720.54亿元，利润总额114...
截至去年底我国注册无人机共32...
新华社北京4月20日电（记者王聿昊）记者20日从中国民航局获悉，截至2025年底，我国注册无人机共3...
从被动净化到主动防御：等离子体...
医院是感染防控的前沿阵地。空气中的病原微生物以气溶胶形态在诊室、病房、手术室等核心区域持续扩散，构成...
汾酒顺利通过质量和食品安全管理...
11月25日至27日，公司开展汾酒股份质量和食品安全管理体系外审工作，由中国质量认证中心、方圆标志认...
重磅！东方证券拟100%收购上...
4月19日，东方证券最新公告，公司正在筹划通过发行A股股份及支付现金的方式收购上海证券有限责任公司1...
原创 源...
贵州茅台的“股王”地位再一次被挑战，上一次是寒武纪，这一次是源杰科技。这两次挑战茅台“股王”地位的公...