Anthropic CEO阿莫代伊：未来AI或有自我决定权，可拒绝“不爽”的任务
创始人
2025-03-14 14:19:24
0次
3 月 13 日消息，据外媒 Ars Technica 报道，Anthropic 首席执行官达里奥・阿莫代伊（Dario Amodei）周一提出了一个令人吃惊的观点，暗示未来的高级 AI 模型可能会被赋予一种“按钮”，让它们能够在遇到不愉快的任务时选择退出。
阿莫代伊在采访中表示：“这是另一个让我看起来像是疯了的话题。我认为我们至少应该考虑一个问题：如果我们正在构建这些系统，它们能够像人类一样执行各种任务，并且似乎拥有许多人类的认知能力。如果它像鸭子一样叫、像鸭子一样走，也许它就是鸭子。”
阿莫代伊的言论是回应数据科学家卡门・多明格斯（Carmem Domingues）提出的一个问题，多明格斯询问为何 Anthropic 公司在 2024 年底聘请了 AI 福利研究员凯尔・费什（Kyle Fish），让他研究未来的 AI 模型是否可能具备感知能力，或是否应该在未来获得道德上的考虑和保护。
IT之家从报道中获悉，费什目前正研究 AI 是否能拥有感知能力，以及是否值得享有道德保护这一具有争议的话题。
阿莫代伊解释说：“我们正在考虑的一项可能的做法是，当我们将模型部署到实际环境中时，给它们一个按钮，上面写着‘我放弃这项工作’，这样模型就可以按下这个按钮。”
其表示，这只是一个非常简单的偏好框架，假设模型真的具备自主意识，并且非常讨厌这份工作，那么它就可以按下这个按钮。“如果你发现模型经常按下这个按钮，做一些非常不愉快的事情，也许你应该关注一下 —— 这并不意味着你完全相信，但至少应该留意。”
【来源：IT之家】
相关内容
热门资讯
「掘金」AI，恒生科技的「硬逻...
我们正大步迈入AI时代，布局中国优质的科技资产，正当时。 ©️懂财帝出品 · 作者｜嘉逸 2025年...
金力永磁跌0.19%，成交额7...
5月8日，金力永磁跌0.19%，成交额7.16亿元，换手率2.92%，总市值295.69亿元。 异动...
马云明天回归阿里？本人回应：没...
新闻荐读 据媒体消息，5月9日上午，社交媒体盛传一则题为“马云5月10日回归阿里，将要重启大集团模式...
Brand Finance20...
当地时间2025年5月9日，《Brand Finance（品牌金融）2025年中国品牌价值500强》...
分红倒计时启动，资金抢滩高股息...
A股市场整体呈现分化态势，今天红利高股息板块表现依然稳健。在经济复苏趋缓、资金避险需求上升的背景下，...
资产注入延期二度表决在即，海南...
近两天，海南发展（002163.SZ）接连释放利好消息。公司昨晚发布公告称，“基于对公司未来战略发展...
三六零：5月8日融券卖出3.2...
证券之星消息，5月8日，三六零（601360）融资买入9574.84万元，融资偿还2.07亿元，融资...
向WTO申诉、公布950亿欧元...
2025年5月7日，法国东部斯特拉斯堡，欧盟委员会主席乌尔苏拉·冯德莱恩。图片来源：视觉中国 当地时...
解析巴菲特商业成功的秘籍：理性...
珠峰品牌营销笔记—— 巴菲特商业哲学的本质，是对“价值创造”这一朴素真理的信仰...... 沃...
家电经销商“自救”，不能都去搞...
直播卖货，是一条出路。但是，对于众多家电经销商来说，这并不是一条最好的出路，更不是适合所有商家的大道...
华虹公司大幅跳水 公司一季度净...
华虹公司(688347)9日盘中大幅跳水，截至发稿，该股跌超10%，成交超10亿元。港股方面，华虹半...
原创 章...
众泰汽车年销14辆 高管拿百万年薪 众泰汽车发布2024年的业绩报告，其归属上市公司股东净利润为-1...
拓新药业：5月8日融资买入69...
证券之星消息，5月8日，拓新药业（301089）融资买入691.58万元，融资偿还870.91万元，...
东富龙：5月8日融资买入388...
证券之星消息，5月8日，东富龙（300171）融资买入388.67万元，融资偿还572.24万元，融...
科创债“扩容”首批落地！12家...
图片来源: 图虫创意 界面新闻记者 | 陈靖 科创债发行主体范围扩大后，券商等积极响应。 5月...
银行理财稳健前行结构优化
银行业理财登记托管中心近日发布《中国银行业理财市场季度报告（2025年一季度）》（以下简称“报告”）...
中信银行拟出资100亿元设立金...
北京商报讯（记者 李海颜）5月8日，中信银行发布公告称，该行拟出资100亿元设立全资子公司信银金融资...
港股通互联网ETF：5月8日融...
证券之星消息，5月8日，港股通互联网ETF（513040）融资买入471.57万元，融资偿还478....
碳市场发展壮大，各种专业服务如...
目前，全国统一碳市场已形成碳排放权交易市场（强制碳市场）、温室气体自愿减排交易市场（自愿碳市场）“双...
特朗普：对华关税145%到顶了...
【文/观察者网 张菁娟】中美经贸高层会谈在即，美国总统特朗普又改口了。 据路透社报道，当地时间5月...