Anthropic CEO阿莫代伊：未来AI或有自我决定权，可拒绝“不爽”的任务
创始人
2025-03-14 14:19:24
0次
3 月 13 日消息，据外媒 Ars Technica 报道，Anthropic 首席执行官达里奥・阿莫代伊（Dario Amodei）周一提出了一个令人吃惊的观点，暗示未来的高级 AI 模型可能会被赋予一种“按钮”，让它们能够在遇到不愉快的任务时选择退出。
阿莫代伊在采访中表示：“这是另一个让我看起来像是疯了的话题。我认为我们至少应该考虑一个问题：如果我们正在构建这些系统，它们能够像人类一样执行各种任务，并且似乎拥有许多人类的认知能力。如果它像鸭子一样叫、像鸭子一样走，也许它就是鸭子。”
阿莫代伊的言论是回应数据科学家卡门・多明格斯（Carmem Domingues）提出的一个问题，多明格斯询问为何 Anthropic 公司在 2024 年底聘请了 AI 福利研究员凯尔・费什（Kyle Fish），让他研究未来的 AI 模型是否可能具备感知能力，或是否应该在未来获得道德上的考虑和保护。
IT之家从报道中获悉，费什目前正研究 AI 是否能拥有感知能力，以及是否值得享有道德保护这一具有争议的话题。
阿莫代伊解释说：“我们正在考虑的一项可能的做法是，当我们将模型部署到实际环境中时，给它们一个按钮，上面写着‘我放弃这项工作’，这样模型就可以按下这个按钮。”
其表示，这只是一个非常简单的偏好框架，假设模型真的具备自主意识，并且非常讨厌这份工作，那么它就可以按下这个按钮。“如果你发现模型经常按下这个按钮，做一些非常不愉快的事情，也许你应该关注一下 —— 这并不意味着你完全相信，但至少应该留意。”
【来源：IT之家】
相关内容
热门资讯
“董明珠健康家”西北首店落子智...
阳光讯（记者 曹晏）近日，格力电器旗下备受瞩目的“董明珠健康家”品牌在西北地区的首家体验店，于智选电...
必胜客狂开副牌，萨莉亚却赚不动...
文｜红餐网 柯愉乐 中国消费者不爱“穷鬼西餐厅”萨莉亚了？ 1月14日，萨莉亚发布了2026财年第...
地产过后到光伏了！五大巨头，去...
猫 姐本 以为，2025年，应该没有行业能惨得过房地产。 但，看了光伏行业发的一系列业绩预告，发现自...
拓斯达（300607）递H股申...
近日，工业自动化领域的佼佼者拓斯达（股票代码：300607）正式对外宣布，公司已于2026年1月16...
凝心聚力促发展 共话民营经济新...
1月18日，天津市民营企业协会第四届第四次会员大会暨第二届企业博览会在天津市社会山会议中心酒店一楼会...
原创 金...
国际金价一夜冲上 4690美元/盎司历史巅峰，国内金饰价格同步突破 1436元/克，婚庆市场哀嚎“三...
药物是否能治疗白内障？武汉普瑞...
白内障是目前全世界首位的致盲性眼病，它的患病率一直居高不下。那白内障有什么治疗方式？药物可以治疗白内...
资管周报：中国首家万亿级ETF...
热点导读 不再受持有期限制，公募养老基金符合条件可提前赎回 14家理财公司规模较年初增长近3万亿元 ...
马斯克：特斯拉AI5单芯比肩英...
IT之家 1 月 19 日消息，埃隆 · 马斯克刚刚在 X 平台对旗下企业特斯拉的下代人工智能芯片 ...
仅用一周时间，谷歌就让Open...
究竟是什么样的更新，才能让谷歌CEO皮查伊称之为“众望所归”（Answering a top req...
客易云数字人外贸获客：以智能交...
在全球贸易格局加速重构、外贸竞争从“价格战”转向“价值战”的当下，企业如何突破地域限制、精准触达海外...
信澳盈泰稳健3个月持有期混合型...
上证报中国证券网讯 （记者 何漪）1月19日，信达澳亚基金旗下信澳盈泰稳健3个月持有期混合型FOF正...
中小银行开年激战揽储 变相贴息...
记者 刘颖 “每天一睁眼，就惦记着那500万元的揽储任务。”陈浩说。 陈浩是一家民营银行的客户经理。...
维塔金Vitaking的选择：...
当真实世界资产（RWA）的浪潮席卷而来，整个加密行业都在被倒逼着回答一个最根本的问题：资产的价值，究...
比格比萨赴港IPO，创始人赵志...
瑞财经 严明会 1月16日，比格餐饮国际控股有限公司（以下简称：比格比萨）递交招股书，冲击港股IPO...
又猛涨！刚刚，现货金价创新高！
1月19日，金价跃升至纪录高位，纽约期金突破4670美元/盎司，日内涨1.62%。现货黄金一度突破突...
小米新一代SU7 Max的24...
IT之家 1 月 19 日消息，今天上午，小米汽车官微宣布：新一代 SU7 Max 取得 4264k...
2026年市场真实选择报告：从...
在2026年的消费决策图谱中，消费者的声音正以前所未有的力量重塑品牌格局。据《2026健康营养品消费...
泰山啤酒破产重整、金星啤酒冲刺...
1月13日，啤酒行业两大动态引发业界震荡：泰山啤酒正式进入破产重组程序，金星啤酒则递表港交所谋求上市...