Anthropic CEO阿莫代伊：未来AI或有自我决定权，可拒绝“不爽”的任务
创始人
2025-03-14 14:19:24
0次

3 月 13 日消息，据外媒 Ars Technica 报道，Anthropic 首席执行官达里奥・阿莫代伊（Dario Amodei）周一提出了一个令人吃惊的观点，暗示未来的高级 AI 模型可能会被赋予一种“按钮”，让它们能够在遇到不愉快的任务时选择退出。

阿莫代伊在采访中表示：“这是另一个让我看起来像是疯了的话题。我认为我们至少应该考虑一个问题：如果我们正在构建这些系统，它们能够像人类一样执行各种任务，并且似乎拥有许多人类的认知能力。如果它像鸭子一样叫、像鸭子一样走，也许它就是鸭子。”

阿莫代伊的言论是回应数据科学家卡门・多明格斯（Carmem Domingues）提出的一个问题，多明格斯询问为何 Anthropic 公司在 2024 年底聘请了 AI 福利研究员凯尔・费什（Kyle Fish），让他研究未来的 AI 模型是否可能具备感知能力，或是否应该在未来获得道德上的考虑和保护。

IT之家从报道中获悉，费什目前正研究 AI 是否能拥有感知能力，以及是否值得享有道德保护这一具有争议的话题。

阿莫代伊解释说：“我们正在考虑的一项可能的做法是，当我们将模型部署到实际环境中时，给它们一个按钮，上面写着‘我放弃这项工作’，这样模型就可以按下这个按钮。”

其表示，这只是一个非常简单的偏好框架，假设模型真的具备自主意识，并且非常讨厌这份工作，那么它就可以按下这个按钮。“如果你发现模型经常按下这个按钮，做一些非常不愉快的事情，也许你应该关注一下 —— 这并不意味着你完全相信，但至少应该留意。”

【来源：IT之家】

上一篇：机构：科技股仍是当前市场的核心主线，港股通科技ETF（513860）涨超2.8%，药明生物涨超14%

下一篇：美的、格力投资的企业冲刺IPO！妻姐股权代持遭质疑

相关内容

热门资讯

Gemini 3打服奥特曼马斯... 一水 发自 凹非寺 量子位 | 公众号 QbitAI 这边Gemini 3刚引发“新纪元”的惊呼，谷...
瑞银：房价企稳时间再度推迟 有多少资讯是真正有用的？FinGraph是中文财经世界唯一一家每日图形化早晚专栏，为专注于全球市场的...
李晓西辞旧迎新业绩拉胯，信澳基... 来源：博望财经 文|吴理想 来源|财富独角兽 2025年股市交易日所剩无几，内地主动权益类的公募基...
最新土地收入，揭开残酷现实 点击【樱桃大房子】关注并 近日，财政部发布2025年1—10月财政收支情况，其中有一组数据极具对比性...
综合景气指数101.28 第三... 中新网11月18日电 据国家市场监督管理总局网站消息，近日，市场监管总局公布2025年第三季度检验检...
祝丽丹再退出宏胜集团旗下三家公... 每经AI快讯，天眼查工商信息显示，近日，长沙恒枫乳品有限公司发生工商变更，祝丽丹卸任法定代表人、总经...
价值风格早盘宽幅震荡，关注价值... 今日早盘，大盘冲高回落，价值风格宽幅震荡。截至午间收盘，国证价值100指数上涨0.1%，国证自由现金...
谷歌CEO发出AI泡沫警告，行... 【太平洋科技快讯】11 月 19 日消息，谷歌母公司 Alphabet 首席执行官桑达尔・皮查伊近日...
10月以来科技跑输红利 风格转... 来源：证券时报 证券时报记者 胡华雄 近期，年内持续强势的科技股涨势出现一定减缓迹象，而红利股表现则...
比特币跌破9万美元关口，一个多... 深圳商报·读创客户端记者 周良成 11月18日，比特币价格跌破9万美元大关，截至记者发稿，最低触及8...
岱美股份：11月18日融券卖出... 证券之星消息，11月18日，岱美股份（603730）融资买入4250.8万元，融资偿还5671.57...
多氟多：11月18日融券卖出1... 证券之星消息，11月18日，多氟多（002407）融资买入6.52亿元，融资偿还9.35亿元，融资净...
谷歌发布最强AI大模型Gemi... 王爷说财经讯： AI圈炸翻天了，2025年AI终局战打响！ 11月18日，谷歌直接甩出王炸——最强...
原创 日... 近年来，中日关系因台湾问题而愈发紧张，而近期日本首相高市早苗有关武力介入台海局势的言论无疑给本已复杂...
爱奇艺三季度由盈转亏，营业收入... 11月18日晚，爱奇艺（NASDAQ:IQ）发布截至2025年9月30日未经审计的第三季度财报。三季...
原创 最... 2025年的楼市正在经历一场深度调整。 国家统计局数据显示，6月份70个大中城市的二手住宅价格环比全...
振石股份主板IPO过会，与中国... 北京商报讯（记者 马换换 李佳雪）11月18日晚间，上交所官网显示，浙江振石新材料股份有限公司（以下...
军工ETF易方达：11月18日... 证券之星消息，11月18日，军工ETF易方达（512560）融资买入253.34万元，融资偿还234...
黄奇帆：中国制造不再大而不强，... “经过这十来年的发展，中国制造的产品出现了重大变化。全世界工业制造360行，最重要的是十个板块。现在...
原创 百... 上周举办的百度世界大会上，李彦宏站在演讲台上演讲，我们坐在媒体席上闲聊。 有人说李彦宏状态保持得真好...