Anthropic CEO阿莫代伊：未来AI或有自我决定权，可拒绝“不爽”的任务
创始人
2025-03-14 14:19:24
0次
3 月 13 日消息，据外媒 Ars Technica 报道，Anthropic 首席执行官达里奥・阿莫代伊（Dario Amodei）周一提出了一个令人吃惊的观点，暗示未来的高级 AI 模型可能会被赋予一种“按钮”，让它们能够在遇到不愉快的任务时选择退出。
阿莫代伊在采访中表示：“这是另一个让我看起来像是疯了的话题。我认为我们至少应该考虑一个问题：如果我们正在构建这些系统，它们能够像人类一样执行各种任务，并且似乎拥有许多人类的认知能力。如果它像鸭子一样叫、像鸭子一样走，也许它就是鸭子。”
阿莫代伊的言论是回应数据科学家卡门・多明格斯（Carmem Domingues）提出的一个问题，多明格斯询问为何 Anthropic 公司在 2024 年底聘请了 AI 福利研究员凯尔・费什（Kyle Fish），让他研究未来的 AI 模型是否可能具备感知能力，或是否应该在未来获得道德上的考虑和保护。
IT之家从报道中获悉，费什目前正研究 AI 是否能拥有感知能力，以及是否值得享有道德保护这一具有争议的话题。
阿莫代伊解释说：“我们正在考虑的一项可能的做法是，当我们将模型部署到实际环境中时，给它们一个按钮，上面写着‘我放弃这项工作’，这样模型就可以按下这个按钮。”
其表示，这只是一个非常简单的偏好框架，假设模型真的具备自主意识，并且非常讨厌这份工作，那么它就可以按下这个按钮。“如果你发现模型经常按下这个按钮，做一些非常不愉快的事情，也许你应该关注一下 —— 这并不意味着你完全相信，但至少应该留意。”
【来源：IT之家】
相关内容
热门资讯
经济日报：银行为何“补贴”微信...
近日，多家商业 银行宣布，如果用户将微信零钱提现至该行借记卡，可享受手续费抵扣、全额减免等优惠政策。...
冷链里诞生“热”产业
天津市肉类协会的进口肉类展台前，工作人员现场制作巴西牛肉。 记者 张磊 潘立峰 摄 第四届天津国际航...
科创综指逆势飘红 AI硬件等科...
半导体板块日K线图 张大伟 制图 ◎记者 李雨琪 6月4日，A股市场整体偏震荡，科技成长股相对活...
美股收评：道指狂飙近875点创...
周四（6月4日），美国股市收盘涨跌不一，道琼斯工业平均指数在非科技蓝筹股带动下刷新历史高位，但纳斯达...
原创 6...
最怕的，不是美国金库里没黄金。 最怕的是，全世界开始怀疑：你那堆黄金，到底还在不在。 特朗普这次盯上...
全球石油库存见底？IEA警告：...
当地时间6月2日，国际能源署（IEA）高级官员发出严厉警告，全球石油库存正以创纪录速度下降，若当前趋...
原创 6...
五月下旬，风云突变，国际原油市场经历了戏剧性的一幕。布伦特原油价格，在短短不到半个月的时间里，从五月...
阿里变阵：80后CTO吴泽明跻...
瑞财经 吴文婷阿里迎来重要人事变动。 6月2日，据媒体报道，阿里巴巴集团CTO吴泽明（花名：范禹）...
原创 百...
斑马消费 杨伟 一个名叫“崃州”的中国威士忌品牌，突然之间火了起来。 崃州威士忌并非横空出世，它是R...
中小企业融资：为何如此艰难？中...
中小企业融资：为何如此艰难？ 在当今的经济舞台上，中小企业就像是一群充满活力却又有些“营养不良”的...
公司成功发行2026年度第一期...
6月4日，公司成功发行2026年度第一期绿色超短期融资券，创下多项行业及中交集团纪录，该产品是国内港...
农产品：公司与全国约45万亩基...
证券日报网6月4日讯 ，农产品在接受调研者提问时表示，公司与全国约45万亩基地建立了协议合作关系，广...
能聊天、会规划、可自主执行！亚...
亚马逊正将人工智能深度嵌入其仓储自动化体系。这家电商巨头发布了新一代AI仓储机器人Proteus，员...
大牛市一年催生近200万新富豪...
得益于全球主要股票市场的史诗级狂飙，过去一年全球高净值人群的财富规模与人口基数均创下了近五年来的最快...
直线跳水！日本股市跌超1200...
记者|杜恒峰 编辑|段炼 杜波 校对|梁露月 6月5日，日韩股市开盘直线跳水。截至发稿，韩国KOSP...
每日收评三大指数缩量整理全线收...
财联社6月4日讯，市场全天震荡调整，三大指数集体下挫。沪深两市成交额2.75万亿，较上一个交易日缩量...
深交所：严管重组上市，支持三类...
2026年6月3日，深交所在上市公司并购重组交流会上明确了重点支持的三类并购重组，具体包括鼓励产业整...
银行盈利“去水分”，含金量大增
文丨吴海珊 编辑丨林伟萍 过去几年，随着净息差的持续走低，银行经营利润持续面临挑战，从2022年到2...
企业公章挂失登报
随着信息技术的飞速发展,企业公章作为企业标识的象征，已经成为企业"—卫生—管理的重要组成部分，随着企...
男子买房买到34层，收房时被告...
13年前，沈先生在西安市三桥街道（现为西咸新区沣东新城三桥街道）“加贝花园”买了一套房，合同约定房号...