Anthropic CEO阿莫代伊：未来AI或有自我决定权，可拒绝“不爽”的任务
创始人
2025-03-14 14:19:24
0次
3 月 13 日消息，据外媒 Ars Technica 报道，Anthropic 首席执行官达里奥・阿莫代伊（Dario Amodei）周一提出了一个令人吃惊的观点，暗示未来的高级 AI 模型可能会被赋予一种“按钮”，让它们能够在遇到不愉快的任务时选择退出。
阿莫代伊在采访中表示：“这是另一个让我看起来像是疯了的话题。我认为我们至少应该考虑一个问题：如果我们正在构建这些系统，它们能够像人类一样执行各种任务，并且似乎拥有许多人类的认知能力。如果它像鸭子一样叫、像鸭子一样走，也许它就是鸭子。”
阿莫代伊的言论是回应数据科学家卡门・多明格斯（Carmem Domingues）提出的一个问题，多明格斯询问为何 Anthropic 公司在 2024 年底聘请了 AI 福利研究员凯尔・费什（Kyle Fish），让他研究未来的 AI 模型是否可能具备感知能力，或是否应该在未来获得道德上的考虑和保护。
IT之家从报道中获悉，费什目前正研究 AI 是否能拥有感知能力，以及是否值得享有道德保护这一具有争议的话题。
阿莫代伊解释说：“我们正在考虑的一项可能的做法是，当我们将模型部署到实际环境中时，给它们一个按钮，上面写着‘我放弃这项工作’，这样模型就可以按下这个按钮。”
其表示，这只是一个非常简单的偏好框架，假设模型真的具备自主意识，并且非常讨厌这份工作，那么它就可以按下这个按钮。“如果你发现模型经常按下这个按钮，做一些非常不愉快的事情，也许你应该关注一下 —— 这并不意味着你完全相信，但至少应该留意。”
【来源：IT之家】
相关内容
热门资讯
ETF盘中资讯 | 阿里绩后跌...
11月26日，港股AI延续涨势，重仓互联网龙头的港股互联网ETF（513770）场内价格续涨逾1%，...
阿里财报后为何“高开低走”？高...
11月25日，阿里巴巴发布最新财报，在云业务增长和AI资本开支方面交出了，一度推动其股价在美股盘前上...
科创人工智能ETF华夏：11月...
证券之星消息，11月25日，科创人工智能ETF华夏（589010）融资买入200.57万元，融资偿还...
聚焦两业融合，佛山人力园赋能制...
南都讯 为深入推动人力资源服务业与制造业深度融合，助力制造业企业在新形势下精准防控人力资源风险，提升...
凯德石英：11月25日融资买入...
证券之星消息，11月25日，凯德石英（920179）融资买入125.37万元，融资偿还133.37万...
人民币被踢出局？英美联手巩固美...
前言 好家伙！伦敦金属交易所（LME）一纸公告，直接把金融圈炸开了锅！从11月10日起，所有非美元计...
特斯拉陶琳：供应商原产国或地理...
11月26日，特斯拉副总裁陶琳发文称：无论是美国、中国还是欧洲，特斯拉全球各生产基地的供应商选择都采...
原创 阿...
摘要：经营利润大跌85%（欢迎关注闺蜜财经） 撰文｜蜜妹 这是@闺蜜财经的第1731篇原创 阿里正...
公私募抢上车摩尔线程！初配名单...
财联社11月26日 讯（记者 吴雨其）在报价环节就备受关注的摩尔线程，网下初步配售结果终于落地。 在...
金戈新材IPO：初中学历搞研发...
AI算力设备前景看好，芯片的“液冷”概念也一度成为市场焦点。 其实，在液冷设备和芯片之间，还有一层用...
中辰股份：控股股东计划减持不超...
每经AI快讯，中辰股份（SZ 300933，收盘价：8.11元）11月25日晚间发布公告称，持有公司...
原创 3...
斑马消费 沈庹 就算你有盛世美颜，如果头上是“地中海”，恐怕就与帅哥、靓女不沾边了。 在中国，有近3...
30元的蛋挞、50元的吐司、“...
30元一枚的蛋挞 50元一条的吐司 …… 如今，贵价网红面包屡见不鲜 小小面包为啥卖这么贵？ 你能接...
观点人物｜京华烟云 左晖与刘肖...
观点网十一月的地产圈，一则耐人寻味的人事变动悄然上演。曾任职万科开发经营本部营销副经理的赵然，转身加...
加50升92号汽油省2.5元
山西晚报·山河+讯（记者 张磊）11月24日24时，成品油价格迎来今年第十次下调，汽、柴油零售限价每...
生于1993年，百大UP主之一...
来源：大象新闻 本文来自微信公众号“大象新闻” 11月25日，上纬新材(688585.SH)公告称，...
原创 百...
最近两天，网上比较火的是百亿私募大佬罕见发声道歉的事情，原因是该私募旗下的基金多数预估净值下跌7%，...
黄力晨：降息预期再次升温 黄金...
来源：黄力晨 昨日周二我们认为，市场对美联储12月降息的预期再次升温，推动黄金价格反弹，短期技术面也...
城步文旅广体局：深耕文旅产业融...
（通讯员 李雨聪 杨明灿 李竞婧）“以前发愁客源，现在订单排到下周，多亏了城步文旅广体局的全方位帮助...
晶科科技：11月25日召开董事...
每经AI快讯，晶科科技（SH 601778，收盘价：3.37元）11月25日晚间发布公告称，公司第三...