Anthropic CEO阿莫代伊：未来AI或有自我决定权，可拒绝“不爽”的任务
创始人
2025-03-14 14:19:24
0次
3 月 13 日消息，据外媒 Ars Technica 报道，Anthropic 首席执行官达里奥・阿莫代伊（Dario Amodei）周一提出了一个令人吃惊的观点，暗示未来的高级 AI 模型可能会被赋予一种“按钮”，让它们能够在遇到不愉快的任务时选择退出。
阿莫代伊在采访中表示：“这是另一个让我看起来像是疯了的话题。我认为我们至少应该考虑一个问题：如果我们正在构建这些系统，它们能够像人类一样执行各种任务，并且似乎拥有许多人类的认知能力。如果它像鸭子一样叫、像鸭子一样走，也许它就是鸭子。”
阿莫代伊的言论是回应数据科学家卡门・多明格斯（Carmem Domingues）提出的一个问题，多明格斯询问为何 Anthropic 公司在 2024 年底聘请了 AI 福利研究员凯尔・费什（Kyle Fish），让他研究未来的 AI 模型是否可能具备感知能力，或是否应该在未来获得道德上的考虑和保护。
IT之家从报道中获悉，费什目前正研究 AI 是否能拥有感知能力，以及是否值得享有道德保护这一具有争议的话题。
阿莫代伊解释说：“我们正在考虑的一项可能的做法是，当我们将模型部署到实际环境中时，给它们一个按钮，上面写着‘我放弃这项工作’，这样模型就可以按下这个按钮。”
其表示，这只是一个非常简单的偏好框架，假设模型真的具备自主意识，并且非常讨厌这份工作，那么它就可以按下这个按钮。“如果你发现模型经常按下这个按钮，做一些非常不愉快的事情，也许你应该关注一下 —— 这并不意味着你完全相信，但至少应该留意。”
【来源：IT之家】
相关内容
热门资讯
原创 马...
时间拨回到2025年岁末，硅谷正沉浸在一轮又一轮融资狂欢里，各路科技新贵张口闭口都是万亿参数、通用智...
都怪Kimi？K3不是全球科技...
7月16日晚间，月之暗面发布了Kimi K3。2.8万亿参数，开源，多模态，上下文窗口超过100万。...
原创 明...
据不完全统计，如今在全国范围内宣称自己是大槐树移民后裔的人，数量已经达到上亿之多。从明朝初年到今天，...
原创 7...
最近金价跌了一截，后台私信天天爆，大多是普通人来问行情的，有个备婚的小姑娘观望三金好几个月，好不容易...
飞天茅台购销价同步上调百元，板...
7月20日，酿酒板块异动拉升， 威龙股份（603779.SH）涨停， 古井贡酒（000596.SZ）...
华润新能源上市“半月考”：股价...
2026年7月17日，顶着“深市史上最大IPO”光环上市的华润新能源（001248.SZ）股价再创上...
8点1氪丨长鑫科技中签号出炉：...
今日热点导览 任泽平团队回应VIP群聊解散 市场监管总局发布《个体工商户信用信息应用指南》 “工业维...
2025-2000年上市公司企...
1、资料名称：2025-2000年上市公司企业绿色双链融合数据、产业链和创新链融合数据 2、测算方式...
1元出售资产完成，“限塑令”风...
7月16日晚间，华阳新材公告称，全资子公司山西华阳生物降解新材料有限责任公司（以下简称“生物新材公司...
9月加息概率或达65%？又一美...
财联社7月19日消息，美国克利夫兰联储主席贝丝·哈马克此前暗示，美联储可能需要提高利率以遏制持续高企...
出海图志丨出海凉方！中国家电助...
近期，东南亚多国遭遇持续高温天气 制冷家电以及各类“清凉产品”迎来销售旺季 中国品牌凭借持续的技术创...
“义利之辨”及其当代意义（跟着...
湖北省十堰市房县西关印象街区，这里曾是贯通鄂豫川陕的古盐道枢纽。 张启龙摄 富民厚生、义利兼顾的经济...
重磅利好！“国家队”出手了
A股关键时刻，“国家队”出手增持，提振市场信心！ 7月19日晚间，中国国新控股有限责任公司（简称“中...
A股重大利好！两大国家队平台联...
图片来源：视觉中国 7月19日晚间，两大国有资本运营平台同步发布重磅增持公告。中国国新控股有限责任公...
集中挂牌出售8城自持商场，宜家...
红星资本局7月19日消息，商业地产机构仲量联行近日对外披露，已获得宜家母公司英格卡集团（Ingka ...
京东在WAIC搭了一间“AI样...
7月的上海潮湿闷热，2026世界人工智能大会（WAIC）展览区人头攒动，记者却在京东展区解锁了“躺在...
近一月数十只基金逆势斩获超20...
7月20日，A股市场持续调整，沪深300、科创及创业板宽基指数出现显著回撤，多数行业板块同步走弱。但...
国电南瑞：董事长提议5亿元—1...
国电南瑞早间公告，公司董事长郑宗强提议5亿元—10亿元回购股份，回购的股份将用于未来实施股权激励计划...
美国能源部长称对伊朗军事行动将...
△美国能源部长赖特（资料图） 总台记者当地时间7月19日获悉，美国能源部长赖特表示，在总统特朗普实现...
原创 掷...
邱 林 当国航、海航等航司在2026年以来掷数百亿美元、订购476架空客飞机的消息公之于众时，一种普...