Anthropic CEO阿莫代伊：未来AI或有自我决定权，可拒绝“不爽”的任务
创始人
2025-03-14 14:19:24
0次
3 月 13 日消息，据外媒 Ars Technica 报道，Anthropic 首席执行官达里奥・阿莫代伊（Dario Amodei）周一提出了一个令人吃惊的观点，暗示未来的高级 AI 模型可能会被赋予一种“按钮”，让它们能够在遇到不愉快的任务时选择退出。
阿莫代伊在采访中表示：“这是另一个让我看起来像是疯了的话题。我认为我们至少应该考虑一个问题：如果我们正在构建这些系统，它们能够像人类一样执行各种任务，并且似乎拥有许多人类的认知能力。如果它像鸭子一样叫、像鸭子一样走，也许它就是鸭子。”
阿莫代伊的言论是回应数据科学家卡门・多明格斯（Carmem Domingues）提出的一个问题，多明格斯询问为何 Anthropic 公司在 2024 年底聘请了 AI 福利研究员凯尔・费什（Kyle Fish），让他研究未来的 AI 模型是否可能具备感知能力，或是否应该在未来获得道德上的考虑和保护。
IT之家从报道中获悉，费什目前正研究 AI 是否能拥有感知能力，以及是否值得享有道德保护这一具有争议的话题。
阿莫代伊解释说：“我们正在考虑的一项可能的做法是，当我们将模型部署到实际环境中时，给它们一个按钮，上面写着‘我放弃这项工作’，这样模型就可以按下这个按钮。”
其表示，这只是一个非常简单的偏好框架，假设模型真的具备自主意识，并且非常讨厌这份工作，那么它就可以按下这个按钮。“如果你发现模型经常按下这个按钮，做一些非常不愉快的事情，也许你应该关注一下 —— 这并不意味着你完全相信，但至少应该留意。”
【来源：IT之家】
相关内容
热门资讯
美元“鲸落”？
今年以来，美元指数上演“抛物线”走势：从年初站上110关口到后续“节节败退”，近期更是屡创阶段性新低...
原创 2...
2024一线与新一线19城商业资源集聚度：城市商业魅力的深度剖析 2024一线与新一线19城商业资源...
“参”入烟台 拥“鲍”大海！“...
7月1日晚，“购在中国·2025山东活力之夏消费季”在烟台启动。 本次活动由山东省商务厅和烟台市人民...
原创 李...
近日，李书福收获了第10个IPO，资本版图再次扩张。 近日，曹操出行登陆港交所，股票代号02643....
6月IPO申报迎高峰，受理企业...
21世纪经济报道特约记者 庞华玮 广州报道 2025年6月，A股IPO受理数量增长明显。当月，新受理...
300478，又易主！今日复牌
【导读】巨融伟业拿下杭州高新控制权，林融升成为实际控制人 中国基金报记者 吴君 值得注意的是，此次交...
中石化炼化工程广东新设环境科技...
近日，一家名为中石化（广东）环境科技有限公司的新企业正式成立，这一消息引起了业界的广泛关注。据天眼查...
美国的银行股冲向史高 投资者看...
美国的 银行股收在三年来的最高水平，因投资者认为它们在上周轻松通过美联储压力测试后会着手增加回购并提...
苏州规划明起停牌 拟购买东进航...
中国经济网北京7月1日讯苏州规划(301505.SZ)今晚发布关于筹划发行股份及支付现金购买资产并募...
WTO前首席经济学家：美国经济...
直新闻按 还有不到10天，美国总统特朗普就要对全世界开征所谓“对等关税”，这是否违反了世贸组织的规定...
美联储官员博斯蒂克：预计今年降...
6月30日，亚特兰大联邦储备银行行长拉斐尔·博斯蒂克表示，关税可能会对价格产生渐进式影响，而不是一次...
国机重型装备集团股份有限公司 ...
本公司董事会及全体董事保证本公告内容不存在任何虚假记载、误导性陈述或者重大遗漏，并对其内容的真实性、...
5G赋能农机行业：农友机械集团...
在农机行业的智能化进程中，一个里程碑式的项目——5G+工业互联网工厂，近日成功完成了验收工作。这一项...
【深度】禾元生物上会，科创投资...
图片来源：界面图库 界面新闻记者 | 孙艺真 证监会出台的一系列资本市场改革举措，正为市场打开...
鞍钢股份：聘任张俊峰为公司证券...
每经AI快讯，鞍钢股份（SZ 000898，收盘价：2.32元）6月30日晚间发布公告称，曲圣昱先生...
泰禾集团：已到期尚未还款的借款...
视觉中国 图 7月1日，泰禾集团股份有限公司发布公告，披露了“17泰禾MTN001”和“17泰禾MT...
关税影响下 美国亚马逊中国商品...
央视记者获悉，当地时间6月30日，分析公司DataWeave对1400种不同产品的分析显示，美国亚马...
翰宇药业：上半年净利润预增近1...
【翰宇药业与碳云智肽深化合作，业绩增长助力创新药研发】7月1日，翰宇药业(300199)与碳云智肽在...
原创 7...
写在文章前的声明：在本文之前的说明：本文中所列的投资信息，只是一个对基金资产净值进行排行的客观描述，...
北交所上市公司华维设计登龙虎榜...
每经讯，2025年7月1日，北交所上市公司华维设计（833427，收盘价：21.06元）登上龙虎榜，...