Anthropic CEO阿莫代伊：未来AI或有自我决定权，可拒绝“不爽”的任务
创始人
2025-03-14 14:19:24
0次
3 月 13 日消息，据外媒 Ars Technica 报道，Anthropic 首席执行官达里奥・阿莫代伊（Dario Amodei）周一提出了一个令人吃惊的观点，暗示未来的高级 AI 模型可能会被赋予一种“按钮”，让它们能够在遇到不愉快的任务时选择退出。
阿莫代伊在采访中表示：“这是另一个让我看起来像是疯了的话题。我认为我们至少应该考虑一个问题：如果我们正在构建这些系统，它们能够像人类一样执行各种任务，并且似乎拥有许多人类的认知能力。如果它像鸭子一样叫、像鸭子一样走，也许它就是鸭子。”
阿莫代伊的言论是回应数据科学家卡门・多明格斯（Carmem Domingues）提出的一个问题，多明格斯询问为何 Anthropic 公司在 2024 年底聘请了 AI 福利研究员凯尔・费什（Kyle Fish），让他研究未来的 AI 模型是否可能具备感知能力，或是否应该在未来获得道德上的考虑和保护。
IT之家从报道中获悉，费什目前正研究 AI 是否能拥有感知能力，以及是否值得享有道德保护这一具有争议的话题。
阿莫代伊解释说：“我们正在考虑的一项可能的做法是，当我们将模型部署到实际环境中时，给它们一个按钮，上面写着‘我放弃这项工作’，这样模型就可以按下这个按钮。”
其表示，这只是一个非常简单的偏好框架，假设模型真的具备自主意识，并且非常讨厌这份工作，那么它就可以按下这个按钮。“如果你发现模型经常按下这个按钮，做一些非常不愉快的事情，也许你应该关注一下 —— 这并不意味着你完全相信，但至少应该留意。”
【来源：IT之家】
相关内容
热门资讯
原创 2...
先把数字说清楚，别绕弯子，老庙黄金报1603元每克成为今日最高价，菜百报1565元继续做着最低价的“...
“美财长想找中方谈：少买点伊朗...
【文/观察者网 张菁娟】白宫日前主动对外释放特朗普将于3月底访华的消息，但中方尚未确认。 据《华尔...
2025年中国资本市场私募股权...
2025 年中国 VC/PE 市场募投并购及 IPO 全链条均呈现回暖态势，投资及基金数量规模同比增...
三七互娱董事长：坐实小游戏第一...
2026年3月6日，以“永远年轻，永远创造”为主题的三七互娱17周年庆典在广州举行。会上，三七互娱创...
美联储沃勒：当前油价冲击对通胀...
来源：环球市场播报 美联储理事沃勒周五表示，美国对伊朗发动空袭后油价上涨可能令消费者震惊，但全球油...
消费类企业A股IPO重启？证监...
3月6日，中国证监会主席吴清在十四届全国人大四次会议经济主题记者会上表示，将在创业板增设一套更加精准...
证监会发布《关于短线交易监管的...
3月6日，为落实《证券法》规定的短线交易监管制度，便于中长期资金入市，证监会制定发布《关于短线交易监...
政府工作报告解读④｜2500亿...
3月5日，十四届全国人大四次会议开幕，国务院总理李强作政府工作报告。 报告四次提及“扩大内需”，三...
从狂赚到巨亏，博雅互动“囤币”...
由于比特币价格下降，博雅互动预计2025年归母净利润亏损约2.3亿至2.4亿港元。目前，多家港股、A...
中超-姜至鹏直红席尔瓦两球 蓉...
北京时间3月6日，2026赛季中超联赛揭开新赛季大幕。在成都五粮液文化体育中心专业足球场，成都蓉城队...
原创 上...
这哪是上市，这是来割韭的吧，而且是直接拿收割机来收割的，根本不给留活路，上市15天，直接跌了12天，...
北京银行1.6元／克金价乌龙，...
本报（chinatimes.net.cn）记者卢梦雪 见习记者 林佳茹 北京报道 “银行能直接冻结、...
均胜电子与恩力动力达成战略合作...
本报讯 （记者吴奕萱 见习记者王楠）3月5日，宁波均胜电子股份有限公司（以下简称“均胜电子”）微信公...
腾讯 AI 变形记
昨天，阿里千问核心负责人林俊旸离职的消息不但迅速在国内发酵，引发全网热议，甚至震动硅谷与华尔街，引发...
黄金涨到7000美元，不是黄金...
美元与黄金 最近，曾因精准预言2008年次贷危机而闻名，有“末日博士”之称的彼得·希夫再次对全球金融...
53岁李永明，任招商局集团董事...
每经记者｜陈梦妤 每经编辑｜段炼 黄胜 近日，李永明的名字首次出现在招商局集团官网的董事会名单，仅...
警惕节日消费火热下的供需错配
■徐文智 中国消费者协会近日发布的《2026年春节消费维权舆情分析报告》揭示，在服务消费领域，供给质...
土耳其主要银行指数下跌2.1%...
土耳其主要银行指数下跌2.1%。 来源：金融界AI电报
原创 2...
说句扎心的话——你手里那套房子，可能每天都在“蒸发”几百块钱。 不是吓你。你去看看链家、贝壳上那些挂...
亚马逊美国站关于纽扣电池和硬币...
纽扣电池和硬币电池 纽扣电池和硬币电池为扁圆形单体电池，直径通常为 5 至 25 毫米，高度在 1 ...