Anthropic CEO阿莫代伊：未来AI或有自我决定权，可拒绝“不爽”的任务
创始人
2025-03-14 14:19:24
0次
3 月 13 日消息，据外媒 Ars Technica 报道，Anthropic 首席执行官达里奥・阿莫代伊（Dario Amodei）周一提出了一个令人吃惊的观点，暗示未来的高级 AI 模型可能会被赋予一种“按钮”，让它们能够在遇到不愉快的任务时选择退出。
阿莫代伊在采访中表示：“这是另一个让我看起来像是疯了的话题。我认为我们至少应该考虑一个问题：如果我们正在构建这些系统，它们能够像人类一样执行各种任务，并且似乎拥有许多人类的认知能力。如果它像鸭子一样叫、像鸭子一样走，也许它就是鸭子。”
阿莫代伊的言论是回应数据科学家卡门・多明格斯（Carmem Domingues）提出的一个问题，多明格斯询问为何 Anthropic 公司在 2024 年底聘请了 AI 福利研究员凯尔・费什（Kyle Fish），让他研究未来的 AI 模型是否可能具备感知能力，或是否应该在未来获得道德上的考虑和保护。
IT之家从报道中获悉，费什目前正研究 AI 是否能拥有感知能力，以及是否值得享有道德保护这一具有争议的话题。
阿莫代伊解释说：“我们正在考虑的一项可能的做法是，当我们将模型部署到实际环境中时，给它们一个按钮，上面写着‘我放弃这项工作’，这样模型就可以按下这个按钮。”
其表示，这只是一个非常简单的偏好框架，假设模型真的具备自主意识，并且非常讨厌这份工作，那么它就可以按下这个按钮。“如果你发现模型经常按下这个按钮，做一些非常不愉快的事情，也许你应该关注一下 —— 这并不意味着你完全相信，但至少应该留意。”
【来源：IT之家】
相关内容
热门资讯
2025搜狐财经年度论坛议程公...
11月27日，2025搜狐财经年度论坛将在北京举办。 本届论坛将汇集20余位来自学术界、产业界和投资...
AI算力狂飙！CPO概念暴涨超...
早盘，CPO概念板块表现活跃，板块整体涨幅6.52%，其中长光华芯20CM涨停，中际旭创、新易盛涨超...
风华高科：11月25日融券卖出...
证券之星消息，11月25日，风华高科（000636）融资买入4665.93万元，融资偿还1.5亿元，...
破纪录的2亿吨背后，西部能源大...
11月21日来自国家管网的一则数据却引发了能源观察界的深层思考：截至当日，中国最长的原油管道——西部...
链接全球资源 外籍专家在西安共...
11月25日，来自俄罗斯、德国、意大利、澳大利亚等9个国家的9位外籍专家，走进西咸新区空港新城的陕西...
降息预期升温压制美元，黄金持稳...
周三（11月26日）亚市早盘，现货黄金窄幅震荡，目前交投于4133美元/盎司附近。周二金价持稳于每盎...
原创 又...
雷达财经出品 文|丁禹 编|孟帅 凭借5300亿元的财富，钟睒睒不久前刚从张一鸣的手中夺回第四顶中国...
原创 银...
银行疯了？国有大行+农信社集体甩房，五折起拍还喊“不计成本”！这到底是天上掉馅饼，还是埋好的坑？ 关...
华大基因：11月25日融资买入...
证券之星消息，11月25日，华大基因（300676）融资买入1112.89万元，融资偿还1542.1...
破解渠道管理“哥德巴赫猜想”：...
在传统商业生态中，渠道管理长期被视为“哥德巴赫猜想”——看似有规律可循，实则充满变量与挑战。多级经销...
拟转让汇银木业51%股权，ST...
北京商报讯（记者 马换换 李佳雪）11月25日晚间，ST景谷（600265）披露公告称，公司当日收到...
港股通科技ETF：11月25日...
证券之星消息，11月25日，港股通科技ETF（513860）融资买入895.49万元，融资偿还108...
博迁新材：11月25日融券卖出...
证券之星消息，11月25日，博迁新材（605376）融资买入1058.19万元，融资偿还1498.9...
经营利润骤降85%，阿里巴巴站...
界面新闻记者 | 程璐 界面新闻编辑 | 刘方远 阿里巴巴正站在新旧动能转换的十字路口。 根据其...
阿里最新财报释放两大信号：闪购...
图源：视觉中国 11月25日，阿里巴巴集团（BABA.NYSE；09988.HK，下称“阿里”）发布...
国家数据局：启动国有企业数据资...
上证报中国证券网讯（记者 于祥明）国家数据局副局长陈荣辉11月25日在国家数据局举办的“数据价值化 ...
江华：阳华商业广场招商运营启动
今日永州讯（江华特约记者 杨振民）１１月２５日，阳华商业广场招商运营启动仪式在阳华商业广场举行。江华...
ETF盘中资讯 | 阿里绩后跌...
11月26日，港股AI延续涨势，重仓互联网龙头的港股互联网ETF（513770）场内价格续涨逾1%，...
阿里财报后为何“高开低走”？高...
11月25日，阿里巴巴发布最新财报，在云业务增长和AI资本开支方面交出了，一度推动其股价在美股盘前上...
科创人工智能ETF华夏：11月...
证券之星消息，11月25日，科创人工智能ETF华夏（589010）融资买入200.57万元，融资偿还...