Anthropic CEO阿莫代伊：未来AI或有自我决定权，可拒绝“不爽”的任务
创始人
2025-03-14 14:19:24
0次
3 月 13 日消息，据外媒 Ars Technica 报道，Anthropic 首席执行官达里奥・阿莫代伊（Dario Amodei）周一提出了一个令人吃惊的观点，暗示未来的高级 AI 模型可能会被赋予一种“按钮”，让它们能够在遇到不愉快的任务时选择退出。
阿莫代伊在采访中表示：“这是另一个让我看起来像是疯了的话题。我认为我们至少应该考虑一个问题：如果我们正在构建这些系统，它们能够像人类一样执行各种任务，并且似乎拥有许多人类的认知能力。如果它像鸭子一样叫、像鸭子一样走，也许它就是鸭子。”
阿莫代伊的言论是回应数据科学家卡门・多明格斯（Carmem Domingues）提出的一个问题，多明格斯询问为何 Anthropic 公司在 2024 年底聘请了 AI 福利研究员凯尔・费什（Kyle Fish），让他研究未来的 AI 模型是否可能具备感知能力，或是否应该在未来获得道德上的考虑和保护。
IT之家从报道中获悉，费什目前正研究 AI 是否能拥有感知能力，以及是否值得享有道德保护这一具有争议的话题。
阿莫代伊解释说：“我们正在考虑的一项可能的做法是，当我们将模型部署到实际环境中时，给它们一个按钮，上面写着‘我放弃这项工作’，这样模型就可以按下这个按钮。”
其表示，这只是一个非常简单的偏好框架，假设模型真的具备自主意识，并且非常讨厌这份工作，那么它就可以按下这个按钮。“如果你发现模型经常按下这个按钮，做一些非常不愉快的事情，也许你应该关注一下 —— 这并不意味着你完全相信，但至少应该留意。”
【来源：IT之家】
相关内容
热门资讯
以精细化管理推动农信改革升级
本报吕梁讯 近年来，石楼联社通过精细化管理和考核激励，每日动态监测业务数据并制定次日营销计划，形成“...
佳兆业集团：预期2024年度取...
观点网讯：3月24日，佳兆业集团发布盈利警告，预计本年度亏损不超过人民币300亿元，较上一年度亏损净...
远洋服务变阵｜年报风云⑥
文/乐居财经 徐酒眠 “2025年我们对第三方拓展定位为规模增长的主要来源，预期实现1个亿的合...
香港2月出口货值同比升15.4...
香港3月25日电 (记者 魏华都)香港特区政府统计处25日公布对外商品贸易统计数据，2025年2月香...
泰豪科技拟购买江西泰豪军工集团...
中国经济网北京3月24日讯 泰豪科技(600590.SH)今日盘后发布关于筹划发行股份购买资产暨关联...
A股分拆上市，新案例！
【导读】诺力股份拟分拆控股子公司中鼎智能至港交所主板上市 中国基金报记者 闻言 3月25日晚间， ...
力拓集团CEO石道成：全球锂年...
来源/21能闻（nengwen-21） 作者/曹恩惠 白杨 编辑/骆一帆 孙晨阳 图源/21能闻 力...
CoreWeave：AI算力新...
在AI领域的激烈竞争中，一家名为CoreWeave的新兴公司悄然崛起，正在挑战传统云计算巨头的地位。...
2024年全球风险投资格局-对...
报告由摩根大通发布，分析了全球风险投资格局及其对软件与安全领域的影响，涵盖投资趋势、重点领域、并购活...
“不到1个月，外卖订单蹭蹭往上...
“在其他平台卖200单的利润，京东只要40单就能做到！”北京一家烧烤店老板感叹，在加入京东外卖后，门...
最高可贷5000万元！金融助企...
记者24日获悉，人力资源社会保障部近日下发关于进一步加大金融助企稳岗扩岗力度的通知，在原有小微企业基...
晨光股份2024年净利14亿减...
挖贝网3月25日，晨光股份[603899]近日发布2024年年度报告，实现营业收入242.28亿元，...
3月25日ETF晚报丨三大指数...
一、ETF行业快讯1.三大指数涨跌互现，煤炭板块ETF涨幅居前 今日，三大指数涨跌互现，上证综指较前...
爱科赛博涨3.40%，成交额1...
来源：新浪证券-红岸工作室 3月25日，爱科赛博涨3.40%，成交额1.02亿元，换手率4.30%，...
海尔智家副总裁宋玉军要让用户“...
AWE2025圆满闭幕，作为一年一度的家电、智能家居及消费电子盛会，千余家参展企业汇聚上海，共同见证...
买房，可7天无理由退订？
买房，都可以7天无理由退订了? 近日，湖南省长沙市长沙县住房和城乡建设局发布《关于落实购房订金保护期...
毕节房产评估哪家好
这是(tel15828298733)整理的信息，希望能帮助到大家 在毕节这座充满潜力的城市，房产市场...
仅3天！人气高标“筹码”已换2...
财联社3月25日讯（编辑 梓隆），今日（3月25日），市场热股邵阳液压盘中巨震，截至收盘，其全天成交...
招行生命线零售业务不良率上升，...
3月25日，招商银行(600036)披露了2024年财报，而截至当日A股收盘，该行股价今年以来的涨幅...
兢强科技：经营性现金大幅流出仍...
近期，铜陵兢强电子科技股份有限公司（下称“兢强科技”）提交了招股说明书，拟北交所IPO上市，公开发行...