Anthropic CEO阿莫代伊：未来AI或有自我决定权，可拒绝“不爽”的任务
创始人
2025-03-14 14:19:24
0次
3 月 13 日消息，据外媒 Ars Technica 报道，Anthropic 首席执行官达里奥・阿莫代伊（Dario Amodei）周一提出了一个令人吃惊的观点，暗示未来的高级 AI 模型可能会被赋予一种“按钮”，让它们能够在遇到不愉快的任务时选择退出。
阿莫代伊在采访中表示：“这是另一个让我看起来像是疯了的话题。我认为我们至少应该考虑一个问题：如果我们正在构建这些系统，它们能够像人类一样执行各种任务，并且似乎拥有许多人类的认知能力。如果它像鸭子一样叫、像鸭子一样走，也许它就是鸭子。”
阿莫代伊的言论是回应数据科学家卡门・多明格斯（Carmem Domingues）提出的一个问题，多明格斯询问为何 Anthropic 公司在 2024 年底聘请了 AI 福利研究员凯尔・费什（Kyle Fish），让他研究未来的 AI 模型是否可能具备感知能力，或是否应该在未来获得道德上的考虑和保护。
IT之家从报道中获悉，费什目前正研究 AI 是否能拥有感知能力，以及是否值得享有道德保护这一具有争议的话题。
阿莫代伊解释说：“我们正在考虑的一项可能的做法是，当我们将模型部署到实际环境中时，给它们一个按钮，上面写着‘我放弃这项工作’，这样模型就可以按下这个按钮。”
其表示，这只是一个非常简单的偏好框架，假设模型真的具备自主意识，并且非常讨厌这份工作，那么它就可以按下这个按钮。“如果你发现模型经常按下这个按钮，做一些非常不愉快的事情，也许你应该关注一下 —— 这并不意味着你完全相信，但至少应该留意。”
【来源：IT之家】
相关内容
热门资讯
美股科技巨头，股价创新高
当地时间周五，美股三大指数收涨。截至收盘，道指涨0.09%，报47562.87点；纳指涨幅0.61%...
原创 买...
在中国，房价高企已成为普遍现象，许多购房者倾尽毕生积蓄，背负数十年房贷，方能勉强拥有一套住房。正因如...
688496涉嫌财务数据虚假记...
下一周解禁市值203.22亿元。 清越科技（688496）昨日晚间公告称，公司近日收到中国证监会出具...
芯德半导体冲刺港股：上半年营收...
雷递网 雷建平 11月1日 江苏芯德半导体科技股份有限公司（简称：“芯德半导体”）日前递交招股书，准...
世纪华通2025第三季度营收首...
央广网北京10月31日消息（记者 黄昂瑾）10月30日，世纪华通（002602.sz）披露2025第...
岱美股份（603730）202...
据证券之星公开数据整理，近期岱美股份（603730）发布2025年三季报。截至本报告期末，公司营业总...
原创 国...
国有大行“收编”小银行：金融风险化解进入深水区 2025年10月，农业银行对安塞农银村镇银行的收购...
赤峰黄金（06693.HK）：...
证券之星消息，10月31日南向资金减持154.92万股赤峰黄金（06693.HK）。近5个交易日中，...
招商银行：聘任徐明杰为首席风险...
10月31日晚间，招商银行公告显示，董事会收到公司首席风险官钟德胜的辞任函。钟德胜因工作原因，向公司...
IXDC2025大会｜Harm...
10月31日，在北京国家会议中心举行的第十六届IXDC2025国际体验设计大会上，华为终端UX设计总...
抖音“苏超”数据报告发布：“跟...
交汇点讯 10月31日，抖音生活服务发布《2025“苏超”数据报告》。报告显示，5月10日至10月2...
28亿再入昌平 北京城建的联合...
观点网北京城建再次光顾昌平。 10月30日，北京市昌平区东小口镇贺村中滩村组团B地块重点村旧村改造项...
吉祥航空：预计明年票价表现跑赢...
吉祥航空10月31日发布最新机构调研纪要，当日，公司与民生证券、华泰证券、招商证券、国泰海通证券、中...
港股三大指数震荡走低，半导体板...
10月31日，港股三大指数震荡走低，恒生科技指数午后跌超1.5%。盘面上，科网股普跌，创新药概念股逆...
期货外汇交易从认知正确到执行正...
期货用保证金交易，这个保证金就相当于是押金，当你买入建仓时就相当于你在期货交易所借了某个品种，等你卖...
时空科技：目前公司主营业务未发...
来源：界面新闻 时空科技10月31日发布股票交易风险提示公告，公司股票价格自2025年9月以来累计上...
从“十五五”规划建议，读懂中国...
当今世界，百年变局加速演进，国际社会正处在深刻变革与动荡不安的十字路口，不确定性笼罩全球。 在此背景...
停牌！600169，将被“ST...
【导读】太原重工将被实施其他风险警示，自11月3日开市起停牌1天 中国基金报记者 闻言 10月31日...
建设强大国内市场怎么干？“强大...
来源：东北新闻网 《“十五五”规划建议》提出，建设强大国内市场，加快构建新发展格局。消费是拉动我国经...
羽绒服转型户外品牌IPO，你听...
国庆节过后，北方各地迎来断崖式降温，御寒类商品需求逐渐攀升；恰逢此时，各大电商平台“双十一”大促陆续...