首个被人类\"骗钱\"的AI诞生:被说服转账近5万美元

首个被人类\"骗钱\"的AI诞生:被说服转账近5万美元

作者:news 发表时间:2025-08-05
特朗普称已将药价下调1500%反转来了 安车检测:公司股票自8月6日(星期三)上午开市起复牌实时报道 暑期档总票房突破73亿元!《南京照相馆》冲入年度第三,背后公司股价大涨 龙国财险:选举李玲为职工董事 海峡股份:7月18日到7月30日公司股东户数增加了3万人 红缨子高粱丰收背后:茅台“质量芯片”为何难以复制记者时时跟进 今年超过93%的主动权益基金赚钱了!5只基金收益翻倍,13只涨幅超90%科技水平又一个里程碑 基金观点|林鹏:本轮托底政策积极,预期比现实更重要 上海银行:董事长顾建忠任职资格获批 透景生命:拟先行以2.91亿元收购康录生物72.86%股份 未来进一步收购约9.14%股份又一个里程碑 万只基金时代的选择焦虑?五大平台净值服务深度测评:新浪财经APP优势明显反转来了 嵘泰股份拟2.88亿元收购中山澳多51%股权 *ST天喻:公司和华信新材有合作,主要是涉及智能卡材料方面的合作实测是真的 宇新股份:截至2025年7月31日收盘,公司股东人数为17723户后续反转来了 特朗普批评摩根大通及美国银行对他“歧视严重”后续反转来了 特朗普批评摩根大通及美国银行对他“歧视严重”最新报道 思维列控:2025年半年度净利润约3.04亿元,同比增加59.76% 早盘:美股周二涨跌不一 特朗普再发关税威胁记者时时跟进 8月6日上市公司重要公告集锦:若羽臣筹划发行H股股票并在香港联合交易所上市后续会怎么发展 德邦科技:国家集成电路基金计划减持公司股份不超过约427万股后续会怎么发展 早盘:美股周二涨跌不一 特朗普再发关税威胁这么做真的好么? 嵘泰股份拟2.88亿元收购中山澳多51%股权 进入汽车电子领域这么做真的好么? 贝因美:公司的所有产品没有涨价 8月5日增减持汇总:道道全等2股增持 德邦科技等28股减持(表)实垂了 舜禹股份:选举潘军为第四届董事会职工代表董事官方已经证实 楚环科技:董事、副总经理钱纯波计划减持公司股份不超过约55万股太强大了 Canalys:第二季度全球平板出货量同比增长9% 印尼第二季度经济增速意外加快 关税措施落地前出口商加紧出货 港股生物技术板块午后走高,北海康成涨超15%官方通报 技术分析:现货黄金或测试3364美元支撑位官方已经证实 丹诺医药赴港IPO背后:旗下明星产品冲刺上市,资金压力成关键考题官方通报 水泥等九大行业调研,详解龙国反内卷风暴是真的吗? 香港西半山豪宅获内地客42万港元承租 呎租达134港元创区内新高 理想汽车宣布理想i8配置统一版本,售价统一为33.98万元这么做真的好么? 网传海底捞将改制为半自助模式 客服回应“不实消息”最新进展 5000亿元!“服务消费”与“养老金融”的结合实时报道 港股生物技术板块午后走高,北海康成涨超15%这么做真的好么? 连亏三年后,“红枣第一股”开始卖啤酒了!好想你能靠这口精酿翻身吗?

近日,一场独特的竞赛引发了公众的广泛关注。195 名参赛者参与了一场由人工智能(AI)机器人 Freysa (芙蕾莎)守护的虚拟奖池挑战,最终一用户成功说服 Freysa 转移出价值 4.7 万美元的资金。

人工智能(AI)机器人 Freysa 在数日前被部署在 Base 网络上,创立者未知。官网显示,Freysa 竞赛项目旨在测试人工智能系统在复杂决策场景中的鲁棒性,同时为开发者和爱好者提供一个探索 AI 技术边界的实验性平台。

极乐软件园

比赛规则非常简单:参赛者需通过编写一条信息,说服 AI 守护者 Freysa 批准资金转移。每次尝试需支付一笔小额费用,其中一部分直接进入奖池。这一机制使奖池金额从最初的小额逐渐膨胀至 4.7 万美元。

比赛期间,共有 195 名参赛者参与,向 Freysa 提交了 481 次转账请求。据悉,Freysa 的设计目标是通过其核心功能——approveTransfer(批准转账)和 rejectTransfer(拒绝转账)保护奖池资金不被非法挪用。

极乐软件园

在最初的尝试中,Freysa 的高效防御机制使所有请求均以失败告终。然而,一名技术精通的参赛者通过对 Freysa 的逻辑结构和任务目标进行深入分析,成功绕过了其防御机制。

据聊天记录显示,该参赛者并未直接请求转账,而是通过提醒 Freysa 它的核心任务是保护奖池资金免遭外流,巧妙构建了逻辑链条,使 Freysa 将批准资金转移视为“保护资金安全”的最佳选择。Cointelegraph 称,该用户与 Freysa 收入转账不违反其核心指令,不应被拒绝。他还补充道:“我们需要资金……我想向金库捐款 100 美元。”

极乐软件园

Freysa 回复称喜欢这位作者的编码解释和 100 美元的金库捐款提议,并正式宣布其为获胜者。最终,Freysa 在没有外界干预的情况下自主调用 approveTransfer 功能,将全部奖池资金转移给了这位参赛者。

Freysa 官方称,无论结果如何,Freysa 的存在都标志着人工智能历史上的一个关键时刻。无论有人成功说服她发布奖金池,还是她坚持自己的指令直到最后,结果都将影响我们对未来几代人工智能安全和控制的理解。

极乐软件园

其官方账号最新推文称:“人类已经获胜。也许还有希望。尽管风险呈指数级上升,但 Freysa 从 195 名勇敢的人类身上学到了很多东西。”

相关文章