OpenAI高薪招募安全专家 应对AI自我进化风险 —— 今年5月 ，Anthropic结合首创人兼政策主管Jack Clark暗示 ，他以为到2028年底 ，实现“没有人类参加的AI研发”的概率约莫为60% 。
若是AI模型可能自行训练自己 ，那么一种科幻式反乌托国场景就可能出现：它们的能力迅速增长、脱离节造 ，并造成宽泛中伤——这正是AI安全活动持久忧郁的问题 。
在从前六个月里 ，OpenAI和Anthropic的编程工具获得了巨猛进取之后 ，AI系统所谓“递归式自我改进”的潜力 ，已经成为AI行业掌管人关注的沉点 。
Demis Hassabis本周暗示 ，人类如今正站在“奇点”的脚下——也就是AI起头自我发展 ，并超过人类智能的那个时刻 。打算于今年上市的OpenAI ，最近颁布了一个分歧寻常的招聘岗位：公司在寻找一名安全钻研员 ，专门钻延装当AI可能训练出更优良版本的自己时”所带来的后果 。
该招聘信息是本月为OpenAI的Preparedness安全团队颁布的 。
岗位年薪总包为25万至38万欧元 ，招聘对象是“有经验的技术专家 ，以支持针对递归式自我改进的筹备工作” 。最近 ，像OpenAI和Anthropic这样的尝试室 ，其模型能力正以惊人的速度持续提升——这种提升体此刻它们可能解决的问题复杂度上 。
钻研模型能力的尝试室METR的钻研人员在今年3月写路：AI模型可能实现的工作长度 ，约莫每七个月翻一倍——这些模型正越来越可能承担那些正本必要人类破费大量功夫实现的工作 。
该公司也但愿将自身的钻研工作自动化 。CEO Sam Altman去年10月暗示 ，公司指标是在今年9月之前 ，让一个“自动化AI钻研实习生”运行在数十万块芯片上；并在2028年3月之前 ，实现一个“真正的自动化AI钻研员” 。
“我们齐全可能在这个指标上失败 ，”Altman在X上写路 ，“但思考到其潜在影响极其巨大 ，我们以为 ，公开通明地会商这件事切合公共利益 。
」匦聘信息提到 ，这名钻研员可能会专一于；penAI模型免受“数据投毒”攻击——也就是通过被把持的训练数据来腐蚀AI模型的行为 。
OpenAI的Preparedness团队 ，其职责是预防AI造成严沉风险 。该团队的其他岗位还蕴含：自动化红队测试 ，用于评估网络安全、生物与化学风险 ，以及“代理型AI”带来的威胁 。
一位不愿泄漏姓名的分析师以为 ，OpenAI高薪招募安全专家 应对AI自我进化风险目前仍处于急剧发展期 。
? 各人怎么看
登山家：巴西税收创汗青新高 ，受石油暴利推动|周四颁布的官方数据显示 ，受与石油有关的收入增长推动 ，巴西4月份联国税收大幅增长 。与美国和以色列对伊朗战争有关的原油价值上涨 ，提升了总统Luiz Inacio Lula da Silva辅导下确当局财政收入 。|总税收达到2788.23亿雷亚尔（558.6亿美元） ，经通胀调整后同比增长7.82% ，创下该酝据的汗青新高 ，一连了今年迄今为止每个月都出现的创纪录态势 。|4月份由联国税务局治理的税收收入经通胀调整后增长7.31% ，而重要由石油特许权使用费推动的其他机构征收的收入则跃升14.89% 。 (?903)
分析师：欧洲央行忠告：伊朗大势冲击加剧欧洲金融脆弱性|欧洲央行于周三颁布汇报称 ，伊朗大势及持续的业务摩擦可能牵累欧元区经济增长、推高借贷成本 ，并部门成员国维持财政出入平衡的能力承压 。|目前金融市场对伊朗矛盾反映清淡：股市估值处于高位 ，企业融资成本偏低 ，欧元区 21 个成员国的国债收益率价差也维持在低位 。市场忧郁投资者因而对潜在风险放松警惕 。|欧洲央行在半年一度的《金融不变汇报》中暗示：若能源冲击持续发酵 ，经济增长显著放缓 ，市场或将沉新评估列国财政可持续性 ，并引发国债市场价值急剧调整 。|欧洲央行补充路：国防开支、绿色转型 ，以及为缓解能源涨价对居民和企业冲击而出台的各类财政行动 ，使得列国国债融资需要居高不下 ，中期财政压力将进一步加大 。|对冲基金在国债市场的参加度不休提升 ，也令风险加剧 。欧洲央行暗示 ，这类机构平日可提升市场流动性 ，但普遍选取高杠杆运作 ，会让资产价值更容易受市场感情影响而剧烈颠簸 。|此表 ，通明度较低的非银金融机构也可能放大债券抛售行情 。这类机构资产流动性偏弱、杠杆率偏高 ，且监管尺度相对宽松 ，同时与传统银行联系缜密 ，一旦出现风险 ，极易传导至整体银行业 。|汇报同时警示 ，美国债务可持续性隐忧也可能向欧洲舒展 。美国国债从来是全球避险资产 ，但市场若对美国财政政策的可信度产生质疑 ，投资者预期将急剧转变 ，并引发全球性连锁反映 。 (?778)
健身锻练：苹果就Epic Games案上诉至最高法院 ，App Store支付规定悬而未决|苹果公司于5月21日正式向美国最高法院提交请愿书 ，要求复审下级法院在Epic Games反垄断诉讼中作出的轻视法庭裁定及禁令合用领域两项主题司法问题 ，此举可能沉塑iOS生态内开发者处置表部支付的方式 。|这次上诉源于Epic Games于2020年提议的诉讼 ，指控苹果通过App Store规定对利用分发和支付方式执行过度节造 。2021年 ，法院颁布禁令要求苹果允许开发者在利用中增长链接疏导用户使用非苹果支付渠路 。苹果虽按划定盛开表链 ，但新增了27%的佣金及链接形状限度 ，被Epic责怪为虚伪合规 。2025年 ，主审法官冈萨雷斯·罗杰斯认定苹果蓄意违反禁令 ，组成民事轻视法庭 ，并进一步不容苹果对表部支付收取任何佣金及限度链接大局 。|在长达34页的请愿书中 ，苹果主张下级法院基于禁令心灵而非明确文本认定轻视的做法有误 ，并援引联国民事诉讼规定指出 ，民事轻视仅应在号令被明确且无歧义地违反时能力合用 。此表 ，苹果以为2021年禁令仅涉及Epic单一原告 ，不应扩大合用于全球数百万开发者 。|Epic则回应称 ，苹果此举是迟延结案的最后一次孤注一掷 ，意在阻止支付竞争以维持高额利润 。最高法院预计将于6月25日审议是否受理此案 ，其了局将为数自旖台佣金规定设置沉要先例 。 (?157)