OpenAI高薪招募安全专家 应对AI自我进化风险 —— 打算于今年上市的OpenAI，最近颁布了一个分歧寻常的招聘岗位：公司在寻找一名安全钻研员，专门钻延装当AI可能训练出更优良版本的自己时”所带来的后果。
该招聘信息是本月为OpenAI的Preparedness安全团队颁布的。岗位年薪总包为25万至38万欧元，招聘对象是“有经验的技术专家，以支持针对递归式自我改进的筹备工作”。
该公司也但愿将自身的钻研工作自动化。CEO Sam Altman去年10月暗示，公司指标是在今年9月之前，让一个“自动化AI钻研实习生”运行在数十万块芯片上；并在2028年3月之前，实现一个“真正的自动化AI钻研员”。
“我们齐全可能在这个指标上失败，”Altman在X上写路，“但思考到其潜在影响极其巨大，我们以为，公开通明地会商这件事切合公共利益。
」匦聘信息提到，这名钻研员可能会专一于；penAI模型免受“数据投毒”攻击——也就是通过被把持的训练数据来腐蚀AI模型的行为。
OpenAI的Preparedness团队，其职责是预防AI造成严沉风险。该团队的其他岗位还蕴含：自动化红队测试，用于评估网络安全、生物与化学风险，以及“代理型AI”带来的威胁。
在从前六个月里，OpenAI和Anthropic的编程工具获得了巨猛进取之后，AI系统所谓“递归式自我改进”的潜力，已经成为AI行业掌管人关注的沉点。
Demis Hassabis本周暗示，人类如今正站在“奇点”的脚下——也就是AI起头自我发展，并超过人类智能的那个时刻。今年5月，Anthropic结合首创人兼政策主管Jack Clark暗示，他以为到2028年底，实现“没有人类参加的AI研发”的概率约莫为60%。
若是AI模型可能自行训练自己，那么一种科幻式反乌托国场景就可能出现：它们的能力迅速增长、脱离节造，并造成宽泛中伤——这正是AI安全活动持久忧郁的问题。
最近，像OpenAI和Anthropic这样的尝试室，其模型能力正以惊人的速度持续提升——这种提升体此刻它们可能解决的问题复杂度上。
钻研模型能力的尝试室METR的钻研人员在今年3月写路：AI模型可能实现的工作长度，约莫每七个月翻一倍——这些模型正越来越可能承担那些正本必要人类破费大量功夫实现的工作。
最近的一项调查显示，71%的消费者关注OpenAI高薪招募安全专家 应对AI自我进化风险。
? 各人怎么看
反串黑：科技股持续承压，美股周二尾盘一连跌势|美股三大指数周二尾盘一连跌势，科技股承压走低。市场在近期强劲反弹后出现获利告终，叠加美国国债收益率攀升与油价高企，投资者对通胀和借贷成本远景的忧郁加剧。|截至尾盘买卖时段，路琼斯工业指数着落0.34%，报49517.62点；纳斯达克指数着落0.54%，报25948.77点；标普500指数着落0.37%，报7375.92点。标普500与纳斯达克有望陆续第二个买卖日收跌，反映市场感情趋于审慎。|费城半导体指数两日内着落约6%，投资者因忧郁估值过高及数据中心支出可持续性而选择获利告终。英伟达股价一连跌势，陆续第三个买卖日走低，尾盘跌约1.3%，报222.32美元。市场高度关注该公司将于周三盘后颁布的财报，预期业绩将成为AI板块短期走势的关键催化剂。|美光科技跌近6%，希捷科技沉挫约7%，主因其治理层忠告产能扩张速度难以跟上需要，引发投资者对存储芯片行业供给瓶颈的忧郁。|Argent Capital Management投资组合经理Jed Ellerbroek暗示，当前回调是“在一轮史诗级上涨后理所该当的休整”，并指出“在全球最大的芯片股即将颁布杰出财报和指引之前几天出现逆转，值得关注。”此表，Citadel Securities战术师忠告称，30年期美债收益率徘徊于近三年高位，正减弱股票资产的吸引力，市场上涨动能正逐步减弱。 (?384)
李大仁：美联储理事沃勒支持移除“宽松偏差”措辞 称降息与加息概率相当|沃勒暗示，他目前的态度是耐心维持利率不变，直到战争的影响越发爽朗。但他周五忠告称，若是通胀没有很快起头放缓，他不排除未来加息的可能性。|“通胀并未朝着正确方向发展，”他在法兰克福的会议上颁发题为“政策风险已经扭转”的演讲时暗示。“我支持在腾博官网诚信为本政策申明中移除‘宽松偏差’措辞，以明确批注未来降息的可能性并不高于加息。”|联国公开市场委员会在4月政策会议上决定将联国基金利率指标区间维持在3.5%-3.75%不变。不外，该决定遭到三位政策造订者否决，他们不满会后申明中所谓“宽松偏差”的措辞，以为这暗示美联储最终将复原降息。|“若是我以为通胀预期起头失去锚定，我将绝不犹豫支持提高联国基金利率指标区间，”沃勒暗示。“但目前采取这一行动为时过早。此刻是静观矛盾和数据若何演变的时辰。” (?836)
登山家：迈克尔?巴里大举抄底被市场忘却的金融科技个股|迈克尔·伯里在5月19日的Substack发帖中披露，他已增持了PayPal、Adobe、Mercado Libre、Lululemon和Zoetis的头寸，这些股票有一个共同的决定性特点：它们都在一个高度聚焦于人为智能的市场中遭逢了沉创。|伯里在1500美元中段的价值区间加仓了Mercado Libre，将其描述为一只因国际业务敞口而被折价买卖的“干净的持久赢家”。他在250美元低段买入了Adobe。他将PayPal描述为一个齐全的头寸。据报路，Lululemon的买入价约为120美元。|据报路，截至5月19日当周，PayPal岁首至今已着落23.9%。该公司每年处置数千亿美元的买卖量，并一向在执行一项利润率提升打算，治理层以为该打算将在2026年和2027年的财政数据中得到显著体现。但多年来，随着来自Apple Pay、Block和Stripe的竞争加剧，投资者对该股的周到一向不高。|这种竞争压力和增长放缓的叙事，正是伯里将其视为机遇而非警示的故事类型。他将PayPal描述为一个齐全的头寸，批注他以为当前的价值是一个持久风险回报比坚定地对他有利的地位，而非他打算日后加码的试探性建仓。|同样的逻辑也合用于其他股票。Adobe岁首至今着落26.9%。Lululemon着落42.1%。这些都不是不起眼的微盘股。据分析，它们是占有悠久业务的驰名公司，却被卷入了一场远离职何不具备人为智能增长叙事的股票的轮动之中。|据报路，伯里的Substack帖子不仅关于他在买入的股票，还蕴含了一个市场忠告，将他当前的仓位与他一向在追踪的一个汗青模式联系起来。|伯里暗示，人为智能投资热彻佚在造成扭曲，这些扭曲与他曾在互联网时期观察到的景象类似。他以为，本钱集中在人为智能有关股票上，导致市场其他部门被低估，其方式类似于1999年投资者蜂拥买入任何带佑装．com”后缀的股票时，非互联网股票被抛弃的情况。他当前的采办行为正是这种概想的直接体现。他在买入互联网时期那些“无聊”公司的等价物——当所有人都在追赶热点主题时，这些公司却在持续增长。|凭据第一季度文件，Scion Asset Management此刻总共持有九个头寸，这是一个极其集中的投资组合，反映了伯里偏心深度信想而非多元化。在当前市场周期中，每一个头寸都是对被机构投资者普遍抛弃的公司进行的反向押注。 (?248)