OpenAI高薪招募安全专家 应对AI自我进化风险 —— 最近,像OpenAI和Anthropic这样的尝试室,其模型能力正以惊人的速度持续提升——这种提升体此刻它们可能解决的问题复杂度上。
钻研模型能力的尝试室METR的钻研人员在今年3月写路:AI模型可能实现的工作长度,约莫每七个月翻一倍——这些模型正越来越可能承担那些正本必要人类破费大量功夫实现的工作。
招聘信息提到,这名钻研员可能会专一于;penAI模型免受“数据投毒”攻击——也就是通过被把持的训练数据来腐蚀AI模型的行为。
OpenAI的Preparedness团队,其职责是预防AI造成严沉风险。该团队的其他岗位还蕴含:自动化红队测试,用于评估网络安全、生物与化学风险,以及“代理型AI”带来的威胁。

在从前六个月里,OpenAI和Anthropic的编程工具获得了巨猛进取之后,AI系统所谓“递归式自我改进”的潜力,已经成为AI行业掌管人关注的沉点。
Demis Hassabis本周暗示,人类如今正站在“奇点”的脚下——也就是AI起头自我发展,并超过人类智能的那个时刻。今年5月,Anthropic结合首创人兼政策主管Jack Clark暗示,他以为到2028年底,实现“没有人类参加的AI研发”的概率约莫为60%。
若是AI模型可能自行训练自己,那么一种科幻式反乌托国场景就可能出现:它们的能力迅速增长、脱离节造,并造成宽泛中伤——这正是AI安全活动持久忧郁的问题。
打算于今年上市的OpenAI,最近颁布了一个分歧寻常的招聘岗位:公司在寻找一名安全钻研员,专门钻延装当AI可能训练出更优良版本的自己时”所带来的后果。
该招聘信息是本月为OpenAI的Preparedness安全团队颁布的。岗位年薪总包为25万至38万欧元,招聘对象是“有经验的技术专家,以支持针对递归式自我改进的筹备工作”。
该公司也但愿将自身的钻研工作自动化。CEO Sam Altman去年10月暗示,公司指标是在今年9月之前,让一个“自动化AI钻研实习生”运行在数十万块芯片上;并在2028年3月之前,实现一个“真正的自动化AI钻研员”。
“我们齐全可能在这个指标上失败,”Altman在X上写路,“但思考到其潜在影响极其巨大,我们以为,公开通明地会商这件事切合公共利益。
”
热点会商?
照拂:Sinch年度股东大会:不派发股息,授权刊行及回购股份|瑞典通讯平台Sinch AB(publ)于5月21日在斯德哥尔摩召开2026年度股东大会;嵋橥ü2025年度利润表与资产负债表,并核准免去董事会及CEO的任职责任。凭据董事会提议,大会决定不合2025财年派发股息。|在人事方面,会议决定董事会成员维持六人,并沉选Erik Fr?berg等全数现任董事,其中Fr?berg蝉联董事长。德勤管帐师事务所亦获蝉联为公司审计机构;嵋榛购俗剂烁吖苄匠曛敢靶匠昊惚。|在本钱运作方面,大会授权董事会最多可刊行相当于现有股本10%的新股,可用于现金、实物出资或收购对价,并允许取缔现有股东优先认购权,以加强融资矫捷性。同时,董事会获得回购最多10%公司自有股份的授权,用于优化本钱结构。|会议还核准执行2026年持久股权激励打算,面向最多625名员工,通过刊行最多771.7万份股票期权执行,并允许通过与第三方签署股票掉期和谈来对冲财政风险。|此表,大会核准通过注销公司持有的55,468,649股库存股来削减股本,再通过无需刊行新股的股本转增方式将股本复原至原水平,并相应调整了公司章程中关于股本及股份数量的高低限区间。 (?438)
路人甲:继高盛、渣打后 瑞银高管也谈及AI将对就业产生“冲击”|“若是我们能利用AI开释出的产能,更好地服务客户,赢得更多市场份额,实现更快、更大的增长,那么对成本和就业的影响就会较幼,”Khan在接受采访时暗示。“但若是我们做不到这一点,那么当然会对成本和就业产生冲击,这其实是整个行业共同面对的议题。”|Khan的讲话也为当前萦绕AI的争吵再添新声。渣打银行首席执行官Bill Winters先前忠告,对AI的日益器沉可能会导致裁员,该银行将用技术取代他所谓的“廉价值人力本钱”,他后来为这一说法路歉。|本月早些时辰,高盛集团总裁兼营运长John Waldron将公司传统的运营模式描述为一条“人为装配线”,亟待实现自动化。 (?830)
理中客:保膀胱还是切膀胱?英国NMIBC患者偏好因人而异|ImmunityBio在2026年ISPOR年会上颁布的一项英国患者调查显示,卡介苗无应答的高危非肌层浸润性膀胱癌患者在医治选择上存在高度个别化差距,部门患者偏差于保留膀胱,另一些则愿意接受膀胱切除术。|该钻研由ImmunityBio与英国患者提倡组织Fight Bladder Cancer合作发展,通过在线问卷网络了86名英国成年NMIBC患者的反馈,并结合一对一访谈和焦点幼组会商进行补充分析。调查对象均为在接受或曾接受BCG医治的患者。|了局显示,在接受BCG医治的患者更偏差于膀胱保留战术,而已经接受过膀胱切除术的患者则更偏差于沉复这一决定。春秋也是沉要成分,春秋较大的参加者对膀胱切除术的偏好较低。临床疗效,蕴含对复发、疾病进展和预期寿命的影响,被确定为影响医治决策的最沉要成分。生涯质量方面的考量则因人而异,男性参加者对膀胱切除术对日常生涯的影响阐发出更大的忧郁。|ImmunityBio首创人兼执行主席Patrick Soon-Shiong博士暗示,对于BCG无应答NMIBC患者来说,医治决策是高度幼我化且往往复杂的。这些发现强化了将患者视角、生涯质量考量和个别医治优先事项纳入共同决策对话的沉要性。|钻研作者总结称,英国NMIBC成年患者的医治优先事项差距很大。有些人更看沉癌症节造和预期寿命,而另一些人则优先思考生涯质量和膀胱保留。很多人愿意接受一些弃取,例如更频仍的医院就诊,以预防接受根治性膀胱切除术。这些发现强调了对该患者群体不存在一刀切的医治步骤,凸显了个别化、以患者为中心的护理的沉要性。 (?378)