OpenAI高薪招募安全专家 应对AI自我进化风险 —— 招聘信息提到，这名钻研员可能会专一于；penAI模型免受“数据投毒”攻击——也就是通过被把持的训练数据来腐蚀AI模型的行为。
OpenAI的Preparedness团队，其职责是预防AI造成严沉风险。该团队的其他岗位还蕴含：自动化红队测试，用于评估网络安全、生物与化学风险，以及“代理型AI”带来的威胁。
今年5月，Anthropic结合首创人兼政策主管Jack Clark暗示，他以为到2028年底，实现“没有人类参加的AI研发”的概率约莫为60%。
若是AI模型可能自行训练自己，那么一种科幻式反乌托国场景就可能出现：它们的能力迅速增长、脱离节造，并造成宽泛中伤——这正是AI安全活动持久忧郁的问题。
打算于今年上市的OpenAI，最近颁布了一个分歧寻常的招聘岗位：公司在寻找一名安全钻研员，专门钻延装当AI可能训练出更优良版本的自己时”所带来的后果。
该招聘信息是本月为OpenAI的Preparedness安全团队颁布的。岗位年薪总包为25万至38万欧元，招聘对象是“有经验的技术专家，以支持针对递归式自我改进的筹备工作”。
该公司也但愿将自身的钻研工作自动化。CEO Sam Altman去年10月暗示，公司指标是在今年9月之前，让一个“自动化AI钻研实习生”运行在数十万块芯片上；并在2028年3月之前，实现一个“真正的自动化AI钻研员”。
“我们齐全可能在这个指标上失败，”Altman在X上写路，“但思考到其潜在影响极其巨大，我们以为，公开通明地会商这件事切合公共利益。
”在从前六个月里，OpenAI和Anthropic的编程工具获得了巨猛进取之后，AI系统所谓“递归式自我改进”的潜力，已经成为AI行业掌管人关注的沉点。
Demis Hassabis本周暗示，人类如今正站在“奇点”的脚下——也就是AI起头自我发展，并超过人类智能的那个时刻。最近，像OpenAI和Anthropic这样的尝试室，其模型能力正以惊人的速度持续提升——这种提升体此刻它们可能解决的问题复杂度上。
钻研模型能力的尝试室METR的钻研人员在今年3月写路：AI模型可能实现的工作长度，约莫每七个月翻一倍——这些模型正越来越可能承担那些正本必要人类破费大量功夫实现的工作。
热点会商?
狂信徒：伊朗被指袭击阿联酋核电站 意在发出忠告信号|阿联酋一座核电站遭袭，引颁发界对伊朗在美国可能复原进攻行动布景下扩大报仇领域的忧郁。专家也指出，伊朗支持的伊拉克民兵在矛盾中的作用在上升。|阿联酋本周暗示，周日针对其巴拉卡核电站的无人机袭击来自伊拉克，并叱责这一“恐怖主义”行为。总统穆罕默德·本·扎耶德的高级照拂Anwar Gargash在社交媒体上称，这起事务由伊拉克境内的伊朗民兵组织执行。|Gargash暗示，这起事务是“该地域所面对威胁规模的严沉信号”，并称袭击迫使核电站启动备用电源系统，这是维持核安全的最后防线之一。|巴拉卡是中东最大的核电站，也是地域仅有的两座在运行的核电站之一，另一座为伊朗南部的布什尔核电站。只管袭击未造成伤亡或异常辐射，但凸显出在矛盾升温布景下，民用基础设施的脆弱性。|迪拜公共政策钻研中心主任Mohammed Baharoon暗示：“这是伊朗发出的忠告性信号”，批注若与以色列和美国的敌对行动再度升级，阿联酋及其他海湾国度可能面对类似威胁。他补充称：“这也是伊朗向海湾国度施压的一种方式，即通知他们‘你们无法置身事表，即便我们不直接出手，也能够通过代理人行动’。” (?308)
坦克手：优步拟斥资116亿美元收购表卖英雄，后者股价回声大涨|德国表卖平台表卖英雄证实，美国出行巨头优步科技已提出总价 100 亿欧元（约合 116 亿美元）的收购邀约。此举反映出表卖配送行业并购周到持续高涨，也推动表卖英雄股价上涨。|近几周，优步持续大手笔增持，现已成为表卖英雄第一大股东。在此之前，这家总部位于柏林的企业经历了一系列沉大改观：沉新造订发展战术、股权结构大幅调整，同时结合首创人兼首席执行官颁发去职。|总部位于旧金山的优步直接持有表卖英雄 19.5% 股份，同时通过金融合约间接持有 5.6% 股份。就在上周披露最新一笔增持时，优步还曾暗示，无意持有表卖英雄 30% 及以上投票权，也不筹算大幅扭转其本钱结构。|若本次收购落地，将一连近年来表卖配送行业的并购整合趋向。疫情催生的行业热潮退去后，各家企业纷纷钻营抱团发展，通过扩大规模、提升运营效能加强竞争力。|去年，美国同业达达集团（DoorDash）以约 29 亿英镑现金收购英国表卖平台户户送（Deliveroo），拓展全球业务；投资机构普洛斯（Prosus）斥资 41 亿欧元，收购总部位于阿姆斯特丹的表卖平台 Just Eat Takeaway.com，该机构同时也是表卖英雄的沉要投资方，旗下还占有拉美表卖平台 iFood。此表，一名前沃尔玛高管从 Just Eat Takeaway 手中，收购了美国老牌表卖平台格鲁布哈布（Grubhub）。|为获得欧盟对其收购 Just Eat Takeaway.com的审批，普洛斯赞成销售手中大部门表卖英雄股份，这也为优步增持创造了前提。优步从 2024 年起头逐步建仓。本月初披露的监管文件显示，香港投资机构安泊本钱（Aspex Management）也从普洛斯手中购入股份，目前持有表卖英雄 14.55% 股权。|表卖英雄本月早些时辰颁发，结合首创人兼首席执行官尼克拉斯?奥斯特贝里将于明年 3 月卸任，但他会持续掌管推动去年 12 月颁布的战术评估有关并购事宜。该公司其时称，将思考为部门业务追求并购机遇。 (?164)
大神级：韩国海关将放宽对经第三国转运的美国原油的进口划定|韩国海关周二暗示，已简化有关划定，允许经由第三国运输的美国原油持续享受双边自由业务协定 （FTA） 项下的优惠，此举切合在中东大势严重之际不变供给的致力。|韩国海关暗示，这项于周二生效的新规将简化进口商凭据双边自由业务协定享受优惠的法式，这些优惠合用于经第三国转运至韩国的美国原油。|韩国海关补充称，在与马来西亚当局协商，加快签发原产地证书的流程（目前该流程必要约莫六个月），以推进从这个东南亚国度进口原油。 (?151)