①生命未来研究所发布的《AI安全指数》显示,主要AI公司在安全治理上未达全球标准 ,尽管竞相开发“超级智能”,但无一制定出完善的控制策略;②报告指出,尽管多家公司领导层谈及应对存在性风险 ,但尚未转化为具体安全计划或可信的内部监测与控制措施 。
非营利机构生命未来研究所(Future of Life Institute)周三发布的新版《AI安全指数》指出,Anthropic 、OpenAI、xAI、Meta等主要人工智能公司的安全治理水平,远未达到正在形成的全球标准。
该研究所表示 ,由独立专家小组进行的安全评估发现,尽管这些公司正竞相开发“超级智能 ”,但没有一家制定出足够完善的策略和方案来控制如此先进的AI系统。
据悉 ,在本次评估中,Anthropic的综合得分最高,但在“存在性安全(existential safety)”上仍只获得D级,意味着该公司尚未建立足够的策略来防止灾难性滥用或失控 。这也是连续第二份报告中 ,没有公司在该项指标上获得超过D的评分。
除Meta等少数公司外,所有AI公司都对生命未来研究所发出的问题清单进行了回应,从而提供了其安全实践的更多信息。
报告显示 ,多家公司领导层都曾谈及应对存在性风险,但研究人员指出:“这种言辞尚未转化为量化的安全计划 、具体的对齐失败缓解策略,或可信的内部监测与控制措施 。”
在具体指标上 ,Anthropic和OpenAI在信息共享、风险评估以及治理和问责方面获得了A和B的高分。
而xAI和Meta虽有风险管理框架,但缺乏安全监测承诺,且尚未提供其在安全研究上的投资超过最低标准的证据。
这份研究发布之际 ,公众对具备类人推理与逻辑能力的更智能AI系统的社会影响日益担忧 。此前已有数起自杀与自残案例被指与AI聊天机器人有关。
麻省理工学院教授、生命未来研究所所长Max Tegmark表示:“尽管近期围绕AI辅助黑客攻击 、以及AI导致用户出现精神错乱和自残行为的争议不断,美国的AI企业仍然比餐馆受到的监管更少,并持续游说反对具有约束力的安全标准。 ”
与此同时 ,AI竞赛并无放缓迹象,大型科技公司仍在投入数千亿美元用于扩大和升级其机器学习能力。美国政府也试图通过立法禁止美国各州在未来10年内执行AI监管 。
生命未来研究所是一家关注智能机器对人类构成风险的非营利组织。该机构成立于2014年,早期曾获得特斯拉首席执行官埃隆·马斯克的支持。
今年10月份,包括科学家Geoffrey Hinton与Yoshua Bengio在内的一批研究者呼吁 ,在公众提出要求并且科学找到安全路径之前,应暂停开发超级智能AI 。
(文章来源:财联社)
股票交易所交易开户需要多少钱:杠杆炒股官网-最高55亿美元!ASIC巨头重金加码光互联技术 拟将AI网络带宽提升10倍
电脑股票app排行榜前十名:十大股票软件排行-甲骨文将监管美TikTok用户数据的安全?外交部:已阐明有关立场
初学者怎么投股票:十大免费股票软件-OpenAI杀入招聘市场:打造AI技能认证体系+人才对接平台
股票可以加杠杆:168配资-玩具安全强制国标迎修订!新增甲醛等10类有害物质限量要求 AI玩具纳入监管
股票证券公司排行榜:炒股软件股票软件-L2级辅助驾驶将迎来国家标准 智慧的车如何驶好安全的路?
杠杆炒股怎么开通:著名的股票软件-中信建投人工智能行业2026年展望:应用商业化加速 寻找AI对各行业赋能和改造的投资机会
道正网-炒股配资公司,股票期货证券等资讯门户网站提示:文章来自网络,不代表本站观点。
3月24日,海洋王照明科技股份有限公司(以下简称“海洋王”,002724.SZ)早盘一字跌停,此后股价拉涨,尾盘封涨停板...
近日,开源证券大连分公司遭大连证监局处罚,暂停其办理需要合格投资者认定相关业务六个月。该惩处力度在近年来券商分支机构中并...
记者辛圆3月25日,博鳌亚洲论坛旗舰报告《亚洲经济前景及一体化进程2025年度报告》(以下简称《报告》...
沪深两市成交额连续第44个交易日突破1万亿,较昨日此时缩量超900亿。...
3月24日,易方达国证自由现金流ETF公开发售。该产品跟踪国证自由现金流指数,这个指数是什么?有哪些优势?投资价值如何?...
记者王珍中国国际经济交流中心副理事长、国务院发展研究中心原副主任王一鸣周一在“中国发展高层论坛2025...
2025年3月25日,倍轻松(688793.SH)公告称,公司股东宁波倍松投资有限公司(简称“宁波倍松”)拟通过大宗交易...
记者|赵阳戈年初,证监会就修改《证券发行与承销管理办法》部分条款向社会公开征求意见,市场也将注意力投向了...
记者辛圆给补贴、建平台,为了吸引更多高层次人才,各地纷纷放出“大招”。据央广网周一发布消息,湖...
3月24日,业内权威专家表示,MLF(中期借贷便利)不再有统一的中标利率,标志着MLF利率的政策属性完全退出。3月24日...
文/吴治邦3月24日早盘,在2024年年底压哨实施完毕重整计划的*ST花王股价继续跌停。自2025年1月...
【隔夜行情】•周五(2025年3月21日),A股三大指数集体下跌,截至收盘,截止收盘,沪指跌1.29%,报收33...
国海富兰克林基金国富深化价值基金经理刘晓日前发表了对 2025 年市场的展望。刘晓指出,国内经济正处于复苏通道,市场大幅...
3月24日,AI眼镜概念股开盘拉升,瀛通通讯直线涨停,明月镜片涨超10%,比依股份、博士眼镜、恒玄科技、国光电器等跟涨。...
不用再到各大洗衣机厂商评论区许愿了!3月21日下午,海信召开2025世俱杯新品发布会,海信集团副总裁、海信家电集团总裁胡...