摘要：
英伟达CEO黄仁勋：推理工作载荷正“显著”成长。本文源自金融界AI电报
...
英伟达CEO黄仁勋：推理工作载荷正“显著”成长。本文源自金融界AI电报
(-__-)b
ˋωˊ
金融界5月22日消息，有投资者在互动平台向华孚时尚提问：随着AI应用加速落地，是否能理解为算力及终端打开增量空间？公司回答表示：算力需求包含训练与推理两个维度，训练算力需求保持持续增长，AI应用加速落地将直接推动推理需求的增长，并进一步带动训练算力需求。本文源自金融界后面会介绍。
jin rong jie 5 yue 2 2 ri xiao xi ， you tou zi zhe zai hu dong ping tai xiang hua fu shi shang ti wen ： sui zhe A I ying yong jia su luo di ， shi fou neng li jie wei suan li ji zhong duan da kai zeng liang kong jian ？ gong si hui da biao shi ： suan li xu qiu bao han xun lian yu tui li liang ge wei du ， xun lian suan li xu qiu bao chi chi xu zeng chang ， A I ying yong jia su luo di jiang zhi jie tui dong tui li xu qiu de zeng chang ， bing jin yi bu dai dong xun lian suan li xu qiu 。 ben wen yuan zi jin rong jie hou mian hui jie shao 。
但随着推理算力每年降10倍，他相信基于更低的算力成本也能做出更好的模型。李开复称，“我们一年前算力也是只有Google、OpenAI的5%,现在我们如果用5%的算力，能够把一个7~10年的落后拉成6个月，我觉得未来我们还是可以期待有惊人结果的，能不能达到第一、能不能超过，当神经网络。
ゃōゃ
IT之家5 月22 日消息，科大讯飞今日官宣，旗下讯飞星火Lite API 永久免费开放，支持在线联网搜索、适用于低算力推理与模型精调等定制化场景。IT之家注：讯飞星火Pro / Max API 价格为：0.21 元/ 万tokens。据介绍，1token 相当于1.5 个中文汉字，用户付费0.21 元即可调用“讯飞星火3.5还有呢？
推理成本将一年降10倍对于这一轮大模型降价，零一万物CEO 李开复向21世纪经济报道表示，未来整个行业的推理成本每年降低10倍是可以期待的，而且这个趋势是必然的。对于行业来说，现在模型的API调用还是非常非常低的比例，如果推理成本一年降低10倍那就有更多的人可以用上大模说完了。
柯南在动画中的推理相信各位小伙伴已经司空见惯了，因为柯南TV系列动画中很多剧集里破案的最终人选都是柯南，而柯南也的确像我们呈现了许多精彩的案件分析，例如曾经有一集叫“七点半杀人事件”，留风还曾经因为这个名字吐槽过这一集，感兴趣的小伙伴可以回看一下。虽然柯南有后面会介绍。
o(?""?o
但推理成本过高依然是制约大模型规模化应用的关键因素。阿里云智能集团资深副总裁、公共云事业部总裁刘伟光表示：“作为中国第一大云计算公司，阿里云这次大幅降低大模型推理价格，就是希望加速AI应用的爆发。我们预计未来大模型API的调用量会有成千上万倍的增长。”刘伟光后面会介绍。
ˋ＾ˊ
╯△╰
而且我们也花了很大精力，希望能够让价格再降下来。”李开复认为，在一定程度上，整个行业每年降低10倍推理成本，这是可以期待的，而且是必然也应该发生的。“今天可能是处在一个比较低的点，但是我觉得如果说以后大约有一年降价10倍来看的话，这是一个好消息，对整个行业都是好消后面会介绍。
ˇωˇ
整个行业每年降低10倍推理成本，这是可以期待的，而且是必然也应该发生的。“今天可能是处在一个比较低的点，但是我觉得如果说以后大约有一年降价10倍来看的话，这是一个好消息，对整个行业都是好消息。”李开复认为，因为公司的模型是最好的，所以对要求最高的、需求最高的，需要后面会介绍。
＋▂＋
＞▽＜
芒果TV游戏推理综艺《魔方新世界》5月15日正式上线，节目集结了18名“精智”玩家，在魔方世界的6大奇妙实景游戏空间，展开12场“沉浸式”激烈脑力对决，全方位展示推理、沟通、观察、信息甄别、制定战略等综合能力。作为一档创新实境博弈游戏推理综艺，《魔方新世界》从开录等我继续说。
＼ ＿ ／
发表评论