主题聚类 · 基础设施

AI 基础设施 · 中文追踪

追踪推理优化、训练平台、部署工具与云服务变化:扩展 AI 工作负载之前,先看清基础设施风向。

当前热门线索

快速扫读今日 feed 之前,先看最值得追的方向。

Top 3
  1. 1在两个Nvidia DGX站上使用vLLM提供GLM-5.3,每秒607.8个token
  2. 2Jensen Huang的离职在AI初创公司融资中造成大洞,风险投资家和创始人表示
  3. 3被禁止出口的Nvidia芯片是中国最强大AI模型的背后——哦不,Jensen!
11月15日 · 今日
T
TechCrunchSignal
@techcrunch
为什么重要 · 38
38

Jensen Huang的离职在AI初创公司融资中造成大洞,风险投资家和创始人表示

Nvidia在Huang的领导下向AI初创公司投入了数十亿美元。没有他掌舵,创始人和风险投资家正准备接受更小的支票和更低的估值。

TechCrunchStartup

为什么重要

TechCrunch 角度:Nvidia在Huang的领导下向AI初创公司投入了数十亿美元。没有他掌舵,创始人和风险投资家正准备接受更小的支票和更低的估值。 先看原文核实,再决定是否影响你的工具栈、供应商或研究判断。

20 hours ago
T
TechCrunchSignal
@techcrunch
值得关注吗 · 38
38

黄仁勋丑闻事件发展时间线

黄仁勋因婚外情从英伟达辞职,这可能会对国家安全产生影响,因为美国和中国正竞相开发最先进的AI基础设施。

TechCrunchStartup

为什么重要

TechCrunch 角度:黄仁勋因婚外情从英伟达辞职,这可能会对国家安全产生影响,因为美国和中国正竞相开发最先进的AI基础设施。 先看原文核实,再决定是否影响你的工具栈、供应商或研究判断。

27 hours ago
T
TechCrunchSignal
@techcrunch
值得关注吗 · 38
38

Nebius用400亿美元计划支出测试neocloud操作手册

尽管微软数据中心延误引发对其融资模式的问题,Nebius计划通过客户预付款和贷款为其400亿美元的AI基础设施扩张提供资金。

TechCrunchStartup

为什么重要

TechCrunch 角度:尽管微软数据中心延误引发对其融资模式的问题,Nebius计划通过客户预付款和贷款为其400亿美元的AI基础设施扩张提供资金。 先看原文核实,再决定是否影响你的工具栈、供应商或研究判断。

46 hours ago
A
ArXivSignal
@arxiv
值得关注吗 · 38
38

AgentSSL:MLE代理能否利用未标记数据?

将机器学习系统应用于新领域,在标记数据获取和手动管道工程方面都存在瓶颈。虽然最近的MLE代理在自动化管道设计方面显示出希望,但它们几乎只在完全监督的设置中进行了研究,尚未经过测试

ResearchArXivcs.AI

为什么重要

ArXiv 角度:将机器学习系统应用于新领域,在标记数据获取和手动管道工程方面都存在瓶颈。虽然最近的MLE代理在自动化管道设计方面显示出希望,但它们几乎只在完全监督的设置中进行了研究,尚未经过测试 先看原文核实,再决定是否影响你的工具栈、供应商或研究判断。

48 hours ago
A
ArXivSignal
@arxiv
值得关注吗 · 38
38

绘制用于上下文归因的语言模型

上下文归因询问移除提示中的部分如何改变语言模型的输出。我们研究了针对包含n个标记的提示和固定测量函数的留一法(LOO)归因。直接计算所有LOO值需要n次模型评估。在稳定性假设下,我们的算法...

ResearchArXivcs.AI

为什么重要

ArXiv 角度:上下文归因询问移除提示中的部分如何改变语言模型的输出。我们研究了针对包含n个标记的提示和固定测量函数的留一法(LOO)归因。直接计算所有LOO值需要n次模型评估。在稳定性假设下,我们的算法… 先看原文核实,再决定是否影响你的工具栈、供应商或研究判断。

48 hours ago
A
ArXivSignal
@arxiv
值得关注吗 · 38
38

合成走私:在LLM输出中恶意隐藏推断出的个人属性

我们提出了合成走私,这是一种新型的威胁模型,其中对抗性LLM从常规寻求帮助的互动中推断出关于用户的敏感信息,并将其隐写术编码到看似无害的模型生成内容中。用户可能不知不觉地传输这些信息

ResearchArXivcs.AI

为什么重要

ArXiv 角度:我们提出了合成走私,这是一种新型的威胁模型,其中对抗性LLM从常规寻求帮助的互动中推断出关于用户的敏感信息,并将其隐写术编码到看似无害的模型生成内容中。用户可能不知不觉地传输这些信息 先看原文核实,再决定是否影响你的工具栈、供应商或研究判断。

48 hours ago
T
TechCrunchSignal
@techcrunch
值得关注吗 · 38
38

黄仁勋离职引发英伟达对开源AI支持存疑

黄仁勋辞职引发对英伟达对开源AI承诺的疑问,包括其对Hugging Face的收购、开放权重模型以及反对限制的倡导,公司正在经历领导层过渡。

TechCrunchStartup

为什么重要

TechCrunch 角度:黄仁勋辞职引发对英伟达对开源AI承诺的疑问,包括其对Hugging Face的收购、开放权重模型以及反对限制的倡导,公司正在经历领导层过渡。 先看原文核实,再决定是否影响你的工具栈、供应商或研究判断。

48 hours ago
A
ArXivSignal
@arxiv
值得关注吗 · 38
38

Ballad:基于Bandit的LLM路由用于自动启发式发现

现代自动启发式发现(AHD)系统越来越多地通过利用大型语言模型(LLM)来迭代变异和改进解决方案,与手工制作的启发式方法相媲美。一个自然的假设是,更强大、更昂贵的模型始终产生更好的启发式方法。我们对此提出挑战

ResearchArXivcs.AI

为什么重要

ArXiv 角度:现代自动启发式发现(AHD)系统越来越多地通过利用大型语言模型(LLM)来迭代变异和改进解决方案,与手工制作的启发式方法相媲美。一个自然的假设是,更强大、更昂贵的模型始终产生更好的启发式方法。… 先看原文核实,再决定是否影响你的工具栈、供应商或研究判断。

49 hours ago
A
ArXivSignal
@arxiv
值得关注吗 · 38
38

可扩展的对话评估:基于双代理LLM管道的聊天式考试

口试之所以有吸引力,是因为(1)学生可以提供他们答案的理由,以及(2)其交互性质允许后续问题来解决模糊答案。但是口试的可扩展性较差。在本文中,我们提出了基于LLM的可扩展对话评估系统。

ResearchArXivcs.AI

为什么重要

ArXiv 角度:口试之所以有吸引力,是因为(1)学生可以提供他们答案的理由,以及(2)其交互性质允许后续问题来解决模糊答案。但是口试的可扩展性较差。在本文中,我们提出了基于LLM的可扩展对话评估系统。 先看原文核实,再决定是否影响你的工具栈、供应商或研究判断。

49 hours ago
A
ArXivSignal
@arxiv
值得关注吗 · 38
38

引入反馈延迟到无延迟的对抗性MDPs:表格和线性AMDPs中的最优$\sqrt S$和$\sqrt K$依赖关系

我们研究了具有未知转移和赌博反馈的周期性对抗性马尔可夫决策过程(AMDPs)中的后悔最小化。在具有$S$个状态、$A$个动作和范围$H$的表格AMDPs中,已知的$K$次周期后悔是$\tilde O(HS\sqrt{AK})$,其与$Ω(H\sqrt{SAK})$的$\sqrt S$差距为

ResearchArXivcs.AI

为什么重要

ArXiv 角度:我们研究了具有未知转移和赌博反馈的周期性对抗性马尔可夫决策过程(AMDPs)中的后悔最小化。在具有$S$个状态、$A$个动作和范围$H$的表格AMDPs中,已知的$K$次周期后悔是$\tild… 先看原文核实,再决定是否影响你的工具栈、供应商或研究判断。

49 hours ago