Skip to content
Artwork for 每日AI
每日AI · November 4 · 18 min

OneStreamer:流媒体视频交互中的感知与记忆统一 用字幕记住视频的AI

OneStreamer 是一个专为流式视频交互设计的开创性视觉语言模型,通过单一的因果生成过程统一了感知、记忆和主动响应。该模型引入了主动分层字幕内存(PHCM),在不牺牲实时感知的前提下,将观察到的视频片段转化为有时空依据的局部细节字幕和事件摘要,从而提供可复用的事实背景。为了解决状态监督中的不平衡问题,模型采用了主动状态转换学习(PSTL),在保留所有输出锚点的同时筛选出最具代表性的状态转换与持续位置。此外,通过构建名为 OneStreamer-1M 的大规模流式视频交互数据集,该系统在八个主流流式视频理解基准测试中均取得了最先进的卓越性能。这些核心设计与合成管线共同证明了主动生成机制能够有效连接视觉感知、长期记忆与及时响应。

0:00-18:19

transcript

No transcript — this publisher did not publish one.

show notes

OneStreamer 是一个专为流式视频交互设计的开创性视觉语言模型,通过单一的因果生成过程统一了感知、记忆和主动响应。该模型引入了主动分层字幕内存(PHCM),在不牺牲实时感知的前提下,将观察到的视频片段转化为有时空依据的局部细节字幕和事件摘要,从而提供可复用的事实背景。为了解决状态监督中的不平衡问题,模型采用了主动状态转换学习(PSTL),在保留所有输出锚点的同时筛选出最具代表性的状态转换与持续位置。此外,通过构建名为 OneStreamer-1M 的大规模流式视频交互数据集,该系统在八个主流流式视频理解基准测试中均取得了最先进的卓越性能。这些核心设计与合成管线共同证明了主动生成机制能够有效连接视觉感知、长期记忆与及时响应。