AI video generation has lowered barriers to video creation, but current tools still struggle with inconsistency. Filmmakers often find that clips fail to match characters and backgrounds, making it difficult to build coherent sequences. A formative study with filmmakers highlighted challenges in shot composition, character motion, and camera control. We present Map2Video, a street view imagery-driven AI video generation tool grounded in real-world geographies. The system integrates Unity and ComfyUI with the VACE video generation model, as well as OpenStreetMap and Mapillary for street view imagery. Drawing on familiar filmmaking practices such as location scouting and rehearsal, Map2Video enables users to choose map locations, position actors and cameras in street view imagery, sketch movement paths, refine camera motion, and generate spatially consistent videos. We evaluated Map2Video with 12 filmmakers. Compared to an image-to-video baseline, it achieved higher spatial accuracy, required less cognitive effort, and offered stronger controllability for both scene replication and open-ended creative exploration.


翻译:AI视频生成技术降低了视频创作的门槛,但现有工具仍面临一致性问题。电影制作者常发现片段难以匹配角色与背景,导致构建连贯序列存在困难。一项针对电影制作人的形成性研究揭示了其在镜头构图、角色运动及摄像机控制方面的挑战。本文提出Map2Video——一种基于真实地理环境的街景图像驱动AI视频生成工具。该系统集成Unity与ComfyUI平台,结合VACE视频生成模型,并调用OpenStreetMap与Mapillary的街景图像资源。借鉴选址勘景、排练预演等成熟电影制作流程,Map2Video支持用户选取地图位置、在街景图像中布置演员与摄像机、勾画运动轨迹、调整摄像机运动,最终生成空间连贯的视频。我们邀请12位电影制作人对Map2Video进行评估。相较于图像到视频的基线方法,该系统在空间准确性方面表现更优,所需认知负荷更低,且在场景复现与开放式创意探索中均展现出更强的可控性。

0
下载
关闭预览

相关内容

【CVPR2024】ViewDiff: 3D一致的图像生成与文本到图像模型
专知会员服务
30+阅读 · 2024年3月10日
【Google】多模态Transformer视频检索,Multi-modal Transformer
专知会员服务
103+阅读 · 2020年7月22日
论文浅尝 | GEOM-GCN: Geometric Graph Convolutional Networks
开放知识图谱
14+阅读 · 2020年4月8日
【NeurIPS2019】图变换网络:Graph Transformer Network
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
46+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
VIP会员
相关基金
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
46+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员