MiKaPo 是一款基于浏览器的AI开源动作捕捉工具,可实时捕捉全身动作和面部表情,并转化为3D关键点数据来控制MMD二次元纸片人模型。
Github地址:https://github.com/AmyangXYZ/MiKaPo
主要功能:
– 浏览器内运行:无需安装额外软件。
– 实时AI捕捉:使用谷歌Mediapipe AI框架,实现快速动作识别与跟踪。
– 多种输入方式:支持摄像头实时捕捉和视频文件上传。
– 高度还原:采用BabylonJS 3D引擎和Ammo物理引擎,呈现接近MMD模型编辑器原生效果。
– 免费使用:所有功能均可免费访问。
– 本地运算:AI处理在客户端完成,保护用户隐私。
– 简化工作流: 无需VMD动画文件或手动调整关键帧。
– 跨平台支持:兼容PC、Mac、移动设备等。
应用场景:
– 虚拟主播制作
– 动画创作
– 游戏角色开发
技术细节:
– 基于谷歌Mediapipe AI框架
– 使用BabylonJS 3D引擎
– 集成Ammo物理引擎
Demo模型来源:https://aplaybox.com。桌面Electron版支持用户选择任意本地模型。
未来计划:
– 多人协作在线虚拟聊天
– 集成Ollama本地运行大模型
– 场景特化插件
– 增强后期编辑工具,动画导出
MiKaPo适合动画爱好者、内容创作者以及虚拟技术研究者使用。它简化了虚拟角色动画制作流程,为创作者提供了更多可能性。