SuperAPI AI 工具集

Gesture Synth

Gesture Synth 是一款免费的浏览器乐器工具,通过摄像头把手势实时转化为音乐。它无需安装、无需注册,全程在设备本地运行手势追踪。左手可从 I、vi、IV、V、ii 等和弦中选择,手腕倾斜切换大调与小调;右手控制音量、音色、和弦类型和八度。工具提供 Gesture 和弦垫与 Theremin 自由音高两种模式,以及 Pop Pulse、Soft Ballad、Retro Night 三种音色场景。音高范围约 65 Hz 至 1200 Hz。手部追踪基于 MediaPipe Hand Landmarker,以 WebAssembly 在浏览器本地处理视频帧,不上传、不收集遥测数据。目前针对桌面版 Chrome 和 Edge 优化,移动端支持尚在规划中,官方称可永久免费使用。

访问官网

工具介绍

Gesture Synth 是一款免费的浏览器乐器,它把网络摄像头变成和弦垫与特雷门琴,让你用双手手势演奏音乐。打开网页即可使用,无需安装软件或注册账号,手部追踪完全在设备上完成。

用途

  • 用摄像头追踪手部动作,实时生成音乐。
  • 适合想用身体动作即兴演奏、体验手势音乐交互的用户。

主要能力

  • 双手分工:左手负责选择和弦,右手负责塑造音量、音色与和弦风格。
  • 左手和弦:从 I、vi、IV、V、ii 中选择,另有 VI(食指加小指)和 VII(食指、小指加拇指)。手腕倾斜可在大调与小调之间切换。
  • 右手控制:手的高度决定音量(低到高);竖起 1 至 4 根手指切换三和弦、转位或七和弦;手腕倾斜控制音色(滤波器扫频);伸出拇指降低一个八度;握拳静音。
  • 音量跟随右手腕的 Y 轴位置实时变化,而不是与摄像头的距离。想要保持音量稳定,可把肘部支在桌面上并让手停在固定高度。
  • 两种乐器模式:Gesture 模式提供连续和弦垫,Theremin 模式可演奏自由音高。两者可在同一工具内切换,使用相同的手和摄像头。
  • 三种音色场景:Pop Pulse、Soft Ballad、Retro Night。相同手势在不同场景下声音不同,可随时切换,无需重新加载。
  • Theremin 模式下可演奏大致 65 Hz 至 1200 Hz 之间的任意音高。

使用方式

  • 在浏览器中打开 Gesture Synth,允许使用摄像头。
  • 按照界面提示摆出对应手势:左手选择 I、vi、IV、V、ii 等和弦,手腕倾斜切换大调与小调。
  • 用右手控制音量、音色、和弦类型和八度:手抬高音量增大,手放低音量减小;竖起 1 至 4 根手指切换三和弦、转位或七和弦;手腕倾斜做滤波器扫频;拇指伸出降低八度;握拳静音。
  • 在 Gesture 模式与 Theremin 模式之间切换,选择想要的和弦垫或自由音高演奏方式。
  • 在 Play 中选择 Pop Pulse、Soft Ballad 或 Retro Night 音色场景。

隐私与运行方式

  • 手部追踪使用 MediaPipe Hand Landmarker,这是 Google 的开源机器学习模型,以 WebAssembly 形式在浏览器中运行。
  • 视频帧在本地处理并立即丢弃,不会上传、没有遥测、不依赖云端。
  • 无需安装、无需账号。

适用场景

  • 快速体验手势演奏,打开网页一分钟内即可弹出第一个和弦。
  • 练习或即兴演奏流行音乐中常见的 I、vi、IV、V、ii 和弦进行。
  • 在 Theremin 模式下探索自由音高旋律。

限制

  • 目前针对桌面浏览器优化,官方列出的支持浏览器为 Chrome 和 Edge。
  • 移动端支持在路线图中,暂未提供。
  • 摄像头为必需输入,手部追踪需要可见的手部动作。

收费

  • 官方称 Gesture Synth 永久免费,无订阅、无应用内购买、无追加销售。

其他说明

  • 其他浏览器或平台的兼容情况、具体音色引擎实现细节、可演奏曲目数量等,暂未提供。