发布于 2026-01-06 1 阅读
0

在 Google Colab 上使用 Motion Magic Animate 从图像生成视频,并在 Google Colab 上运行 LLM。

使用 Google Colab 上的 Motion Magic Animate 从图像生成视频

在 Google Colab 上运行 LLM

魔法动画

GitHub 标志 魔法研究/魔法动画

[CVPR 2024] “MagicAnimate:使用扩散模型实现时间一致的人类图像动画”官方存储库

MagicAnimate:使用扩散模型实现时间一致的人类图像动画

徐中聪·张建峰·刘俊豪·严汉舒·刘家伟·张晨旭·冯嘉实· Mike郑寿 新加坡国立大学 | 字节跳动

纸质版PDF 项目页面

📢 新闻

  • [2023.12.4]发布推理代码和 Gradio 演示。我们正在努力改进 MagicAnimate,敬请期待!
  • [2023.11.23]发布 MagicAnimate 文档和项目页面。

🏃‍♂️ 入门指南

下载StableDiffusion V1.5MSE 微调 VAE的预训练基础模型

下载我们的 MagicAnimate检查点

git lfs建议按照huggingface的下载说明下载上述模型和检查点。

按如下方式放置基础模型和检查点:

magic-animate
|----pretrained_models
  |----MagicAnimate
    |----appearance_encoder
      |----diffusion_pytorch_model.safetensors
      |----config.json
    |----densepose_controlnet
      |----diffusion_pytorch_model.safetensors
      |----config.json
    |----temporal_attention
      |----temporal_attention.ckpt
  |----sd-vae-ft-mse
    |----config.json
    |----diffusion_pytorch_model.safetensors
  |----stable-diffusion-v1-5
    |----scheduler
       |----scheduler_config.json
    |----text_encoder
       |----config.json
       |----pytorch_model.bin
    |----tokenizer
Enter fullscreen mode Exit fullscreen mode

我尝试在 Google Colab T4(免费版)上使用 Magic Animate 处理一位日本超级著名喜剧演员的照片,但结果却出乎我的意料,哈哈。

但我仍然觉得魔法动画很棒。

另一个挺搞笑的。

以下是我使用的 Google Colab。

llm_on_GoogleColab/MagicAnimate_colab.ipynb 在 main · koji/llm_on_GoogleColab
通过在 GitHub 上创建帐户来参与 koji/llm_on_GoogleColab 的开发
。github.com


笔记

如果在 T4 上运行上述 Colab,由于 T4 的内存大小,需要将采样数从 25 减少到 15(12-15)左右。

整个过程大约需要10分钟。

文章来源:https://dev.to/0xkoji/generate-a-video-from-an-image-and-motion-magic-animate-on-google-colab-pnn