在这上面可以直接体验部署好的开源模型,如果是开发者,也可以用它来发布自己的模型
01
运行
通过复制,只需几行代码即可运行机器学习模型,而无需了解机器学习的工作原理。
使用我们的 Python 库:
import replicate output = replicate.run( “stability-ai/stable-diffusion:db21e45d3f7023abc2a46ee38a23973f6dce16bb082a930b0c49861f96d1e5bf”, input={“prompt”: “an astronaut riding on a horse”}, )
…或使用您选择的工具直接查询 API:
$ curl -s -X POST -d ‘{“version”: “db21e45d3f7023abc2a46ee38a23973f6dce16bb082a930b0c49861f96d1e5bf”, “input”: { “prompt”: “an astronaut riding on a horse” } }’ -H “Authorization: Token $REPLICATE_API_TOKEN” -H ‘Content-Type: application/json’ https://api.replicate.com/v1/predictions

数以千计的型号,随时可用
机器学习可以做一些非凡的事情。Replica的机器学习黑客社区已经分享了数千个可以运行的模型。

语言模型
可以理解和生成文本的模型

视频创建和编辑
创建和编辑视频的模型

超分辨率
从低质量图像创建高质量图像的放大模型

图像恢复
使用扩散过程训练的图像和视频生成模型

图像到文本
使用扩散过程训练的图像和视频生成模型

文本到图像
使用扩散过程训练的图像和视频生成模型
探索模型 或者, 了解有关我们 API 的更多信息
想象一下您可以构建什么
使用Replica和Next.js和Vercel等工具,您可以在睡觉时看到一个想法出现在Hacker News的头版。
以下是一些我们最喜欢的基于 Copy 构建的项目。它们都是开源的,因此您可以将它们用作自己项目的起点。

由 史蒂文·泰推断
看看你对 AI 的衰老程度。

由Zeke Sikelianos绘制 的文字
在 AI 的帮助下,使用书面说明编辑您的照片。

restorePhotos.io 哈桑·埃尔·姆加里
使用 AI 恢复旧照片。
02
推送
您正在使用机器学习构建新产品。你没有时间与Python依赖地狱作斗争,陷入GPU配置的泥潭,或者拼凑一个Dockerfile。
这就是我们构建 Cog 的原因,这是一个开源工具,可让您将机器学习模型打包到标准的生产就绪容器中。
首先,定义模型运行的环境:cog.yaml
build:gpu:truesystem_packages:-“libgl1-mesa-glx”-“libglib2.0-0″python_version:”3.10″python_packages:-“torch==1.13.1″predict:”predict.py:Predictor”
接下来,使用以下命令定义如何在模型上运行预测:predict.py
from cog import BasePredictor, Input, Path import torch class Predictor(BasePredictor): def setup(self): “””Load the model into memory to make running multiple predictions efficient””” self.model = torch.load(“./weights.pth”) # The arguments and types the model takes as input def predict(self, image: Path = Input(description=”Grayscale input image”) ) -> Path: “””Run a single prediction on the model””” processed_image = preprocess(image) output = self.model(processed_image) return postprocess(output)
现在,您可以在本地对此模型运行预测:
$ cog predict -i @input.jpg –> Building Docker image… –> Running Prediction… –> Output written to output.jpg
或者,构建用于部署的 Docker 映像:
$ cog build -t my-colorization-model –> Building Docker image… –> Built my-colorization-model:latest
最后,将模型推送到“复制”,可以使用几行代码在云中运行它:
$ cog push Pushed model to replicate.com/your-username/my-colorization-model
import replicate output = replicate.run( “your-username/your-model:db21e45d3f7023abc2a46ee38a23973f6dce16bb082a930b0c49861f96d1e5bf”, image=open(“input.jpg”), )
推送模型 或者, 了解有关齿轮的更多信息
03
规模
大规模部署机器学习模型是可怕的。如果你试过,你就知道了。API服务器,奇怪的依赖关系,巨大的模型权重,CUDA,GPU,批处理。如果你正在快速构建产品,你不想处理这些东西。
通过复制,可以轻松部署机器学习模型。可以使用现成的开源模型,也可以大规模部署自己的自定义私有模型。
-
自动接口
使用 Cog 定义您的模型,我们将使用标准实践为其自动生成可扩展的 API 服务器,并部署在大型 GPU 集群上。
-
自动缩放
如果获得大量流量,复制会自动扩展以处理需求。如果您没有获得任何流量,我们会缩减到零,并且不会向您收取任何费用。
-
按秒付款
复制仅对代码运行时间计费。不使用昂贵的 GPU 时,您无需为它们付费。
开始使用 或者, 了解更多关于我们的信息