最近AIGC 简直是杀疯了,领导动不动就让我们在APP 里引入大语言模型,引入AI画图……说搞就搞!本期基于最近在app 里引入AI画图小程序的操作,给大家做一波实践分享。
Scribble Diffusion 是一个简单的在线服务,它使用 AI 将粗略的草图转换为精致的图像,每一张图像都是不同的(而且没有版权困扰)。简单来说,我们只需要「用画笔描绘一张草图,在输入描述后稍等片刻」,随后就会为你生成一幅画。这幅画可以多次生成,每次生成的结果也都大不相同。
Scribble Diffusion 的能力大概是这样的(左边是我画的,右边是 TA 画的)
a photo of grassland with cloud(有云朵的草地)
the sun setting behind the mountains(山后落日)
A lovely kitten(小猫咪呀)
我发现 Scribble Diffusion 作画的能力非常出乎意料,而且可以根据你的描述来定义不同的照片风格(比如照片,油画,素描等等),于是就产生了把这个AI 画图小程序内嵌到公司App中的想法。另外把小程序内嵌App是通过 FinClip 容器技术实现的。(毕竟开箱即用,也不需要做什么配置)。
调研官网之后发现官网中的元素非常简单,正因如此,我觉得把「Scribble Diffusion」搬运到小程序里大概要分这样几步:
- 使用 canvas 实现画板,能够在小程序中进行绘画;
- 提供输入框与生成按钮,能够补充图片的描述和生成的按钮;
- 获取生成的图片链接进行展示;
像那些如何写代码,账号注册和创建小程序的流程,各位看官可以看这里:从零到一,我也能写小程序
看了这篇文章,即使让我现在就从头写一个能够正常运行的小程序,也没有原本想象中的那么难了。
使用小程序实现画板
我们可以使用小程序来实现一个画板,使用 canvas 标签实现画笔功能。用户可以在画板上绘制画作,也可以选择清空画板操作。
下面是一个示例代码:
清空画板
Page({ data: { isProcessing: false, prompt: '', scribble: null, pen : 2, //画笔粗细默认值 color : '#000000', // 画笔颜色默认值 result: null, text: '' }, startX: 0, //保存X坐标轴变量 startY: 0, //保存X坐标轴变量 onLoad(params) { wx.createSelectorQuery().select('#myCanvas').context((res) => { this.context = res.context }).exec() }, //手指触摸动作开始 touchStart: function (e) { //得到触摸点的坐标 this.startX = e.changedTouches[0].x this.startY = e.changedTouches[0].y // this.context = wx.createContext() this.context.setStrokeStyle(this.data.color) this.context.setLineWidth(this.data.pen) this.context.setLineCap('round') // 让线条圆润 this.context.beginPath() }, //手指触摸后移动 touchMove: function (e) { var startX1 = e.changedTouches[0].x var startY1 = e.changedTouches[0].y this.context.moveTo(this.startX, this.startY) this.context.lineTo(startX1, startY1) this.context.stroke() this.startX = startX1; this.startY = startY1; //只是一个记录方法调用的容器,用于生成记录绘制行为的actions数组。context跟不存在对应关系,一个context生成画布的绘制动作数组可以应用于多个 wx.drawCanvas({ canvasId: 'myCanvas', reserve: true, actions: this.context.getActions() // 获取绘图动作数组 }) }, //手指触摸动作结束 touchEnd: function () { var imageData = wx.canvasGetImageData({ canvasId: 'myCanvas', height: 250, width: 250, x: 0, y: 0, success(res){ return res.data } }) }, //清除画板 reset: function(){ this.context.clearRect(0, 0, 400, 400); this.context.draw(true) }})
提供输入框和生成按钮
我们需要提供一个 input 输入框,供用户输入 prompt;同时,我们需要提供一个按钮,点击时会触发响应事件,将 canvas 内容生成图片,同时将 prompt 输入作为参数,提交给服务端进行图片生成。
这里是示例代码:
Page({ ... 省略上述代码 // 更新表单提交按钮状态 update(e){ this.setData({ prompt : e.detail.value }) },})
获取生成的图片链接并展示
当用户点击生成图片按钮后,我们会将 canvas 内容和用户输入的 prompt 作为参数提交给服务端进行图片生成。服务端会返回生成的图片链接,我们需要将它展示给用户。
在下面的示例代码中,我们服务端发送 POST 请求,然后解析返回的 JSON 数据,获取图片链接,并将其添加到页面中。用户就可以看到生成的图片了。
<view class="result" wx:if="{{result}}"> <image class="content" src="{{result}}" mode="aspectFit" /> 下载 Page({ ... 省略上述代码 async getCanvasImage() { return new Promise((resolve, reject) => { wx.canvasToTempFilePath({ x: 0, y: 0, width: 250, height: 250, destWidth: 250, destHeight: 250, canvasId: 'myCanvas', success(res) { console.log(res.tempFilePath) resolve(res.tempFilePath) }, fail(err) { console.log(err) } }) }) }, async upload(image) { return new Promise((resolve) => { wx.uploadFile({ url: 'xxxxxx', filePath: image, name: 'file', success (res){ const data = JSON.parse(res.data) resolve(data.url) }, fail(err){ console.log('上传失败') console.log(err) } }) }) },async sleep(time) { return new Promise((resolve) => { setTimeout(() => { resolve() }, time) }) }, async handleSubmit(e) { if (!this.data.prompt) { return } wx.showLoading({ title: '生成中', }) try { const prompt = this.data.prompt const image = await this.getCanvasImage() this.setData({ error: null, isProcessing: true }); const url = await this.upload(image) console.log('图片', url) const body = { prompt: prompt, image: url, }; const response = await my_fetch.fetch( { url: "https://scribblediffusion.com/api/predictions", method: "POST", headers: { "Content-Type": "application/json", }, params: JSON.stringify(body), }); let prediction = response.data; console.log('预测', prediction) if (response.statusCode !== 201) { wx.showToast({ title: '生成失败', duration: 2000 }) this.setData({ error: '生成失败' }); return; } while ( prediction.status !== "succeeded" && prediction.status !== "failed" ) { console.log(prediction.status) await this.sleep(500); const response = await my_fetch.fetch({ url:"https://scribblediffusion.com/api/predictions/" + prediction.id, }); prediction = response.data; if (response.statusCode !== 200) { this.setData({ error: prediction.detail }); return; } } if (Array.isArray(prediction.output) && prediction.output.length > 1) { wx.hideLoading() this.setData({ isProcessing: false, result: prediction.output[1] }); } else { wx.hideLoading() wx.showToast({ title: '生成失败', duration: 2000 }) this.setData({ isProcessing: false, error: '生成失败' }) } } catch (error) { wx.hideLoading() console.log(error) wx.showToast({ title: '生成失败', duration: 2000 }) } },})
生成完小程序之后,再通过 FinClip 上传小程序就可以在 App 获得画板功能啦!我把这个小程序上传到了「FinClip 小程序应用市场」中,你可以扫描下方的二维码随意体验,总的来说,还是挺好玩的。
如果你对小程序与 AI 的结合有什么奇思妙想,欢迎留言探讨!
当然,如果你对Scribble Diffusion有更多奇怪的想法想付诸实践,开发者也已经将项目文件进行了开源,欢迎尝试~