9号资源网 - 专注免费分享最优质的网络资源,技术教程分享网!

GPT-4V 学会用键鼠上网 人类眼睁睁看着它发帖玩游戏

7.6
7.6

GPT-4V 学会用键鼠上网 人类眼睁睁看着它发帖玩游戏

九号 网络专区
扫码手机访问GPT-4V 学会用键鼠上网 人类眼睁睁看着它发帖玩游戏
0
    温馨提示:本站发布内容均为来源网络,本站不做任何担保!!!如出现付款页面请自辨真假!付款后一切后果自负!

GPT-4V 学会自动操纵电脑,这一天终于还是到来了。

只需要给 GPT-4V 接入鼠标和键盘,它就能根据浏览器界面上网:

GPT-4V 学会用键鼠上网 人类眼睁睁看着它发帖玩游戏  第1张

甚至还能快速摸清楚 “播放音乐” 的播放器网站和按钮,给自己来一段 music:

GPT-4V 学会用键鼠上网 人类眼睁睁看着它发帖玩游戏  第2张

是不是有点细思极恐了?

这是一个 MIT 本科生小哥整出来的新活,名叫 GPT-4V-Act。

GPT-4V 学会用键鼠上网 人类眼睁睁看着它发帖玩游戏  第3张

只需要几个简单的工具,GPT-4V 就能学会控制你的键盘和鼠标,用浏览器上网发帖、买东西甚至是玩游戏。

要是用到的工具出 bug 了,GPT-4V 甚至还能意识到、并试图解决它。

GPT-4V 学会用键鼠上网 人类眼睁睁看着它发帖玩游戏  第4张

来看看这是怎么做到的。

教 GPT-4V “自动上网”

GPT-4V-Act,本质上是一个基于 Web 浏览器的 AI 多模态助手(Chromium Copilot)。

它可以像人类一样用鼠标、键盘和屏幕 “查看” 网页界面,并通过网页中的交互按键进行下一步操作。

要实现这种效果,除了 GPT-4V 以外,还用到了三个工具。

一个是 UI 界面,可以让 GPT-4V “看见” 网页截图,也能让用户与 GPT-4V 发生交互。

这样,GPT-4V 就能将每一步运行思路都通过对话框的形式反映出来,用户来决定是否要继续让它操作。

GPT-4V 学会用键鼠上网 人类眼睁睁看着它发帖玩游戏  第5张

另一个是 Set-of-Mark Prompting(SoM)工具,让 GPT-4V 学会交互的一款工具。

GPT-4V 学会用键鼠上网 人类眼睁睁看着它发帖玩游戏  第6张

这个工具由微软发明,目的是更好地对 GPT-4V 进行提示词工程。

相比让 GPT-4V 直接 “看图说话”,这个工具可以将图片关键细节拆分成不同的部分,并进行编号,让 GPT-4V 有的放矢:

GPT-4V 学会用键鼠上网 人类眼睁睁看着它发帖玩游戏  第7张

对于网页端也是如此,Set-of-Mark Prompting 用类似的方式让 GPT-4V 知道从网页浏览器的哪个部分找答案,并进行交互。

最后,还需要用到一个自动标注器(JS DOM auto-labeler),可以将网页端所有能交互的按键标注出来,让 GPT-4V 决定要按哪个。

GPT-4V 学会用键鼠上网 人类眼睁睁看着它发帖玩游戏  第8张

一套流程下来, GPT-4V 不仅能准确判断图片上的哪些内容符合需求,还能准确找到交互按键,并学会 “自动上网”。

这是个大项目,目前还只实现了部分功能,包括点击、打字交互、自动标注等。

接下来,还有其他的一些功能要实现,例如试试 AI 打标器(目前网页端的交互还是通过通过 JS 接口得知哪里能交互,不是 AI 识别的)、以及提示用户输入详细信息等。

GPT-4V 学会用键鼠上网 人类眼睁睁看着它发帖玩游戏  第9张

此外,作者也提到,现阶段 GPT-4V-Act 用法上还有一些需要注意的地方。

例如,GPT-4V-Act 可能会被网页打开后铺天盖地的弹窗小广告给 “整懵了”,然后出现交互 bug。

GPT-4V 学会用键鼠上网 人类眼睁睁看着它发帖玩游戏  第10张

又例如,目前这种玩法可能会违反 OpenAI 的产品使用规定:

除非 API 允许,否则不得使用任何自动化或编程的方法从服务中提取数据并输出,包括抓取、网络收集或网络数据提取。

GPT-4V 学会用键鼠上网 人类眼睁睁看着它发帖玩游戏  第11张

所以用的时候也要低调一点(doge)

微软 SoM 作者也来围观

这个项目在网上发出后,吸引了不少人的围观。

像是小哥用到的微软 Set-of-Mark Prompting 工具的作者,就发现了这个项目:

出色的工作!

GPT-4V 学会用键鼠上网 人类眼睁睁看着它发帖玩游戏  第12张

还有网友提到,甚至可以用来让 AI 自己读取验证码。

GPT-4V 学会用键鼠上网 人类眼睁睁看着它发帖玩游戏  第13张

这个在 SoM 项目中提到过,GPT-4V 是能成功解读验证码的(所以以后可能还真不知道是人还是机器在上网)。

GPT-4V 学会用键鼠上网 人类眼睁睁看着它发帖玩游戏  第14张

与此同时,也有网友已经在想象桌面流自动化(desktop automation)的操作了。

对此作者回应称:

AI 自动标注器应该能实现这个,我也确实在计划制作一个更通用的 Copilot。

GPT-4V 学会用键鼠上网 人类眼睁睁看着它发帖玩游戏  第15张

不过目前 GPT-4V 还是要收费的,有没有其他的实现方法?

作者也表示,目前还没有,但确实可能会尝试 Fuyu-8B 或者 LLaVAR 这样的开源模型。

GPT-4V 学会用键鼠上网 人类眼睁睁看着它发帖玩游戏  第16张

免费的自动化桌面流 AI 助手,可以期待一波了。

来源:量子位


标签:

暂无标签
    协助本站seo优化一下,谢谢!
    关键词不能为空

免责声明:

本站提供的一切软件、教程和内容信息仅限用于学习和研究目的;不得将上述内容用于商业或者非法用途,否则,一切后果请用户自负。本站信息来自网络收集整理,版权争议与本站无关。您必须在下载后的24个小时之内,从您的电脑或手机中彻底删除上述内容。如果您喜欢该程序和内容,请支持正版,购买注册,得到更好的正版服务。我们非常重视版权问题,如有侵权请邮件与我们点击联系。敬请谅解!

评论列表
签到