元素背景素材

核心提示关于《技术干货——小白也能懂的RPA底层技术》系列本系列文章的主要读者群定位为有一点电脑操作知识,但是非技术人员的用户。希望通过尽量通俗的语言让读者了解一些RPA的底层技术。讲述的内容可能会不严谨,请技术牛人轻喷。什么是UI元素“UI元素”

关于“技术干货——小白能看懂的RPA底层技术”系列

该系列文章的主要读者是对计算机操作有一定了解的用户,但不是技术人员。希望读者能通过最通俗的语言了解RPA的一些底层技术。内容可能不严谨,请技巧性强。

什么是UI元素?

“UI元素”应该是每个使用RPA工具的用户最早接触到的概念之一。现在市面上几乎每个RPA工具都有“UI元素”的概念,可能名称不同,比如元素、界面元素等。

“UI元素”,由“UI”和“元素”两个字组成。“UI”,即“用户界面”的缩写,是计算机中的一个特殊词汇,可以简单理解为通过屏幕直观呈现给用户的内容。“元素”,我们把屏幕上的一切都定义为一个元素。综上所述,“UI元素”是指用户在屏幕上看到的东西,比如一个按钮、一张图片、一个窗口,都是UI元素。

为什么需要UI元素?

RPA的一个重要能力就是模仿人操作电脑,所以要能够正确的表达类似于:

用鼠标双击[我的电脑]。

在[搜索框]中输入abc

其中【我的电脑】和【搜索框】是“UI元素”中需要描述的东西。只有清晰地描述“UI元素”,RPA工具才能准确运行,达到模仿人的目的。

当然,技术在进步,会有聪明的产品经理和程序员在绞尽脑汁,用各种方式减少RPA产品中UI元素概念的存在,让用户感受到的越少越好。但是在工具的底层,保持这个能够准确描述目标的概念还是很重要的。

UI元素的分类

如何分类,众说纷纭。没有对错,只是服务于不同的产品设计理念。

在golem RPA编辑器中,UI元素主要分为两类:

网页元素:在所有浏览器中显示的网页元素,如图片、按钮和输入框。但不包括地址栏、前进、后退、刷新等按钮。在浏览器的主窗口上。

桌面元素:除网页元素之外的所有元素,网页元素可以表示Windows资源管理器上的图标或应用程序窗口中的按钮。

用户界面元素的详细描述

前面已经解释过,RPA工具是通过使用UI元素来达到精准定位目标的目的,那么具体怎么做呢?

首先你需要了解一个在Windows电脑上可见的UI元素的基本结构——【树形】结构。想象一下,我们见过的大树都有一个树干,然后是树枝,树枝,树枝,直到到达某一片树叶。回到我们电脑上显示的内容,也像一棵大树。我们可以把桌面想象成树根。每个窗口都是它的分支,然后是所有的内容,直到目标。

比如我们常见的“我的电脑”中的“c盘”:

显示时,其结构如下:

然后,对应刚才提到的树形结构,描述如下:在一棵以“桌面”为根的大树上,要找到显示为“窗口”的元素,需要依次遍历这棵大树。

“Window这台电脑”分支

“窗格这台电脑”分支

……

设备和驱动器分组”分支。

接下来,为了表示方便,需要定义几个名词:

节点:这个树结构中的每个元素可以是根、分支或叶子。

根:最顶层的节点,像一棵大树,是树的根。

父节点:根节点附近的任何节点。

子节点:远离根节点的任何节点。

如上图所示:

节点1是根节点的子节点。

节点3和节点4都是节点1的子节点。

节点1是节点3的父节点。

在这里,我相信你可以很容易地得到这种结构的特点:

必须有根节点,并且根节点没有父节点。

任何非根节点都只有一个父节点。

任何节点都可以有0个或多个子节点。

所以,可以这样理解。你在电脑屏幕上看到的任何东西都是根节点“桌面”下的一个节点。这棵名为“桌面”的大树,组成了我们看到的丰富多彩的信息。

至此,我相信你已经对Windows通常如何显示UI元素有了一些概念,所以回到本章的开头。

问:前面已经解释了RPA工具可以通过使用UI元素来准确定位目标,那么如何做到呢?

答:RPA工具会记录目标UI元素在树上的位置信息,然后根据位置信息找到目标UI元素。

上面这句话的回答虽然可以回答这个问题,但是不够真诚。以下文章将按照分类详细深入地介绍UI元素的特性和方式,敬请关注。

 
友情链接
鄂ICP备19019357号-22