1.安装和卸载

应用的安装和卸载在任何一款APP中都属于最基本功能。一旦出错,就属于优先级为紧要Critical的缺陷。因此APP的安装和卸载应作为一个测试点多加重视。主要关注以下几个方面:

验证App是否能正确安装、运行、卸载、以及操作过程和操作前后对系统资源的使用情况

1.1、安装

1)应用是否可以正常安装(命令行安装;豌豆荚/手机助手等第三方软件安装;apk/ipa安装包安装)

2)应用是否可以在iOS和Android不同系统,版本,机型上进行安装(有的系统版本过低,应用不能适配)

3)软件安装向导的UI测试

4)软件安装后是否能够正常运行,安装后的文件夹以及文件是否写到了指定的目录里。

5)软件安装各个选项的组合是否符合概要设计说明。

6)安装过程中是否能暂停,再次点击,是否能继续安装

7)安装空间不足时如何表现,是否有相应提示,提示是否友好

8)安装过程中断网或网络不稳定的情况下,是否有相应提示,以及网络恢复后是否能继续安装

9)安装后没有生成多余的目录结构和文件。

1.2、卸载

1)测试系统直接卸载程序是否有提示信息。

2)是否可以正常删除应用(桌面删除;第三方软件删除;命令行删除)

3)应用卸载后所有的安装文件夹是否全部删除

4)卸载过程中出现死机,断电,重启等意外的情况,待环境恢复后是否可以继续正常卸载

5)卸载是否支持取消功能,单击取消后软件卸载情况是否正常

6)系统直接卸载UI测试,是否有卸载状态进度条提示。

2、功能测试

根据软件说明或用户需求验证App的各个功能实现,采用如下方法实现并评估功能测试过程:

1)采用时间、地点、对象、行为和背景五元素或业务分析等方法分析、提炼App的用户使用场景,对比说明或需求,整理出内在、外在及非功能直接相关的需求,构建测试点,并明确测试标准。

2)根据被测功能点的特性列出相应类型的测试用例对其进行覆盖,如:设计输入的地方需要考虑等价、边界、负面、异常、非法、场景回滚、关联测试等测试类型对其进行覆盖。

3)在测试实现的各个阶段跟踪测试实现与需求输入的覆盖情况,及时修正业务或需求理解错误。

2.1、运行

1)App安装完成后的试运行,可正常打开软件。

2)App打开测试,是否有加载状态进度提示。

3)App页面间的切换是否流畅,逻辑是否正确。

4)账号密码注册登录

  • 输入正确的账号密码,可正常注册和登录
  • 已注册用户再次注册
  • 未注册用户尝试登录
  • 密码“****”展示
  • 账号输入框对最大长度和格式应有校验(比如邮箱账号需要邮箱格式等)
  • 账号或密码输入错误时建议提示“账号或密码错误”,而不是“账号错误”或“密码错误”
  • 密码是否加密传输(可抓取请求查看)
  • 密码更改后,登录时是否做到了有效数据的校验:修改前的密码失效;
  • 未登录时对一些页面的操作,是否做了控制
  • 切换账号登录,检验登录的信息是否做到及时更新
  • 对于多个端都进行操作时,确保数据库操作无误,且每个端可以及时看到数据的更新
  • 多设备同时登录同一帐号时(iOS+iOS,Android+Android,iOS+Android),检查是否将原用户剔除,弹出异地登录提示,且对一些需要登录后才能使用的页面无操作权限

5)手机号注册登录

  • 手机号输入框格式校验检查
  • 验证短信的接收是否及时;
  • 用验证码可正常登录;
  • 验证码错误时,登录失败+友好提示
  • 验证短信文案是否符合所测APP;
  • 重复发送验证码,前一个验证码正常失效
  • 频繁操作验证码发送,应有操作限制
  • 验证码有效期校验(超过有效期无法登录)

6)登录

  • 使用合法的用户登录系统
  • 系统是否允许多次非法的登录,是否有次数限制
  • 使用已经登录的账号登录系统是否正确处理
  • 用户名、口令(密码)错误或漏填时能否登陆
  • 删除或修改后的用户,原用户名登陆
  • 不输入用户口令和重复点“确定/取消”按钮,是否允许登录
  • 登陆后,页面中登录信息
  • 页面中有注销按钮
  • 登录超时的处理

2.2、免登陆

很多应用提供免登陆功能,当应用开启时自动以上一次登录的用户身份来使用App。

1)考虑无网络情况时能否正常进入免登录状态。

2)切换用户登陆后,要校验用户登录信息以及数据内容是否相应更新,确保原用户退出。

3)根据Mtop的现有规则,一个账户只允许登陆一台机器。所以,需要检查一个账户登录多台手机的情况。原手机里的用户需要被退出,给出友好提示。

4)App切换到后台,在切换回前台的校验。

5)切换到后台,再切换回到前台的测试。

6)密码更换后,检查有数据交换时是否进行了有效身份的校验。

7)支持自动登录的应用在进行数据校验时,检查系统是否能自动登录成功并且数据操作无误。

8)检查用户主动退出登录后,下次启动App,应停留在登录界面。

2.3、应用的前后台切换

1)App切换到后台,再回到App,检查是否停留在上一次操作界面。

2)App切换到后台,再回到App,检查功能及应用状态是否正常。   3

)App切换到后台,再回到前台时,注意程序是否崩溃,功能状态是否正常,尤其是对于从后台切换回前台数据有自动更新的时候。

4)手机锁屏解锁后进入App注意是否会崩溃,功能状态是否正常,尤其是对于从后台切换回前台数据有自动更新的时候。

5)当App使用过程中有电话进来中断后再切换到App,功能状态是否正常。

6)当杀掉App进城后,再开启App,App能否正常启动。

7)出现必须处理的提示框后,切换到后台,再切换回来,检查提示框是否还存在,有时候会出现应用自动跳过提示框的缺陷。

8)对于有数据交换的页面,每个页面都必须要进行前后台切换、锁屏的测试,这种页面最容易出现崩溃。

2.4、离线浏览

很多应用会支持离线浏览,即在本地客户端会缓存一部分数据供用户查看。

1)在无线网络情况可以浏览本地数据。

2)退出App再开启App时能正常浏览。

3)切换到后台再回到前台可以正常浏览。

4)锁屏后再解锁回到应用前台可以正常浏览。

5)在对服务器段的数据有更新时回给予离线的相应提示。

2.5、App更新

1)当客户端有新版本时,有更新提示。

2)当版本为非强制升级版时,用户可以取消更新,老版本能正常使用。用户在下次启动App时,仍出现更新提示。

3)当版本为强制升级版时,但给出强制更新后用户没有做更新时,退出客户端。下次启动App时,仍出现强制升级提示。

4)当客户端有新版本时,在本地不删除客户端的情况下,直接更新检查是否能正常更新。

5)当客户端有新版本时,在本地不删除客户端的情况下,检查更新后的客户端功能是否是新版本。

6)当客户端有新版本时,在本地不删除客户端的情况下,检查资源同名文件如图片是否能正常更新成最新版本。如果以上无法更新成功的,也都属于缺陷。

2.6、定位、照相机服务

1)App有用到相机,定位服务时,需要注意系统版本差异。

2)有用到照相机服务的地方,需要进行前后台的切换测试,检查应用是否正常。

3)测试照相机服务时,需要采用真机进行测试。

2.7、PUSH测试

1)检查Push消息是否按照指定的业务规则发送。

2)检查不接收推送消息时,用户不会在接收到Push消息。

3)如果用户设置了免打扰的时间段,检查在免打扰时间段内,用户接收不到Push。在非免打扰时间段内,用户能正常收到Push。

4)当Push消息是针对登录用户的时候,需要检查收到的Push与用户身份是否相符,没有错误的将其他人的消息推送过来。一般情况下,只对手机上最后一个登录用户进行消息推送。

5)测试Push时,需要采用真机进行测试。

3、客户端数据库测试

1)一般的增、删、改、查测试。

2)当表不存在时是否能自动创建,当数据库表被删除后能否再自建,数据是否还能自动从服务器中获取回来并保存。

3)在业务需要从服务器端取回数据保存到客户端的时候,客户端能否将数据保存到本地。

4)当业务需要从客户端取数据时,检查客户端数据存在时,App数据是否能自动从客户端数据中取出,还是仍然会从服务器端获取?检查客户端数据不存在时,App数据能否自动从服务器端获取到并保存到服务器端。

5)当业务对数据进行了修改、删除后,客户端和服务器端是否会有相应的更新

4、日历控件

目前很多包含购票功能的APP中都会设置日历控件方便选票,那么对日历控件的测试我们需要关注哪些呢?

  ▲月份和日期对应(比如2月有28天,7月31天)

  ▲闰年2月,应有29天

  ▲跨年时,年份应有增加。

5、权限设置

当前很多APP的使用依赖于位置,通知,网络等用户权限,例如杭州公交APP,在首次启动时会询问用户是否同意启用定位,通知,网络权限。针对用户权限,我们可以多关注以下几点:

1)首次启动APP询问是否同意启用权限

2)消息权限开启时,消息推送是否正常接收(iOS系统应用启用和后台关闭时都应该可以收到;Android系统在后台关闭进程后就不会推送)

3)消息权限关闭后,APP客户端接收不到消息推送。

4)位置权限开启时,APP可定位到当前位置(比如杭州公交APP,能自动定位到用户当前位置,展示出附近的公交站)

5)位置权限关闭后,APP需定位才可用的功能,是否有提示引导用户开启权限,比如“请打开系统设置中’隐私-定位服务’,允许“XXXX”使用您的位置”。

6)网络权限关闭时,APP是否有提示(“服务器或网络错误,请稍后重试”),是否有提示引导用户开启权限。

6、软件更新

1)强制更新(APP开启后要求必须更新,否则无法使用APP):1.多次关闭和打开APP后是否正常跳出更新弹窗,且无法关闭;2.点击更新是否正确跳转至后台配置的更新页面;

2)非强制更新(只提示一次更新):1.可正常关闭更新弹窗。2.重启APP更新提示按照需求再次显示,或者不再显示;3.点击更新是否正确跳转至后台配置的更新页面;

3)取消版本更新时,老版本可以正常使用;

4)APP更新后版本号应有更新;

5)APP更新后新增功能和老功能可正常使用。

6)当有新版本时,不删除客户端的情况下,直接更新是否成功;

7)删除APP后更新

7、网络环境

1)3G,4G,wifi 网络环境下应用的各功能可正常运行;

2)网络异常时 ,数据交换失败是否会有提醒;

3)有网到无网再到有网环境时,数据是否可以自动恢复,正常加载;

4)只允许内网访问的APP,在连接到外网时是否有友好提示。

8、兼容性测试

尽量覆盖该产品的主要用户(建议选取产品自己的数据,具体技术方案可以采取APP内部埋点的方法。如果是新发布的产品,可以选取竞品类产品的数据)

1)从不同系统,版本,分辨率,机型(不同厂家ROM)等纬度进行适配测试

2)通常选择在少数主流设备上执行全向的用例,在其他兼容性范围内的设备上覆盖主要功能的测试用例;

3)关注各功能界面在不同分辨率下是否存在UI展示问题(如果代码没有对不同分辨率做适配处理,就可能会出现错位,遮挡,留白,拉伸和模糊等问题)

4)基于UI自动化脚本的云测试方案(基于轻量级的UI自动化脚本,以及借助云平台大量的真机资源)

9、异常测试

1)没有内存空间时,APP能否正确响应;

2)横竖屏切换展示;

3)APP运行时网络中断;

4)反复操作某个功能(一般是比较重要的功能),不断点击和刷新,是否会出现闪退;

5)APP运行时接入电话,短信,微信,或其他消息

10、安全测试

10.1、软件权限

1)扣费风险:包括短信、拨打电话、连接网络等。

2)隐私泄露风险:包括访问手机信息、访问联系人信息等。

3)对App的输入有效性校验、认证、授权、数据加密等方面进行检测

4)限制/允许使用手机功能接入互联网

5)限制/允许使用手机发送接收信息功能

6)限制或使用本地连接

7)限制/允许使用手机拍照或录音

8)限制/允许使用手机读取用户数据

9)限制/允许使用手机写入用户数据

10)限制/允许应用程序来注册自动启动应用程序

10.2、安装与卸载安全性

1)应用程序应能正确安装到设备驱动程序上

2)能够在安装设备驱动程序上找到应用程序的相应图标

3)安装路径应能指定

4)没有用户的允许,应用程序不能预先设定自动启动

5)卸载是否安全,其安装进去的文件是否全部卸载

6)卸载用户使用过程中产生的文件是否有提示

7)其修改的配置信息是否复原

8)卸载是否影响其他软件的功能

9)卸载应该移除所有的文件

10.3、数据安全性

1)当将密码或其它的敏感数据输入到应用程序时,其不会被存储在设备中,同时密码也不会被解码。

2)输入的密码将不以明文形式进行显示。

3)密码、信用卡明细或其他的敏感数据将不被存储在它们预输入的位置上。

4)不同的应用程序的个人身份证或密码长度必须至少在4-8个数字长度之间。

5)当应用程序处理信用卡明细或其它的敏感数据时,不以明文形式将数据写到其他单独的文件或者临时文件中。以防止应用程序异常终止而又没有删除它的临时文件,文件可能遭受入侵者的袭击,然后读取这些数据信息。

6)党建敏感数据输入到应用程序时,其不会被存储在设备中。

7)应用程序应考虑或者虚拟机器产生的用户提示信息或安全警告

8)应用程序不能忽略系统或者虚拟机器产生的用户提示信息或安全警告,更不能在安全警告显示前,利用显示误导信息欺骗用户,应用程序不应该模拟进行安全警告误导用户。

9)在数据删除之前,应用程序应当通知用户或者应用程序提供一个“取消”命令的操作。

10)应用程序应当能够处理当不允许应用软件连接到个人信息管理的情况。

11)当进行读或写用户信息操作时,应用程序将会向用户发送一个操作错误的提示信息。

12)在没有用户明确许可的前提下不损坏删除个人信息管理应用程序中的任何内容。

13)如果数据库中重要的数据正要被重写,应及时告知用户。

14)能合理的处理出现的错误。

15)意外情况下应提示用户。

10.4、通讯安全性

1)在运行软件过程中,如果有来电、SMS、蓝牙等通讯或充电时,是否能暂停程序,优先处理通信,并在处理完毕后能正常恢复软件,继续其原来的功能。

2)当创立连接时,应用程序能够处理因为网络连接中断,进而告诉用户连接中断的情况。

3)应能处理通讯延时或中断。

4)应用程序将保持工作到通讯超时,进而给用户一个错误信息指示有链接错误。

5)应能处理网络异常和及时将异常情况通报用户。

6)应用程序关闭网络连接不再使用时应及时关闭,断开。

10.5、人机接口安全测试

1)返回菜单应总保持可用。

2)命令有优先权顺序。

3)声音的设置不影响使用程序的功能。

4)声音的设置不影响应用程序的功能

5)应用程序必须能够处理不可预知的用户操作,例如错误的操作和同时按下多个键。

11、UI测试

1)测试用户界面(如菜单、对话框、窗口和其他控件)布局、风格是否满足要求、文字是否正确、页面是否美观、文字、图片组合是否完美、操作是否友好等。

2)UI测试的目标是确保用户界面会通过测试对象的功能来为用户提供相应的访问或浏览功能。确保用户界面符合公司或行业的标准。包括用户友好性、人性化、易操作性测试。

11.1、导航测试

1)按钮、对话框、列表和窗口等;或在不同的连接页面之间需要导航。

2)是否易于导航,导航是否直观。

3)是否需要搜索引擎。

4)导航帮助是否准确直观。

5)导航与页面结构、菜单、连接页面的风格是否一致。

11.2、图形测试

1)横向比较,各控件操作方式统一。

2)自适应界面设计,内容根据窗口大小自适应。

3)页面标签风格是否统一。

4)页面是否美观。

5)页面的图片应有其实际意义而要求整体有序美观。

11.3、内容测试

1)输入框说明文字的内容与系统功能是否一致。

2)文字长度是否加以限制。

3)文字内容是否表意不明。

4)是否有错别字。

5)信息是否为中文显示。

12、性能测试

1)响应能力测试:测试App中的各类操作是否满足用户响应时间要求。

  • App安装、卸载的响应时间
  • App各类功能性操作的响应时间

2)压力测试,反复/长期操作下,系统资源是否占用异常。

  • App反复进行安装卸载,检查系统资源是否正常
  • 其他功能反复进行操作,检查系统资源是否正常

13、交叉事件测试

针对智能终端应用的服务等级划分方式及实时特性所提出的测试方法。交叉测试又叫事件或冲突测试,是指一个功能正在执行过程中,同时另外一个事件或操作对该过程进行干扰的测试。如:App在前/后台运行状态时与来电、文件下载、音乐收听等关键运用的交互情况测试等。

  • 交叉事件测试非常重要,能发现很多应用中潜在的性能问题。

1)多个App同时运行是否影响正常功能。

2)App运行时前/后台切换是否影响正常功能。

3)App运行时拨打/接听电话。

4)App运行时发送/接收信息。

5)App运行时发送/收取邮件。

6)App运行时浏览网络。

7)App运行时使用蓝牙传送/接收数据。

8)App运行时使用相机、计算器等手机自带设备。

14、回归测试

1)Bug修复后且在新版本发布后需要进行回归测试。

2)Bug修复后的回归测试在交付前、要进行大量用例的回归测试。

15、用户体验测试

以主观的普通消费者的角度去感知产品或服务的舒适、有用、易用、友好亲切程度。通过不同个体、独立空间和非经验的统计复用方式去有效评价产品的体验特性,提出修改意见提升产品的潜在客户满意度。

1)是否有空数据界面设计,引导用户去执行操作。

2)是否滥用用户引导。

3)是否有不可点击的效果,如:你的按钮此时处于不可用状态,那么一定要灰掉,或者拿掉按钮,否则会给用户误导。

4)菜单层次是否太深。

5)交互流程分支是否太多。

6)相关的选项是否离的很远。

7)一次是否载入太多的数据。

8)界面中按钮可点击范围是否适中。

9)标签页是否跟内容没有从属关系,当切换标签的时候,内容跟着切换。

10)操作应该有主次从属关系。

11)是否定义Back的逻辑。涉及软硬件交互时,Back键应具体定义。

12)是否有横屏模式的设计,应用一般需要支持横屏模式,即自适应设计。

16、手势操作测试

1)手机开锁屏对运行中的App的影响。

2)运行中的App前后台切换的影响。

3)多个运行中的App的切换。

4)App运行时关机。

5)App运行时重启系统。

6)App运行时充电

7)App运行时Kill掉进程再打开

Live and learn