资讯专栏INFORMATION COLUMN

自动化测试工具

tuniutech / 958人阅读

摘要:自己写一个程序来自动生成测试数据,因为每个个人作业的要求不一样,自动化框架无法对每种程序都生成测试数据,目前只支持生成按规则生成随机的字符串测试集。

作者:Grey

原文地址:自动化测试工具

自动化测试框架可以用于

  • 自动克隆项目
  • 编译项目
  • 执行项目
  • 评分(需要实现自定义接口)
  • 性能测试(需要规定在同一个人的电脑上执行所有同学的程序,否则会因为电脑配置不一样导致结果不一样)
  • 生成CSV格式报表(需要实现自定义接口)
  • 查重(需要申请moss账户,且只支持特定的语言:c, cc, java, ml, pascal, ada,lisp, schema, haskell, fortran, ascii, vhdl, perl, matlab, python, mips, prolog, spice, vb, csharp, modula2, a8086, javascript,plsql)

目前,项目代码已经分好模块,不仅可以测试WordCount作业,对于固定输入输出的个人作业都可以支持,不过有了自动化测试工具,助教还需要做的事情是:

  1. 作业要求中必须规定好语言版本,如果要支持查重,语言只能限制在moss支持的语言列表中。
  2. 自己实现一版个人作业作为对数器。
  3. 自己写一个程序来自动生成测试数据,因为每个个人作业的要求不一样,自动化框架无法对每种程序都生成测试数据,目前只支持生成按规则生成随机的字符串测试集。
  4. 要制定评分规则(自动化框架已经预留了接口,实现Judge接口即可)
  5. 制定最后报表的格式(自动化框架已经预留了接口,实现ReportData接口即可)
  6. 申请一个moss账号,用于查重,具体可见:Use MOSS On Your Computer- 如何使用MOSS代码剽窃检测系统

代码结构说明

  • autotest
    • autotest-core

      框架核心代码,预留接口以及扩展点,常用工具类

    • app-wordcount

      wordcount作业测试项目,实现了wordcount测试的数据集准备,评分规则,导出csv报表规则,这个模块依赖于autotest-core

后续每次增加一个个人作业,都可以以app-wordcount为例,新建一个maven模块,命名为: app-xxx,其中xxx就是个人作业的具体名称。这个app-xxx模块依赖autotest-core模块,实现其接口即可。

下面以自动化测试WordCount作业为例,来说明如何使用自动化测试框架

支持的语言

理论上可以支持C++,Java,Python,NodeJS 任意版本的程序,因为测试程序中可以配置不同语言的执行环境

以下是我们测试通过后的语言版本

语言版本
Java1.8
C++3.9.2
Pythongc++ 6.3.0
NodeJSv10.15.3

实现的功能

克隆项目

从指定仓库克隆项目,由于访问Github的网络经常不稳定,也支持我们先预备好项目的仓库,不从Github实时下载。

生成测试数据

  • 可以生成指定长度的随机ASCII码字符串
  • 可以将我们指定长度的测试数据写入指定位置的指定数量的文本文件中,这些文本文件将作为后续的测试用例文件。

注:这里针对不同的项目需要生成的测试数据不一样,wordcount需要生成的数据

编译

这里的编译和以下的运行都是有如下两个前置要求:

  1. 作业中必须明确要求入口文件的文件名是什么,以Java为例,就是Main方法所在的类文件的文件名是什么,以WordCount作业为例,我们要求学生的主函数必须定义在src目录下一个名叫WordCount.java文件中,因为这样我们才知道要运行哪个文件来执行测试用例。

  2. 助教在自己机器上运行的时候,必须要有对应语言的编译和运行的环境且要规定好一致的语言版本。否则编译这一关会有很多问题导致无法运行学生的代码。

编译时候会设置对应的超时时间,不同的语言可以设置不一样的编译超时时间,以Java为例,默认编译超时时间是5秒钟

运行

见编译部分提到的两点要求。

运行的时候也会设置对应的超时时间,不同的语言针对不一样的测试用例可以设置不一样的运行时间,超过这个时间,会直接将学生这个用例的耗时数设置为-2,-2表示耗时的记录。

评分

  • 每个用例的得分以及汇总得分
  • 执行每个用例的耗时

注:我们统计的耗时是运行部分的耗时,不包括编译的耗时。

导出结果到CSV

  • 分数
  • 耗时
  • Git提交记录
    • 提交次数
    • 每次提交的commit信息

效果预览

其中:

StudentNo: 表示学生学号的后五位

Score:汇总分数,即Score1 + Score2 + … + Scorei 之和

Scorei:表示第i个用例的得分

Timei:表示第i个用例的耗时

commit_times:表示每个学生的提交次数

commit_details:表示每个学生的提交信息,JSON格式

使用方式

目前没有将项目打包,还是以源码的方式运行,主要是方便调试和改代码,后续会完善打包运行。

我们必须先规定好测试代码的位置,以WordCount项目为例,所有同学的代码都以学号命名收集到如下仓库中:

https://github.com/kofyou/PersonalProject-Java.git

目录结构为:

PersonalProject-Java

  • 学号1
    • src
      • WordCount.java
  • 学号2
    • src
      • WordCount.java
      • Lib.java
  • 学号3
    • src
      • WordCount.java

克隆代码

git clone https://github.com/GreyZeng/WordCountAutoTest.git

克隆完毕后,用Jetbrains IDEA 打开文件WordCountAutoTest,并且在WordCountAutoTest下新建download文件夹,如下图:

在download文件夹下新建一个judge文件夹,里面放对数程序,这个对数程序的目的就是,把测试用例的答案算出来,

这个对数程序要保证正确!!!最好多个助教一起做一下题目,然后互相验证没问题了,在把对数程序放上去

PS:对数程序请不要提交到Github,防止学生抄袭!

如上图,我放了一个对数程序WordCount.java

将:/resources/config.default文件复制一份,重命名为:config.properties

关注并确认config.properties中的如下几个参数,其他参数可以参考注释进行修改:

# 默认测试用例的数量TESTCASE_NUM=10# 测试文本的最少字符数TEXT_MIN_LENGTH=100# 测试文本的最大字符数量TEXT_MAX_LENGTH=1000000# 是否需要对数程序解答,如果准备好了case和答案,则可以把这个选项设置为falseNEED_ANSWER=true# 是否需要克隆,如果设置为true,则会使用CLONE_URL到一个目录进行操作# 如果设置为false,则会使用LOCAL_URINEED_CLONE=false# 需要clone的学生仓库地址CLONE_URL=https://github.com/kofyou/PersonalProject-Java.git# 本地准备好的仓库地址:例如: "D://git//WordCountAutoTest//download//1615421924089//PersonalProject-Java"# 同时需要在这个仓库的父目录,即:"D://git//WordCountAutoTest//download//1615421924089" 新建两个文件夹,分别是cases和answers# 并且在cases文件夹和answers文件夹准备好TESTCASE_NUM数量的测试用例和对应答案,文件名称从1.txt,2.txt ... n.txt 开始命名# 比如TESTCASE_NUM = 3, 那么# D://git//WordCountAutoTest//download//1615421924089//cases 下有三个txt文件: 1.txt, 2.txt, 3.txt# D://git//WordCountAutoTest//download//1615421924089//answers 下也有三个txt文件,1.txt, 2.txt, 3.txt 分别对应cases下面的三个文件的答案LOCAL_URI=C://git//autotest//download//1616838383549//PersonalProject-JavaJUDGE_PROGRAM=C://git//autotest//download//judge

修改好配置参数后,直接在IDEA里面Run Client.java,等待执行完毕即可。

说明:运行的时候,会在之前download的目录以当前时间戳建一个文件夹,这样做的目的是保证每次运行不会有文件夹冲突。

执行完毕后,按如下目录找需要的信息:

目录说明
download/时间戳/cases/存放用例的位置
download/时间戳/answers/存放答案的位置
download/时间戳/PersonalProject-Java/项目目录
download/时间戳/PersonalProject-Java/学号/output/每个学号的学生的执行用例的输出文件夹
download/时间戳/result/result.csv本次测评的csv文件
WordCountAutoTest/log日志记录文件夹

查重

使用的是moss 组件,需要申请一个moss账号

使用方法,参考:

QuickStart.java

源码地址

Github

CSDN

文章版权归作者所有,未经允许请勿转载,若此文章存在违规行为,您可以联系管理员删除。

转载请注明本文地址:https://www.ucloud.cn/yun/122094.html

相关文章

  • #yyds干货盘点# 动化测试

    摘要:正确合理地实施自动化测试,能够快速全面地对软件进行测试,从而提高软件质量,节省经费,缩短产品发布周期。自动化测试工具能实现百分之百的测试覆盖率。年题以下测试项目不适合采用自动化测试的是。故正确答案为年题自动化测试的优势不包括。 自动化测试是近些年的一个热点,为了更加快速、有效地对软件进行测试,提高软件产品的质量,必然会利用...

    不知名网友 评论0 收藏0
  • 100天涨薪4k!从功能测试动化测试,我整理的超全学习指南!

    摘要:事实上,自动化测试是相对于手动的。减少人为的错误自动化测试是机器完成,不存在执行过程中人为的疏忽和错误,测试设计完全决定了测试的质量,可以降低减少人为造成的错误。而接口自动化测试,主要是对接口进行测试。 今年6月份,由于经济压力让我下定决心进阶自动化测试,已经24的我做了3年功能测试,坐标广...

    TwIStOy 评论0 收藏0
  • 动化测试框架指南

    摘要:基于各种测试的理想测试自动化框架的主要组成部分是测试库单元测试单元测试库可用于塑造任何测试自动化框架的重要组成部分。构建工具旨在帮助您从源代码和支持库开发自动化软件,并运行测试。 ...

    tulayang 评论0 收藏0
  • 程序人生:软件测试工程师,如何从手工测试转成动化测试?这可能是每个测试要走的路...

    摘要:而现实是,很多团队在实施自动化测试的过程中,并未取得良好的质量效果,这主要是因为学习自动化测试有两大难点自动化测试本身拥有一定的技术门槛最大的难点是需要大量的实战经验。 ...

    Reducto 评论0 收藏0
  • 2018 最好的动化测试工具(Top 10 回顾)

    摘要:自动化测试工具可能是网页应用中最流行的开源自动化测试框架。证书商业是一个开源的自动化测试框架,它实现了关键字测试驱动来实现测试驱动开发。 showImg(https://segmentfault.com/img/bVYz7D?w=1200&h=627); 简评:软件开发实践一直以来都在变化,工具和技术也是如此。这些改变都是为了提高生产率,质量,让客户满意,缩短交付时间,以及交付成功的产...

    waltr 评论0 收藏0
  • 3年软件测试经验突显迷茫...不知道我这种测试人员是不是被淘汰?​​

    这两天和朋友谈到软件测试的发展:这一行的变化确实蛮大,从开始最基础的功能测试,到现在自动化、性能、安全乃至于以后可能出现的大数据测试、AI测试岗位需求逐渐增多。我也在软件测试这行摸爬滚打了十年了,正好有朋友问我:如何快速成为互联网时代优秀的测试工程师呢?趁着最近终于有了些闲余时间,遂总结了下自动化测试的成长线路图和职业必备技能,希望可以帮助各位少走弯路、破茧成蝶、迈向成功。 下面我来分享下自动化测...

    fasss 评论0 收藏0

发表评论

0条评论

最新活动
阅读需要支付1元查看
<