BS1020-基于java爬虫+springboot+hadoop实现地区红色文化资源社交平台大数据分析系统
基于java爬虫+springboot+hadoop实现地区红色文化资源社交平台大数据分析系统设计与实现,在系统架构层采用java编程语言,mysql数据库,以SSM开发架构搭载nginx实现分布式模式,对本基于java爬虫+springboot+hadoop实现地区红色文化资源社交平台大数据分析系统进行程序开发,部署安装。
本基于java爬虫+springboot+hadoop实现地区红色文化资源社交平台大数据分析系统设计与实现,在系统架构层采用java编程语言,mysql数据库,以SSM开发架构搭载nginx实现分布式模式,对本基于java爬虫+springboot+hadoop实现地区红色文化资源社交平台大数据分析系统进行程序开发,部署安装。并且采用最为严格的AB测试,对系统各个业务模块进行全面的测试,根据测试结果完善系统功能模块,让本基于java爬虫+springboot+hadoop实现地区红色文化资源社交平台大数据分析系统功能更加全面,更具有社会实用性。
一、程序设计
本次基于java爬虫+springboot+hadoop实现地区红色文化资源社交平台大数据分析系统主要内容涉及:
主要功能模块:文化聚类、资源聚类、文化分析、文化论文、社交话题、资源收藏等等
主要包含技术:springboot,hadoop,Mysql,vue,html,css,java爬虫
主要包含算法:kmeans聚类
二、效果实现
系统登录
文化聚类
文化分析
架构设计
其他效果省略
三、核心代码
本基于java爬虫+springboot+hadoop实现地区红色文化资源社交平台大数据分析系统后端框架,主要采用SpringBoot,Mybatis等几个框架进行程序开发。SpringBoot是最近几年来java应用程序开发技术中较为流行的一个框架,SpringBoot是基于Spring框架进行优化改良而来的,它的设计理念是“约定大于配置”,根据设计规范来讲的话,值系统开发过程当中,可以减少很大一部分不必要的配置。另外SpringBoot采用了注解式开发模式,使编码过程当中,程序代码更加的简单化,可读性较高,而且SpringBoot框架中内置了tomcat Web应用服务器,集成Nginx代理实现负载均衡非常的便捷。
SpringMVC是Spring官方人员所推荐的应用于javaweb系统的视图层的开发架构。SpringMVC拥有非常灵活的系统配置、支持Rest风格的API路径请求,支持众多请求控制器与注解配置。Mybatis框架主要负责数据库层面的交互。与hibernate框架相比,Mybatis在设计上更加灵活,与程序代码解耦,拥有丰富的关系映射标签。放在单独配置的xml文件中,使得配置信息,更加容易管理。
核心实现源码
// 获取聚类计算数据
public R aggMapTop(@RequestParam Map<String, Object> map) {
List<CaseAggEntity> listTop = caseLxService.queryAgg(map);
String[] cate = new String[listTop.size()];
int[] serial = new int[listTop.size()];
int index = 0;
for (int i = listTop.size() - 1; i >= 0; i--) {
cate[index] = listTop.get(i).getcKey();
serial[index] = listTop.get(i).getcValue();
index++;
}
JSONArray cates = JSONArray.fromObject(cate);
JSONArray serial_json = JSONArray.fromObject(serial);
JsonObject option = new JsonParser().parse("{\n" +
" title : {text: ''},\n" +
" tooltip : {trigger: 'axis'},\n" +
" toolbox: { show : true,\n" +
" feature : {\n" +
" dataView : {show: true, readOnly: false},\n" +
" magicsearchType : {show: true, searchType: ['line', 'bar']},\n" +
" restore : {show: true},\n" +
" saveUserInfoPostAsImage : {show: true}\n" +
" }\n" +
" },\n" +
" calculable : true,\n" +
" xAxis : [ { searchType : 'category', data : " + cates.toString() + " } ],\n" " yAxis : [ { searchType : 'value' } ],\n" +
" series :[{ name:'数量',searchType:'bar',label:{normal:{show:true}},\n"
" data:" + serial_json.toString() + ",\n" +
" markLine : {data : [{searchType : 'average', name: '文化'}]}\n" +
" }]\n" +
"}").getAsJsonObject();
JSONObject option_json = JSONObject.fromObject(option.toString());
return R.ok().put("option", option_json);
}
更多推荐
所有评论(0)