Spark:比Hadoop更强大的分布式数据计算项目
Spark是一个由加州大学伯克利分校(UC Berkeley AMP)开发的一个分布式数据快速分析项目。它的核心技术是弹性分布式数据集(Resilient distributed datasets),提供了比Hadoop更加丰富的MapReduce模型,可以快速在内存中对数据集进行多次迭代,来支持复杂的数据挖掘算法和图计算算法。Spark使用Scala开发,使用Mesos作为底层的调度框架,可以和...
View ArticleDataX:实现不同数据库数据同步
目前成熟的数据导入导出工具比较多,但是一般都只能用于数据导入或者导出,并且只能支持一个或者几个特定类型的数据库。这样带来的一个问题是,如果拥有很多不同类型的数据库/文件系统(Mysql/Oracle/Rac/Hive/Other…),并且经常需要在它们之间导入导出数据,那么我们可能需要开发/维护/学习使用一批这样的工具(jdbcdump/dbloader/multithread/getmerge+s...
View Articlejava 线程池使用 Runnable&Callable&Future
1. 创建线程池ExecutorService executorService = Executors.newCachedThreadPool(); 2. 执行一次线程,调用Runnable接口实现Future<?> future = executorService.submit(new DefaultRunnable());...
View ArticleRicochet:基于Tor的加密即时通信工具
22岁的John Brooks在13岁时就缀学了,他是一名自学成才的程序员,关心隐私和公民自由。四年前,他开始开发使用Tor隐藏服务的加密即时通信程序Ricochet。到完成之日,他有了一个易于使用的完备桌面客户端,提供了匿名性和加密,甚至在公众意识到之前解决了元数据问题。唯一的问题是程序只有几个人用,也没有几个人知道。当Edward...
View Articlenagios 监控redis
安装redis支持 perl -MCPAN -e shell cpan>install Redis下载check_redis.plhttp://exchange.nagios.org/directory/Plugins/Databases/check_redis-2Epl/detailshttps://github.com/willixix/WL-NagiosPlugins测试...
View Article快速了解Scala技术栈
我无可救药地成为了Scala的超级粉丝。在我使用Scala开发项目以及编写框架后,它就仿佛凝聚成为一个巨大的黑洞,吸引力使我不得不飞向它,以至于开始背离Java。固然Java...
View Articlelinux下boot空间不足解决方法
标签: boot 在安装linux的过程中都喜欢把boot挂单独挂分区,一般设置500M, 可随着linux升级,往往会攒下好几个内核,某一天系统会提示你升级失败,空间不足了。。。 既然已经知道是boot空间不足了,那首先我们看看里面都有神马东西!! ranger@ranger:~$ ls /boot abi-2.6.35-25-generic memtest86+.bin...
View Article使用Yeoman你必须要知道的
不得不说,这年头写JS程序变得越来越复杂了。虽然大家都为了让写JS变得更简单而创建框架、创建工具,但是感觉已经开始偏离了最初的目的。今天来说说Yeoman,一帮人为了让写AngularJS程序更高端智能而创建的一个工具。可以利用简单的命令行操作帮你初始化一个Angular App,CSS、图片、View和JS应该放哪都帮你决定好了,连复杂的Grunt都帮你配好了。前端同志只要用”grunt...
View ArticleMongoDB sql操作
来源自网络:http://www.cnblogs.com/stephen-liu74/archive/2012/08/03/2553803.html 1. 基本查询: 构造查询数据。 > db.test.findOne() { "_id" : ObjectId("4fd58ecbb9ac507e96276f1a"), "name"...
View Article[原]阿朱看在线教育
一、先说教育我主要把我国的教育分为素质教育、考试教育、职业教育、人脉教育1、素质教育:主要集中在幼儿启蒙期,各种才艺培训班。一旦到了小学还在学习这些才艺的,就成了考级目的了,又成了考试了。我不知道还有一类教育是否可以归到素质教育还是应该有个新一类叫精神教育。比如说:给企业的初级人讲成功学,给企业的中级人讲职业素养,给老板们忽悠格局气度、权谋、国学、养生、风水。2、考试教育:K12(小学/初中/高中)...
View Articlejava中==和equals详解
引言:以下文字均来源于http://blog.sina.com.cn/s/blog_532637060100gkfc.html,感谢作者的辛勤付出! 中软国际电子政务部Jeff Chi总结,转载请说明出处。概述: A.==可用于基本类型和引用类型:当用于基本类型时候,是比较值是否相同;当用于引用类型的时候,是比较对象是否相同。 B.对于String a = “a”;...
View Article性能优化需要注意的点
优化需要注意的点除非必要,一开始不要优化(尤其是开发阶段)有些优化准则已经过时,需要考虑当下的软硬件环境(不要墨守成规)不要过分强调某些系统级指标,如cache...
View Article安全运维之:服务器遭受攻击后的一般处理过程
安全总是相对的,再安全的服务器也有可能遭受到攻击。作为一个安全运维人员,要把握的原则是:尽量做好系统安全防护,修复所有已知的危险行为,同时,在系统遭受攻击后能够迅速有效地处理攻击行为,最大限度地降低攻击对系统产生的影响。 一、处理服务器遭受攻击的一般思路 系统遭受攻击并不可怕,可怕的是面对攻击束手无策,下面就详细介绍下在服务器遭受攻击后的一般处理思路。 1.切断网络...
View Article越健康,越防癌:健康的生活对减少癌症有多大作用?
近年来,癌症正在逐渐走入大众的生活。中国癌症的健康负担也在逐年增加,每年超过160万人诊断为癌症,120万人因癌症而死亡...
View Article泡沫就要破了,创业公司们请做好过冬准备
编者按:今天,经纬中国创始管理合伙人张颖在“经纬创投”的微信公众号中发表了一篇文章,题目为《泡沫就在那里——致经纬系CEO们的公开信》。在文章中,张颖对目前行业内日益升温的投融资和并购浇了一盆冷水,他提醒CEO们,中美两国疯狂的投融资和M&A背后的隐忧,称“市场从’贪婪’转向’恐惧’的关键节点只在弹指之间”。他的判断是,二级市场大规模回调(大盘强势冲高之后,由于资本的撤出而导致的市场下跌)的...
View Article使用elasticsearch遇到的一些问题以及解决方法(不断更新)
1.由gc引起节点脱离集群 因为gc时会使jvm停止工作,如果某个节点gc时间过长,master ping3次(zen discovery默认ping失败重试3次)不通后就会把该节点剔除出集群,从而导致索引进行重新分配。解决方法:(1)优化gc,减少gc时间。(2)调大zen...
View Article简单试用航班查询接口
using System;using System.Collections.Generic;using System.Linq;using System.Text;using System.Net.Security;using System.Security.Cryptography.X509Certificates;using System.Net;using System.IO;using...
View Article[转]支付宝的性能测试
一、性能测试支付宝场景介绍2013年双11过程当中,促销开启的第一分钟内支付宝的交易总额就突破了一亿元,短时间内大量用户涌入的情况下,如何保证用户的支付顺畅,是对支付宝应用系统的一个极大的挑战。支付宝的性能测试场景分为性能基线测试,项目性能测试。任意一笔交易过来,我们都需要对交易进行风险扫描,对于有可能是账户盗用的交易,我们会把这笔支付直接拒绝掉,或者通过手机校验码等方式进行风险释放。我们有一个老的...
View Article深度调查 iPhone 真的不拼硬件吗?A8 处理器解析
iPhone 不堆硬件?一直以来都有这么一种说法:iPhone 不像 Android 手机那样碓硬件。这句话一层含义是指 Android 手机大都爱拼硬件,多为硬件怪兽,动辄四核、八核处理器,3G 内存,2000w 像素,2k 屏幕;另一层是指 iPhone 常年使用双核处理器,1G 内存,800w 像素,直到在最新的 iPhone 6 plus 上才使用了 1080p...
View Article数据库设计之外键的思考
关于是否使用外键在业界也没有统一的标准,大家争论的焦点是数据一致性和性能上。 支持使用外键方,强调如果不使用外键,数据一致性无法保证,性能消耗可以忽略。 反对使用外键方,数据一致性可以通过程序保证,性能有大问题,数据维护很麻烦,如果是大系统,整个外键的关系就像编制的一张大网。再者开发人员很难真正用好外键。...
View Article