`

Fourinone2.0对分布式文件的简化操作

阅读更多
Fourinone2.0里通过FttpAdapter和FileAdapter实现文件io的支持。其中,FttpAdapter提供对远程文件的操作,FileAdapter提供对本地文件的操作,两者api和使用相似,这里主要说明FttpAdapter:

FttpAdapter提供了对分布式文件的便利操作, 将集群中所有机器的硬盘资源利用起来,通过统一的fttp文件路径访问,并且windows和linux都能支持:

操作系统上的任何目录文件都可以通过添加fttp协议头和ip去访问:
fttp://IP或域名/window或linux原有目录文件名
比如访问windows系统的d:/data/a.log文件:
    windows:fttp://192.168.0.1/d:/data/a.log
比如访问linux系统的/home/user/a.log文件:
    linux:fttp:// 192.168.0.1/home/user/a.log

获取远程文件内容变的更简单,比如以这样的方式读取远程文件:
FttpAdapter fa = FttpAdapter("fttp://192.168.0.1/home/log/a.log");
fa.getFttpReader().readAll();
这里读取了192.168.0.1这台linux服务器上的/home/log/a.log文件的所有内容

提供对集群文件的操作支持,包括:
1、元数据访问,添加删除,按块拆分, 高性能并行读写,排他读写(按文件部分内容锁定),随机读写,集群复制等
2、对集群文件的解析支持(包括按行,按分割符,按最后标识读取)
3、对整形数据的高性能读写支持(ArrayInt比ArrayList存的更多更快)
4、两阶段提交和事务补偿处理
5、自带一个集群文件浏览器,可以查看集群所有硬盘上的文件(不同于hadoop的namenode,没有单点问题和容量限制)

总的来说, 将集群看做一个操作系统,像操作本地文件一样操作远程文件。

但是fourinone并不提供一个完整的分布式存储系统,比如文件数据的导入导出、拆分存储、负载均衡,备份容灾等存储功能, fourinone只是让完成这项工作变的简单,让开发人员可以利用这些api方便的设计和实现这些功能,用来满足自己的特定需求。

更多介绍请看使用指南:
一、如何搭建配置FttpAdapter环境
二、如何访问集群文件根目录
三、如何访问和操作远程文件
四、如何进行集群内文件复制和并行复制
五、如何读写远程文件
六、如何解析远程文件
七、如何并行读写远程文件
八、如何批量并行读写远程文件和事务补偿处理

邮箱:Fourinone@yeah.net
企鹅群:241116021
demo源码指南及开发包下载地址:
http://www.skycn.com/soft/68321.html
分享到:
评论
1 楼 helloqiner 2012-05-31  
fourinone 很有前途,希望楼主多写文档,多提供 demo

相关推荐

    Fourinone分布式计算框架

    Fourinone分布式计算框架性能、压力、容灾测试报告

    Fourinone分布式并行计算四合一框架

     Fourinone2.0提供了一个4合1分布式框架和简单易用的编程api,实现对多台计算机cpu,内存,硬盘的统一利用,从而获取到强大计算能力去解决复杂问题。Fourinone框架提供了一系列并行计算模式(农民工/包工头/职介绍/...

    fourinone配置文件

    别的我不懂,今儿聊一下fourinone中的分布式缓存以及分布式文件系统,说到分布式,不得不用到网络通讯,不得不提及RPC,fourinone号称只有100多K,不依赖任何第三方jar,那通讯怎么玩啊!自己用socket或者NIO实现,...

    高级java笔试题-fourinone:四合一分布式计算框架

    于是我将自己对分布式的理解融入到这个框架中,考虑到底层实现技术的相似性,我将Hadoop,Zookeeper,MQ,分布式缓存四大主要的分布式计算功能合为一个框架内,对复杂的分布式计算应用进行了大量简化和归纳。...

    分布式计算的fourinone四合一框架设计

    不同于Hadoop,Fourinone采用工头链式结合工人并行的计算的方法,由于不依赖分布式文件系统,从而简化了分布式计算。 Fourinone把domain看作为mq队列,开发者根据自己的需求可以基于Fourinone自己去扩充这些功能,...

    大数据与云计算培训学习资料 Fourinone实现分布式计算 共3页.pdf

    大数据与云计算培训学习资料 Fourinone实现分布式计算 共3页.pdf

    fourinone-3.04.25

    Fourinone2.0提供了一个4合1分布式框架和简单易用的编程api,实现对多台计算机cpu,内存,硬盘的统一利用,从而获取到强大计算能力去解决复杂问题。Fourinone框架提供了一系列并行计算模式(农民工/包工头/职介绍/...

    Fourinone四合一分布式计算框架整体介绍

    NULL 博文链接:https://fourinone.iteye.com/blog/1163255

    淘宝分布式框架fourinone介绍.pptx

    淘宝分布式框架fourinone介绍.pptx

    五合一数据库开发源代码大全

    对自己拥有的数据库开发源代码进行了整理,源代码包括的数据库开发案例包括以下五种开发模式:ASP+SQL;ASP+ACCESS;VB+ACCESS;VC+SQL;C#+SQL

    fourinone分布式协调设计解析

    NULL 博文链接:https://fourinone.iteye.com/blog/1717603

    学习资料:淘宝分布式并行计算四合一框架Fourinone

    学习资料:淘宝分布式并行计算四合一框架Fourinone 内容:淘宝分布式并行计算四合一框架Fourinone详细介绍;源码分析及使用说明;Fourinone分布式计算框架性能、压力、容灾测试报告;框架压缩包 本示例把分配任务的...

    大型分布式架构设计框架fourinone3.04.25

    本源码包含分布式技术的主要应用,分别介绍分布式并行计算的基本概念、分布式协调、分布式缓存、消息队列、分布式文件系统、分布式作业调度平台等,是构建大型分布式网站架构与设计的重要参照和选择。本压缩包包含...

    fourinone-2.05.28.rar

    淘宝Fourinone2.0提供了一个4合1分布式框架和简单易用的编程API,实现对多台计算机CPU,内存,硬盘的统一利用,从而获取到强大计算能力去解决复杂问题。Fourinone框架提供了一系列并行计算模式(农民工/包工头/职...

    淘宝分布式并行计算四合一框架Fourinone

    淘宝分布式并行计算四合一框架Fourinone 这个是介绍淘宝的分布式应用框架。

    淘宝分布式框架fourinone介绍.pdf

    淘宝分布式框架fourinone介绍.pdf

    Fourinone分布式计算框架性能、压力、容灾测试报告

    Fourinone在去年11月在淘宝内部通过了压测,上亿排序和wordcount等经典指标均优于hadoop,这是一份长达10多页的详细测试报告

    四合一分布式计算框架源代码

    淘宝Fourinone(中文名字“四不像”)是一个四合一分布式计算框架,在写这个框架之前,我对分布式计算进行了长时间的思考,也看了老外写的其他开源框架,当我们把复杂的hadoop当作一门学科学习时,似乎忘记了我们想...

Global site tag (gtag.js) - Google Analytics