Hadoop实战-初级部分之 Hadoop安装部署 - hadoop的笔记 - 记笔记 - 私塾在线

<configuration>     
<property>  
       <name>fs.default.name</name>  
       <value>hdfs://localhost:9000</value>  
</property>  
<property>
       <name>hadoop.tmp.dir</name>
        <value>/hadoop</value>
     </property>
</configuration>

hdfs-site.xml

java代码：

<configuration>     
   <property>  
         <name>dfs.replication</name>  
         <value>1</value>  
    </property>  
</configuration>

mapred-site.xml

java代码：

<configuration>     
    <property>  
         <name>mapred.job.tracker</name>  
         <value>localhost:9001</value>  
    </property>  
</configuration>

启动 Hadoop

1.格式化文件系统

hadoop namenode –format

2. 启动hadoop

启动所有任务start-all.sh/stop-all.sh

启动关闭HDFS: start-dfs.sh/stop-dfs.sh

启动关闭MapReduce: start-mapred.sh/stop-mapred.sh

3. 用jps命令查看进程,确保有 namenode,dataNode,JobTracker,TaskTracker

第二部分：Hadoop 在linux 上单节点伪分布式的安装过程

安装 JDK

$chmod +x jdk-6u27-linux-i586.bin

$./jdk-6u27-linux-i586.bin

安装完后设置java 环境变量如下

命令：/home路径下

$vi .bashrc

然后添加如下语句

export JAVA_HOME=/home/test/ jdk1.6.0_27

export PATH =/bin:$JAVA_HOME/bin:/usr/bin:$PATH:.

然后. .bashrc使其生效

ssh 的安装和配置

$实现ssh无密码登陆

$sudo apt-get install ssh

$ssh-keygen

直接回车，完成后会在~/.ssh/生成两个文件：id_dsa 和id_dsa.pub。这两个是成对

出现，类似钥匙和锁。再把id_dsa.pub 追加到授权key 里面(当前并没有authorized_keys
$cat~/.ssh/id_rsa.pub>>~/.ssh/authorized_keys完成后可以实现无密码登录本机

Hadoop 安装

1.下载Hadoop

http://labs.mop.com/apache-mirror/hadoop/common/hadoop-1.0.0/

2.解压Hadoop

tar xzvf hadoop-0.21.0.tar.gz

3. 添加Hadoop Bin到环境变量中

修改 hadoop-env.sh

配置JDK即可

export JAVA_HOME=/cygdrive/d/java/jdk1.6.0_25

conf/core-site.xml

java代码：

<configuration>     
	<property>  
          <name>fs.default.name</name>  
          <value>hdfs://localhost:9000</value>  
      </property>  
      <property>
           <name>hadoop.tmp.dir</name>
           <value>/hadoop</value>
       </property>
</configuration>

conf/hdfs-site.xml

java代码：

<configuration>     
   <property>  
         <name>dfs.replication</name>  
         <value>1</value>  
    </property>  
</configuration>

conf/mapred-site.xml

java代码：

<configuration>     
     <property>  
         <name>mapred.job.tracker</name>  
         <value>localhost:9001</value>  
    </property>  
</configuration>

启动 Hadoop

1.格式化文件系统

hadoop namenode –format

2. 启动hadoop

启动关闭所有服务 start-all.sh/stop-all.sh

启动关闭HDFS: start-dfs.sh/stop-dfs.sh

启动关闭MapReduce: start-mapred.sh/stop-mapred.sh

3. 用jps命令查看进程,确保有 namenode,dataNode,JobTracker,TaskTracker

第三部分：Hadoop UI 介绍

Hadoop 重要的端口

1.Job Tracker 管理界面：50030

2.HDFS 管理界面：50070

3.HDFS通信端口：9000

4.MapReduce通信端口：9001

常用访问页面

1. HDFS 界面

http://hostname:50070

2. MapReduce 管理界面

http://hostname:50030

第四部分：运行Word Count 示例

相关步骤及命令

1.先在本地磁盘上建立两个文件file1和file2

$ echo ”Hello world Bye world" > >~/input/file1

$ echo ”hello hadoop bye hadoop” > >~/input/file2

2.在HDFS上建立一个input目录

$ hadoop fs -mkdir /tmp/input

3.将file1和file2拷贝到hdfs的input目录下

$ hadoop fs -put input/* /tmp/input

4.检查hdfs上有没有file1,file2

$ hadoop fs -ls /tmp/input

5.执行wordcount

hadoop jar hadoop-examples-1.0.0.jar wordcount /tmp/input /tmp/output

6.运行完成，查看结果

hadoop fs -cat /output/part-r-00000

第五部分：集成 Eclipse 开发环境

通过 Eclipse 编写 Hadoop 程序

1.导入hadoop-core.jar及hadoop/lib下所有Jar包

2.加入Hadoop配置文件，包括conf/core-site.xml、conf/hdfs-site.xml、conf/mapred-site.xml,并修改相应参数。

本节课程小结

掌握了在Windows ,Linux(ubuntu)上安装Hadoop 单节点伪分布式安装

初次体验了Hadoop运行的WordCounter程序

了解了Hadoop UI

掌握了Hadoop 集成到 Eclipse的情况

私塾在线学习网原创内容，转载请注明出处【 http://sishuok.com/forum/blogPost/list/0/5337.html】

该帖子包含附件，回复帖子后即可下载附件。

精品视频课程推荐

Hadoop实战-初级部分视频教程
Hadoop初级精品课程，帮助学员快速掌握Hadoop入门到上手开发，并掌握一定的开发技巧。通过Hadoop初级课程，学员可以掌握基本的Hadoop 原理，Hadoop环境搭建，Hadoop Shell，Hadoop HDFS基本操作和编程，Hadoop Mapreduce编程。

研磨设计模式——跟着cc学设计系列视频教程
本视频课程是北京Java私塾原创精品书籍《研磨设计模式》一书的配套学习视频，由《研磨设计模式》的第一作者CC录制课程目标：全面、系统的掌握GoF设计模式的知识，达到可以在实际项目开发中运用的能力技术要点：如何实现可配置、如何实现缓存以及缓存的管理、如何实现用缓存来控制多实例的创建、如何实现参数化工厂、如何实现可扩展工厂、如何实现原型管理器、如何实现Java的静态代理和动态代理、如何实现多线程处理队列请求、如何实现命令的参数化配置、可撤销的操作、宏命令、队列请求和日志请求、如何实现翻页迭代、如何检测环状结构、如何实现通用的增删改查、如何模拟工作流来处理流程、如何实现简单又通用的XML读取、如何实现模拟AOP的功能......

Oracle性能优化视频教程
深入浅出地学习Oralce优化的原理与技巧，内容权威全面、细致深入、重点突出，剖析提高挈领，示例丰富充盈，实例和理论完美结合。1：百万级数据量示例；系统高可靠性、高健壮性原理及策略；热表操作；完整性策略；数据库死锁如何解决； 2：索引表空间如何推算规划；b-tree索引的存储结构、索引扫描方式；Oracle执行计划的如何阅读、推荐的索引使用策略； 3：CBO模型；自动化表分析任务、能大幅提高索引性能的原子级表基础约束策略、表分析原理、表间关系和模式； 4：逻辑存储结构、物理存储结构、内存结构、进程结构；ASM存储、逻辑存储结构单元；Oracle实例结构之检查点及实例恢复

深入浅出学Zookeeper
内容概述：本课程深入浅出的讲解Hadoop 体系下的分布式协调组件－Zookeeper,向大家介绍了Zookeeper的原理与使用，深入浅出，结合生动实例，具有很高的实战意味技术要点：Zookeepr 原理，Zookeeper 架构，Zookeeper 简单使用，Zookeeper Watch等

深入浅出学Spring Web MVC视频教程
系统、完整的学习Spring Web MVC开发的知识。包括：Spring Web MVC入门；理解DispatcherServlet；注解式控制器开发详解；数据类型转换；数据格式化；数据验证；拦截器；对Ajax的支持；文件上传下载；表单标签等内容；最后以一个综合的CRUD带翻页的应用示例来综合所学的知识

浏览(140794)|评论(151) 交流分类：Java|笔记分类: Hadoop实战-初……

评论(151)

151楼 rayqueen 2017-08-29 引用

xiexie

150楼 13763062259 2017-08-29 引用

感谢分享

149楼 xinren1224 2017-08-29 引用

谢谢

148楼 ydayyx 2017-08-29 引用

学习，谢谢

147楼 xiaohu0422 2017-03-19 引用

刚开始看很蒙,现在好些了感谢分享

146楼度 2017-03-19 引用

下载，谢谢

145楼 wwqz123 2017-03-19 引用

下载学习

144楼 shenjb 2017-03-19 引用

不赖

143楼漂流船 2016-09-29 引用

下载，谢谢

142楼 LOSTMANER 2016-09-29 引用

学习

141楼 hukunfeiguochao 2016-08-19 引用

下载学习学习。。。多谢

140楼 qqpuyu 2016-08-19 引用

感谢楼主分享

139楼 1519623220 2016-08-19 引用

buc

138楼刷儿 2016-08-19 引用

谢谢分享

137楼 haobc 2016-08-19 引用

很好！赞一个！！！

136楼动感闪客 2016-05-16 引用

好帖，顶顶顶！

135楼 neterghost 2016-05-16 引用

学习一下`

134楼 wenmu 2016-04-11 引用

谢谢。学习中

133楼向上倾斜45` 2016-04-11 引用

谢谢分享

1 2 3 4 5 6 7 8 ► Go

前往页面...

请登录后评论登录