shell-mysql
(1)脚本背景:
由于要在Linux上，远程读取mysql的表的数据，然后做一定清洗后，把数据上传至Hadoop集群中，使用Java写吧，感觉太麻烦了，得在Win上开发好，还得打成jar包， 上传到Linux上，如果那里出了问题，还得重复这样，非常不方便，那就用shell写一个吧，也不需要什么jdbc驱动包，只需要在Linux上装个MySQL的 客户端即可，用一行yum命令即可搞定，所以就花了点时间，封装了一个小脚本
(2)功能介绍:
直接在Linux下使用shell脚本远程分页读取MySQL表的数据的一个小脚本，已测过读取600万+的数据 效率与jdbc相差无几
(3)脚本介绍:
主要有三个脚本构成
1，page.sh 这是一主脚本，里面定义了分页的条件，大家看下便知
2，f.sh 一个小包装的脚本吧，里面会用sed去掉表头一些信息
3，port.sh 分页读取数据的执行脚本
(4)如何使用
使用非常简单，需要改下page.sh里面的查询字段，以及分页查询的数量，默认是10000，然后执行sh page.sh databaseName tableName传入数据库名和表名即可
Github项目地址
#第一个参数表名 #第二个参数是start #第三个参数是offset #分页读取数据后，删除第一行表头，并写入一个文件中，文件名与表名一样 sh port.sh $1 $2 $3 | sed '1d' >> tables/$1 #删除无用的html字符 #sed -i 's/<[^>]*>//g;/^$/d' tables/$1 #删除无用的一些特殊符号 #sed -i 's/[a-zA-Z.():;><-]//g' tables/$1
#登陆mysql，负责查询某个表数据总量 MYSQL=`which mysql` count=`$MYSQL -hmysqlhost --default-character-set=utf8 -P3306 -uname -ppwd <<EOF use $1; select count(1) from $2 ; EOF` #得到某一个表的总数量 count=`echo "$count" | sed '1d' ` #定义一个每页读取的最大数量 pageSize=10000 #计算总共的分页数 totalPage=0; #判断总数量，求模是否等于0，等于0，就是相除多少页 temp=` echo "$count%$pageSize" | bc ` if [ 0 -eq $temp ] ;then totalPage=`echo "$count/$pageSize" | bc` else #否则，就是相除后+1，作为总的分页数 totalPage=`echo "$count/$pageSize+1" | bc` fi echo "总数量：$count 每页读取数量：$pageSize 分页数量：$totalPage" #把总页数减一，方便分页处理，因为后面咱的下标从0开始 totalPage=`echo "$totalPage-1" | bc ` #echo "处理后：$totalPage" #for循环遍历总页数 for page in `seq 0 $totalPage` do #计算每页的偏移量 offset=`echo "$page*$pageSize" | bc ` echo "当前处理到第$page页,分页信息： limit $offset $pageSize " ###第一个参数表名 ###第二个参数偏移量 ###第三个参数每页读取数据 #调用f.sh获取数据 sh f.sh $1 $offset $pageSize done #sed -i 's/<[^>]*>//g;/^$/d' tables/$1 #sed -i 's/[a-zA-Z.():;><-]//g' tables/$1
#连接mysql # -h主机地址 -u用户名 -p密码 #下面的语句，是登陆到数据库后，使用某个数据库，然后根据条件查询表 MYSQL=`which mysql` $MYSQL -hmysqlhost --default-character-set=utf8 -P3306 -uname -ppwd <<EOF use db_conform; select concat_ws('#',ifNull(id,''),ifNULL(title,''),ifNULL(replace(replace(replace(content ,'n','' ), 'r' , '' ),'#','' ) ,''),ifNULL(doc_no,'')) from $1 limit $2 , $3 ; EOF #echo $query