文章目录
- 1，cut
- 2，Sed
- 3，awk
- 4，sort
1，cut
cut的工作就是“剪”，具体的说就是在文件中负责剪切数据用的。cut 命令从文件的每一行剪切字节、字符和字段并将这些字节、字符和字段输出。
1.基本用法
cut [选项参数] filename
说明：默认分隔符是制表符
2.选项参数说明
选项参数 | 功能 |
-f | 列号，提取第几列 |
-d | 分隔符，按照指定分隔符分割列 |
3.案例实操
（0）数据准备
[root@Bigdata shell]$ touch cut.txt
[root@Bigdata shell]$ vim cut.txt
dong shen
guan zhen
wo wo
lai lai
le le（1）切割cut.txt第一列
[root@Bigdata shell]$ cut -d " " -f 1 cut.txt
dong
guan
wo
lai
le（2）切割cut.txt第二、三列
[root@Bigdata shell]$ cut -d " " -f 2,3 cut.txt
shen
zhen
wo
lai
le（3）在cut.txt文件中切割出guan
[root@Bigdata shell]$ cat cut.txt | grep "guan" | cut -d " " -f 1
guan（4）选取系统PATH变量值，第2个“：”开始后的所有路径：
[root@Bigdata shell]$ echo $PATH
/usr/lib64/qt-3.3/bin:/usr/local/bin:/bin:/usr/bin:/usr/local/sbin:/usr/sbin:/sbin:/home/atguigu/bin
[root@Bigdata shell]$ echo $PATH | cut -d: -f 2-
/usr/local/bin:/bin:/usr/bin:/usr/local/sbin:/usr/sbin:/sbin:/home/atguigu/bin（5）切割ifconfig 后打印的IP地址
[root@Bigdata shell]# ifconfig
eth0 Link encap:Ethernet HWaddr 00:0C:29:CE:CF:A1
inet addr:192.168.168.30 Bcast:192.168.168.255 Mask:255.255.255.0
inet6 addr: fe80::20c:29ff:fece:cfa1/64 Scope:Link
UP BROADCAST RUNNING MULTICAST MTU:1500 Metric:1
RX packets:152647 errors:0 dropped:0 overruns:0 frame:0
TX packets:23840 errors:0 dropped:0 overruns:0 carrier:0
collisions:0 txqueuelen:1000
RX bytes:10337032 (9.8 MiB) TX bytes:5798986 (5.5 MiB)
lo Link encap:Local Loopback
inet addr:127.0.0.1 Mask:255.0.0.0
inet6 addr: ::1/128 Scope:Host
UP LOOPBACK RUNNING MTU:16436 Metric:1
RX packets:313326 errors:0 dropped:0 overruns:0 frame:0
TX packets:313326 errors:0 dropped:0 overruns:0 carrier:0
collisions:0 txqueuelen:0
RX bytes:19772696 (18.8 MiB) TX bytes:19772696 (18.8 MiB)
[root@Bigdata shell]# ifconfig eth0
eth0 Link encap:Ethernet HWaddr 00:0C:29:CE:CF:A1
inet addr:192.168.168.30 Bcast:192.168.168.255 Mask:255.255.255.0
inet6 addr: fe80::20c:29ff:fece:cfa1/64 Scope:Link
UP BROADCAST RUNNING MULTICAST MTU:1500 Metric:1
RX packets:152709 errors:0 dropped:0 overruns:0 frame:0
TX packets:23879 errors:0 dropped:0 overruns:0 carrier:0
collisions:0 txqueuelen:1000
RX bytes:10342162 (9.8 MiB) TX bytes:5803960 (5.5 MiB)
[root@Bigdata shell]# ifconfig eth0 | grep "inet addr"
inet addr:192.168.168.30 Bcast:192.168.168.255 Mask:255.255.255.0
[root@Bigdata shell]# ifconfig eth0 | grep "inet addr" | cut -d : -f 2
192.168.168.30 Bcast
[root@Bigdata shell]# ifconfig eth0 | grep "inet addr" | cut -d : -f 2 | cut -d " " -f 1
192.168.168.30
[root@Bigdata2，Sed
sed是一种流编辑器，它一次处理一行内容。处理时，把当前处理的行存储在临时缓冲区中，称为“模式空间”，接着用sed命令处理缓冲区中的内容，处理完成后，把缓冲区的内容送往屏幕。接着处理下一行，这样不断重复，直到文件末尾。文件内容并没有改变，除非你使用重定向存储输出。
1.基本用法
sed [选项参数] ‘command’ filename
2.选项参数说明
选项参数 | 功能 |
-e | 直接在指令列模式上进行sed的动作编辑。 |
3.命令功能描述
命令 | 功能描述 |
a | 新增，a的后面可以接字串，在下一行出现 |
d | 删除 |
s | 查找并替换 |
4.案例实操
（0）数据准备
[root@Bigdata shell]$ touch sed.txt
[root@Bigdata shell]$ vim sed.txt
dong shen
guan zhen
wo wo
lai lai
le le（1）将“mei nv”这个单词插入到sed.txt第二行下，打印。
[root@Bigdata shell]$ sed -e '2a mei nv' sed.txt
dong shen
guan zhen
mei nv
wo wo
lai lai
le le
[root@Bigdata shell]$ cat sed.txt
dong shen
guan zhen
wo wo
lai lai
le le注意：文件并没有改变
（2）删除sed.txt文件所有包含wo的行
[root@Bigdata shell]$ sed -e '/wo/d' sed.txt
dong shen
guan zhen
lai lai
le le（3）将sed.txt文件中wo替换为ni
//固定格式's/wo/ni/g'
[root@Bigdata shell]$ sed -e 's/wo/ni/g' sed.txt
dong shen
guan zhen
ni ni
lai lai
le le注意：‘g’表示global，全部替换
（4）将sed.txt文件中的第二行删除并将wo替换为ni
[root@Bigdata shell]$ sed -e '2d' -e 's/wo/ni/g' sed.txt
dong shen
ni ni
lai lai
le le3，awk
一个强大的文本分析工具，把文件逐行的读入，以空格为默认分隔符将每行切片，切开的部分再进行分析处理。
1.基本用法
awk [选项参数] ‘pattern1{action1} pattern2{action2}…’ filename
pattern：表示AWK在数据中查找的内容，就是匹配模式
action：在找到匹配内容时所执行的一系列命令
2.选项参数说明
选项参数 | 功能 |
-F | 指定输入文件折分隔符 |
-v | 赋值一个用户定义变量 |
3.案例实操
（0）数据准备
[root@Bigdata shell]$ sudo cp /etc/passwd ./（1）搜索passwd文件以root关键字开头的所有行，并输出该行的第7列。
[root@Bigdata shell]$ awk -F: '/^root/{print $7}' passwd
/bin/bash（2）搜索passwd文件以root关键字开头的所有行，并输出该行的第1列和第7列，中间以“，”号分割。
[root@Bigdata shell]$ awk -F: '/^root/{print $1","$7}' passwd
root,/bin/bash注意：只有匹配了pattern的行才会执行action
（3）只显示/etc/passwd的第一列和第七列，以逗号分割，且在所有行前面添加列名user，shell在最后一行添加"huanhuan，/ aihaoge"。
[root@Bigdata shell]$ awk -F : 'BEGIN{print "user, shell"} {print $1","$7} END{print "huanhuan，/ aihaoge"}' passwd
user, shell
root,/bin/bash
bin,/sbin/nologin
。。。
huanhuan，/ aihaoge注意：BEGIN 在所有数据读取行之前执行；END 在所有数据执行之后执行。
（4）将passwd文件中的用户id增加数值1并输出
[root@Bigdata shell]$ awk -v i=1 -F: '{print $3+i}' passwd
1
2
3
44.awk的内置变量
变量 | 说明 |
FILENAME | 文件名 |
NR | 已读的记录数 |
NF | 浏览记录的域的个数（切割后，列的个数） |
5.案例实操
（1）统计passwd文件名，每行的行号，每行的列数
[root@Bigdata shell]$ awk -F: '{print "filename:" FILENAME ", linenumber:" NR ",columns:" NF}' passwd
filename:passwd, linenumber:1,columns:7
filename:passwd, linenumber:2,columns:7
filename:passwd, linenumber:3,columns:7（2）切割IP
[root@Bigdata ~]# ifconfig
eth0 Link encap:Ethernet HWaddr 00:0C:29:CE:CF:A1
inet addr:192.168.168.30 Bcast:192.168.168.255 Mask:255.255.255.0
inet6 addr: fe80::20c:29ff:fece:cfa1/64 Scope:Link
UP BROADCAST RUNNING MULTICAST MTU:1500 Metric:1
RX packets:160426 errors:0 dropped:0 overruns:0 frame:0
TX packets:25668 errors:0 dropped:0 overruns:0 carrier:0
collisions:0 txqueuelen:1000
RX bytes:10876706 (10.3 MiB) TX bytes:5964024 (5.6 MiB)
lo Link encap:Local Loopback
inet addr:127.0.0.1 Mask:255.0.0.0
inet6 addr: ::1/128 Scope:Host
UP LOOPBACK RUNNING MTU:16436 Metric:1
RX packets:337429 errors:0 dropped:0 overruns:0 frame:0
TX packets:337429 errors:0 dropped:0 overruns:0 carrier:0
collisions:0 txqueuelen:0
RX bytes:21311626 (20.3 MiB) TX bytes:21311626 (20.3 MiB)
[root@Bigdata ~]# ifconfig eth0
eth0 Link encap:Ethernet HWaddr 00:0C:29:CE:CF:A1
inet addr:192.168.168.30 Bcast:192.168.168.255 Mask:255.255.255.0
inet6 addr: fe80::20c:29ff:fece:cfa1/64 Scope:Link
UP BROADCAST RUNNING MULTICAST MTU:1500 Metric:1
RX packets:160473 errors:0 dropped:0 overruns:0 frame:0
TX packets:25697 errors:0 dropped:0 overruns:0 carrier:0
collisions:0 txqueuelen:1000
RX bytes:10880538 (10.3 MiB) TX bytes:5968026 (5.6 MiB)
[root@Bigdata ~]# ifconfig eth0 | grep "inet addr"
inet addr:192.168.168.30 Bcast:192.168.168.255 Mask:255.255.255.0
[root@Bigdata ~]# ifconfig eth0 | grep "inet addr"|awk -F : '{print $2}'
192.168.168.30 Bcast
[root@Bigdata ~]# ifconfig eth0 | grep "inet addr"|awk -F : '{print $2}'|awk -F " " '{print $1}'
192.168.168.30（3）查询sed.txt中空行所在的行号
[root@Bigdata shell]$ awk '/^$/{print NR}' sed.txt
54，sort
sort命令是在Linux里非常有用，它将文件进行排序，并将排序结果标准输出。
1.基本语法
sort(选项)(参数)
选项 | 说明 |
-n | 依照数值的大小排序 |
-r | 以相反的顺序来排序 |
-t | 设置排序时所用的分隔字符 |
-k | 指定需要排序的列 |
- 案例实操
（0）数据准备
[root@Bigdata shell]$ touch sort.sh
[root@Bigdata shell]$ vim sort.sh
bb:40:5.4
bd:20:4.2
xz:50:2.3
cls:10:3.5
ss:30:1.6（1）按照“：”分割后的第三列倒序排序。
[root@Bigdata shell]$ sort -t : -nrk 3 sort.sh
bb:40:5.4
bd:20:4.2
cls:10:3.5
xz:50:2.3
ss:30:1.6（2）按照“：”分割后的第二列倒序排序。
[root@Bigdata shell]# sort -t : -nrk 2 sort.sh
xz:50:2.3
bb:40:5.4
ss:30:1.6
bd:20:4.2
cls:10:3.5-END
