本篇博客来认识一下linux下程序地址空间的概念

演示所用系统：CentOS 7.6


文章目录

  • 1.引入程序地址空间
  • 1.1 验证不同区域
  • 1.2 fork感知地址空间的存在
  • 2.简述程序地址空间
  • 2.1 程序地址空间和代码编译
  • 2.2 写时拷贝
  • 2.2.1 fork两个返回值的解释
  • 3.程序地址空间的作用
  • 4.页表
  • 4.1 分页存储
  • 4.2 加载
  • 结语


1.引入程序地址空间

之前学习C/C++的时候，多少应该都听过栈区/堆区/静态区/全局区的概念，还有一张很经典的演示图，大部分讲解这几个内存区域的图片都和下图类似

【Linux】进程地址空间 | 页表_页表

但是有一个问题，这里的程序地址空间，是我们的物理内存上的东西吗？

并不是！

  • 程序/进程地址空间是操作系统上的概念，它和我们物理内存本身不是一个东西

1.1 验证不同区域

用下面这个代码来简单验证一下不同区域上的区别

#include<stdio.h>
#include<stdlib.h>

int un_global_val;//未初始化全局变量
int global_val=100;//已初始化全局变量
//main函数的参数
int main(int argc, char *argv[], char *env[])
{
    printf("code addr         : %p\n", main);
    printf("init global addr  : %p\n", &global_val);
    printf("uninit global addr: %p\n", &un_global_val);
    char *m1 = (char*)malloc(100);
    char *m2 = (char*)malloc(100);
    char *m3 = (char*)malloc(100);
    char *m4 = (char*)malloc(100);
    int a = 100;
    static int s = 100;
    printf("heap addr         : %p\n", m1);
    printf("heap addr         : %p\n", m2);
    printf("heap addr         : %p\n", m3);
    printf("heap addr         : %p\n", m4);

    printf("stack addr        : %p\n", &m1);
    printf("stack addr        : %p\n", &m2);
    printf("stack addr        : %p\n", &m3);
    printf("stack addr        : %p\n", &m4);
    printf("stack addr a      : %p\n", &a);
    printf("stack addr s      : %p\n", &s);
    printf("\n");
    for(int i = 0; i < argc; i++)
    {
        printf("argv addr         : %p\n", argv[i]);
    }
    printf("\n");
    for(int i =0 ; env[i];i++)
    {
        printf("env addr          : %p\n", env[i]);
    }
    return 0;
}

【Linux】进程地址空间 | 页表_linux_02

通过上面的测试，可以看到其结果和文章最开始的那张图相同。这里解释一下向上/向下的含义

  • 向上增长：向地址增大的方向增长
  • 向下增长：向地址减小的方向增长

不过那个图片内部还少了一些东西，比如命令行参数和环境变量其实是存放在栈区之上的。补全之后的图片如下

【Linux】进程地址空间 | 页表_页表_03

其中我们还可以发现，栈区和堆区之间有非常大的内存空隙

heap addr         : 0x1a140f0
heap addr         : 0x1a14160
stack addr        : 0x7ffe6671ec60
stack addr        : 0x7ffe6671ec58

因为在C/C++中定义的变量都是在栈上保存的，栈向下增长，先定义的变量地址较高！

int a = 100;
    static int s = 100;

关于函数中static修饰的变量，可以看到其地址空间属于全局静态区。虽然在函数中用static修饰是限制其只能在该函数内访问，但是该变量的声明周期是跟随整个程序的！

stack addr a      : 0x7ffe6671ec44
stack addr s      : 0x601048

说了这么多，我们也没看看出来程序地址空间在哪儿啊？

1.2 fork感知地址空间的存在

下面可以用一个简单的fork代码来确认程序地址空间的存在！

#include <stdio.h>
#include <unistd.h>
#include <stdlib.h>
#include <sys/types.h>

int main()
{
    int test = 10;
    int ret = fork();
    if(ret == 0)
    {
        while(1)
        {
            printf("我是子进程%d,ppid:%d,test:%d,&test: %p\n\n",getpid(),getppid(),test,&test);
            sleep(1);
        }
    }
    else
    {    
        while(1)
        {
            printf("我是父进程%d,ppid:%d,test:%d,&test: %p\n\n",getpid(),getppid(),test,&test);
            sleep(1);
        }
    }       
    return 0;
}

依旧是最简单的一个fork代码，正常情况下，二者打印的结果应该是一样的！

【Linux】进程地址空间 | 页表_地址空间_04

可如果我们在子进程中修改一下test呢？

【Linux】进程地址空间 | 页表_服务器_05

这时候就会发现一个离谱的现象：子进程和父进程打印的test值不一样，但是其地址却完全相同！

如果我们在C/C++中使用的地址就是物理地址，是不可能出现这种情况的！怎么可能在物理内存的同一个地址访问出两个不同的结果呢？

就好比张三和李四在同一天的同一时间去了AA路30号这个地址，不可能会出现张三去了发现是超市，而李四去了发现是医院的情况

这便告诉我们了程序地址空间的存在，亦或者说，我们在编程中使用的地址都是虚拟地址

2.简述程序地址空间

每一个进程在启动的时候，都会让操作系统给其分配一个地址空间，这就是进程地址空间

  • 以先描述再组织的理念，进程地址空间其实是操作系统内核的一个数据结构struct mm_struct
  • 之前提到过进程具有独立性，在多进程运行的时候，需要独享各种资源。而进程地址空间的作用，就是让进程认为自己是独占操作系统中的所有资源！

这个操作，其实就是操作系统给该进进程画了一个假的内存（虚拟地址）进程需要内存的时候，操作系统就会在页表里面画一个地址给他，再将该地址映射到物理内存上面

问题：一个分页存储管理系统中，地址长度为 32 位，其中页号占 8 位，则页表长度是？

解析：页号即页表项的序号，总共占8个二进制位，意味着页表项的个数就是2^8

【Linux】进程地址空间 | 页表_页表_06

而当进程需要申请内存的时候，本质就是操作系统在mm_strcut中修改不同区域的end罢了！

在Linux源码中可以看到这玩意的存在，其中的struct vm_area_struct * mmap;就是一个我们的虚拟地址管理的内核

【Linux】进程地址空间 | 页表_服务器_07

这里就能看到虚拟地址空间的start和end了！

【Linux】进程地址空间 | 页表_服务器_08

2.1 程序地址空间和代码编译

程序地址空间不仅是操作系统需要考虑，我们用的编译器也会考虑这部分的内容

我们知道，C语言代码需要经过预处理-编译-链接-汇编这几个步骤

  • 程序编译出来，没有被加载的时候，程序内部有地址（如果没有地址，无法进行链接）
  • 程序编译出来，没有被加载的时候，程序内部有区域（readelf -s 可执行文件可以查看区域）
[muxue@bt-7274:~/git/raspi/code/22-10-07_程序地址空间]$ readelf -S test
There are 30 section headers, starting at offset 0x19f8:

Section Headers:
  [Nr] Name              Type             Address           Offset
       Size              EntSize          Flags  Link  Info  Align
  [ 0]                   NULL             0000000000000000  00000000
       0000000000000000  0000000000000000           0     0     0
  [ 1] .interp           PROGBITS         0000000000400238  00000238
       000000000000001c  0000000000000000   A       0     0     1
  [ 2] .note.ABI-tag     NOTE             0000000000400254  00000254
       0000000000000020  0000000000000000   A       0     0     4
  [ 3] .note.gnu.build-i NOTE             0000000000400274  00000274
       0000000000000024  0000000000000000   A       0     0     4
  [ 4] .gnu.hash         GNU_HASH         0000000000400298  00000298
       000000000000001c  0000000000000000   A       5     0     8
  [ 5] .dynsym           DYNSYM           00000000004002b8  000002b8
       00000000000000c0  0000000000000018   A       6     1     8
  [ 6] .dynstr           STRTAB           0000000000400378  00000378
       0000000000000059  0000000000000000   A       0     0     1
  [ 7] .gnu.version      VERSYM           00000000004003d2  000003d2
       0000000000000010  0000000000000002   A       5     0     2
  [ 8] .gnu.version_r    VERNEED          00000000004003e8  000003e8
       0000000000000020  0000000000000000   A       6     1     8
  [ 9] .rela.dyn         RELA             0000000000400408  00000408
       0000000000000018  0000000000000018   A       5     0     8
  [10] .rela.plt         RELA             0000000000400420  00000420
       00000000000000a8  0000000000000018  AI       5    23     8
  [11] .init             PROGBITS         00000000004004c8  000004c8
       000000000000001a  0000000000000000  AX       0     0     4
  [12] .plt              PROGBITS         00000000004004f0  000004f0
       0000000000000080  0000000000000010  AX       0     0     16
  [13] .text             PROGBITS         0000000000400570  00000570
       00000000000001e2  0000000000000000  AX       0     0     16
  [14] .fini             PROGBITS         0000000000400754  00000754
       0000000000000009  0000000000000000  AX       0     0     4
  [15] .rodata           PROGBITS         0000000000400760  00000760
       000000000000005e  0000000000000000   A       0     0     8
  [16] .eh_frame_hdr     PROGBITS         00000000004007c0  000007c0
       0000000000000034  0000000000000000   A       0     0     4
  [17] .eh_frame         PROGBITS         00000000004007f8  000007f8
       00000000000000f4  0000000000000000   A       0     0     8
  [18] .init_array       INIT_ARRAY       0000000000600e10  00000e10
       0000000000000008  0000000000000008  WA       0     0     8
  [19] .fini_array       FINI_ARRAY       0000000000600e18  00000e18
       0000000000000008  0000000000000008  WA       0     0     8
  [20] .jcr              PROGBITS         0000000000600e20  00000e20
       0000000000000008  0000000000000000  WA       0     0     8
  [21] .dynamic          DYNAMIC          0000000000600e28  00000e28
       00000000000001d0  0000000000000010  WA       6     0     8
  [22] .got              PROGBITS         0000000000600ff8  00000ff8
       0000000000000008  0000000000000008  WA       0     0     8
  [23] .got.plt          PROGBITS         0000000000601000  00001000
       0000000000000050  0000000000000008  WA       0     0     8
  [24] .data             PROGBITS         0000000000601050  00001050
       0000000000000004  0000000000000000  WA       0     0     1
  [25] .bss              NOBITS           0000000000601054  00001054
       0000000000000004  0000000000000000  WA       0     0     1
  [26] .comment          PROGBITS         0000000000000000  00001054
       000000000000002d  0000000000000001  MS       0     0     1
  [27] .symtab           SYMTAB           0000000000000000  00001088
       0000000000000648  0000000000000018          28    46     8
  [28] .strtab           STRTAB           0000000000000000  000016d0
       000000000000021e  0000000000000000           0     0     1
  [29] .shstrtab         STRTAB           0000000000000000  000018ee
       0000000000000108  0000000000000000           0     0     1
Key to Flags:
  W (write), A (alloc), X (execute), M (merge), S (strings), I (info),
  L (link order), O (extra OS processing required), G (group), T (TLS),
  C (compressed), x (unknown), o (OS specific), E (exclude),
  l (large), p (processor specific)

需要注意的是，程序内部的地址，和内存的地址没有关系

可以理解为，我们程序内部都存放的是一个相对地址。编译程序的时候，认为程序是按照0000~FFFF进行编址的。

当程序被加载到内存当中时，假设系统将该程序的代码从内存0x100开始加载，就可以依照程序编址的数据加上这个偏移量，从而存放在内存中。

比如程序中有一个代码段的位置是0x1F，这时候在加载程序的时候，就会把这个代码段加上偏移量来加载

代码地址

虚拟地址

0x1f

0x11f

0x20

0x120

大概就是这样，吧哩吧啦……

2.2 写时拷贝

现在就可以来解答一下1.2中出现的问题了

【Linux】进程地址空间 | 页表_服务器_09

当子进程尝试修改test变量的时候，操作系统就会开始一个写时拷贝，开辟一个新的空间，将对应的值考入该空间，再重新映射页表。

这时候，虽然页表左侧的虚拟地址没有变化，但是映射的物理地址已经不一样了！

【Linux】进程地址空间 | 页表_运维_10

这样就能保证父子进程的独立性，谁修改变量都互不影响！

类似C++中实现的深拷贝！

2.2.1 fork两个返回值的解释

pid_t id这个变量属于父进程栈空间中定义的变量，但是fork内部，return会被执行两次（return的本质是通过寄存器将返回值写入到接收返回值的变量中）

当id = fork()的时候，谁先返回，谁就会发生一次写时拷贝。所以同一个变量有不同的内容值，本质上也是同一个虚拟地址，对应了不同物理地址的体现！

  • 打印fork的返回值，即可观察到和1.2中一样的情况，虚拟地址相同，但是ret的值不同

【Linux】进程地址空间 | 页表_linux_11

3.程序地址空间的作用

需要注意的是，内存作为一个硬件，没有办法拒绝你的读写！内存是不带控制功能的！

直接让用户修改物理内存风险极大：

  • 野指针问题
  • 用户可能直接修改操作系统需要用到的内存地址，导致系统boom

程序地址空间让访问内存时添加了一层软硬件层，可以对转化过程进行审核，拦截非法的访问

比如操作系统检测到进程在往虚拟地址的常量区读取数据的时候，不做阻拦；但是往常量区写入数据的时候，会进行拦截。这才是无法修改常量数据的真正原理

  • 保护内存
  • 可以使用进程管理更好的对功能模块进行解耦（linux内存管理）
  • 让程序/进程可以用统一的方式/视角来看待内存，以统一的方式编译加载所有可执行程序，简化程序本身的设计和实现

同时，程序地址空间还可以延迟用户的内存使用。比如我们现在malloc了100个字节的空间，实际上操作系统并不会立马给你申请空间，而是操作你的mm_struct让进程以为自己已经申请成功了。当程序真正使用这个空间的时候，操作系统才会去物理内存中进行映射！

申请的时候，是通过linux的内存管理模块进行操作的。同时，写时拷贝也是通过操作系统的内存管理模块来完成的！

这种“延迟访问”，可以避免某些程序申请了内存而在一段时间内没有使用的问题！避免了内存资源的无效占用（也是一种浪费）

4.页表

前面只是对页表做了一个基本的解释，但页表并不单纯进行虚拟地址和物理地址的映射，其还会增添权限，是否命中的判断，以及U/K权限的标识

【Linux】进程地址空间 | 页表_运维_12

  • 权限：避免你修改const属性的数据
  • 是否命中：如果对于物理内存处没有数据，则没有命中；需要从硬盘中加载数据到内存中，将是否命中更改为是
  • U/K权限：用户级和内核级的差别，参考 linux信号 5.1中关于用户态和内核态的描述；避免用户态的进程执行内核态的源码

前面提到，每一个进程都有一个独立的程序地址空间。要是页表只有一张的话，会发生什么事呢？

以32位系统为例：

  • 内存一共有2^32次方个字节，也就是4Gb
  • 假设页表每一个字节的条目需要8个字节的空间，那就需要32G的空间来存放页表！
  • 页表肯定不能存在硬盘里面，但这么大的空间一般电脑的内存可放不下
  • 这也就告诉我们，页表并不是只有一张！

页表实际上是有多张的👌

4.1 分页存储

当cpu访问进程地址空间的时候，其访问的其实是虚拟地址

32位环境下，为了保证地址能覆盖到所有位置，每一个地址都有32个比特位；当MMU拿到虚拟地址的时候，其实会将虚拟地址拆分

10     +    10     +    12
01010101 00 01000111 11 00001011 1001
xxxxxxxx xx yyyyyyyy yy zzzzzzzz zzzz
  • 这里面的前10位会用于在页目录中，用于查找二级页表
  • 中间10位会在二级页表中查找页，指向的是页在物理内存中的起始地址
  • 最后的12字节，一共是2^12=4kb，可以覆盖单个页的大小，是单个页中的偏移量

这里又涉及到了一个知识点，那便是Linux下IO的基本单位是4kb

有了这两级的页表后，第一级页表只需要2^10个条目，第二级页表有多个，每一个也是2^10个条目，最后再指向4kb的页

linux下有专门的结构体来描述单个页，和其他系统一样，有了对单个页的描述后，我们就可以用一个数组将页给管理起来。此时对内存的管理，就转换成了对数组的增删查改

struct page
{};

页表实现了分离之后，就可以按需创建，不会出现一次性创建一个非常大的页表，导致内存空间都被占满的情况！

最初的算法其实是有问题的，因为页表的映射并不需要对每一个字节进行映射。只需要映射到4kb即可，总共的条目是2^32 / 2^12 = 2^20个，所占用空间也没那么大了

4.2 加载

如果在寻址的时候，发现二级页表中所对应的page是NULL，那么代表该代码的数据没有被加载到内存中

此时就可以从硬盘中加载，并把page的首地址给映射进二级页表中

【Linux】进程地址空间 | 页表_linux_13

结语

关于这部分的理解其实并不算十分透彻，或许在日后的项目实践中能加深理解呢~