erlang虚拟机topology不符导致启动后crash
线上有一台t4的机器,这些机器的cpu topo是经过伪造的,通过top命令可以看到4个核心:
top
Cpu0 : 0.3%us, 0.0%sy, 0.0%ni, 99.0%id, 0.0%wa, 0.0%hi, 0.0%si, 0.7%st
Cpu1 : 0.7%us, 0.3%sy, 0.0%ni, 98.7%id, 0.0%wa, 0.0%hi, 0.0%si, 0.3%st
Cpu2 : 0.3%us, 0.7%sy, 0.0%ni, 78.1%id, 0.0%wa, 0.0%hi, 0.0%si, 20.9%st
Cpu3 : 0.0%us, 0.3%sy, 0.0%ni, 79.2%id, 0.0%wa, 0.0%hi, 0.0%si, 20.5%st
/proc/cpu_info下也是4个核心:
cat /proc/cpuinfo
processor : 0
physical id : 0
core id : 0
cpu cores : 4
processor : 1
physical id : 0
core id : 1
cpu cores : 4
processor : 2
physical id : 0
core id : 2
cpu cores : 4
processor : 3
physical id : 0
core id : 3
cpu cores : 4
但实际机器有24个核心:
cat /sys/devices/**/cpu/online
0-23
在这台机器上编译erlang虚拟机或安装已经打包的虚拟机,全部会报出segment **t的错误,对于这个问题,进行了跟踪。
首先可以确认,erlang虚拟机本身是可以正确编译好的,这给我们提供了gdb跟踪的条件,跟踪发现:
main
|-erts_cpu_info_create
|-erts_cpu_info_update
|-configured = (int) sysconf(_SC_NPROCESSORS_CONF);
| 使用sysconf得到cpu个数,此处得到的是伪造的4
|-cpuinfo->configured = configured;
|-read_topology
|-cpuinfo->topology = malloc(sizeof(erts_cpu_topology_t) * cpuinfo->configured);
| 此处为拓扑信息分配空间,数量为从sysconf处获得的cpu个数
|-cdir = opendir("/sys/devices/**/cpu");
|-do {
struct dirent *cde = readdir(cdir);
if (sscanf(cde->d_name, "cpu%d", &cpu_id) == 1) {
sprintf(fpath, "%s/cpu%d/topology/physical_package_id", cpath, cpu_id);
if (read_file(fpath, buf, sizeof(buf)) <= 0) continue;
读取/sys/devices/**/cpu/cpu#/topology/physical_package_id,注意这将取出配置的4个cpu之外的cpu的物理封包id
sprintf(fpath, "%s/cpu%d/topology/physical_package_id", cpath, cpu_id);
if (read_file(fpath, buf, sizeof(buf)) <= 0) continue;
读取/sys/devices/**/cpu/cpu#/topology/core_id,注意这将取出配置的4个cpu之外的cpu的核心id
ix++;
cpuinfo->topology.node= node_id;
在ix超过4时,该处动作将越界访问cpuinfo->topology分配的内存,引发segment fault
}
} while (got_nodes);
自此,已经得到了问题的原因,t4机器伪造的cpu拓扑信息并不完全,erlang虚拟机在启动的时候会额外检查/sys/devices/**/cpu下
具体的cpu信息,这些信息与通过sysconf得到的信息不符,进而引发了越界的访存。
这个问题的fix方案有几种,举例如下:
1.修改erlang代码,将configured赋予一个足够大的值,避免访存越界,然后通过启动时加入参数或设置环境变量sct强制控制cpu拓扑,
如:export ERL_FLAGS="+sct L0-3c0-3";
2.修改erlang代码,在循环读取真实拓扑信息时,忽略超过configured数量的cpu的信息,同样,启动时加入参数或设置环境变量sct;
3.令额外的cpu信息对erlang虚拟机不可见。
这个坑比较容易误导,今后应避免。
top
Cpu0 : 0.3%us, 0.0%sy, 0.0%ni, 99.0%id, 0.0%wa, 0.0%hi, 0.0%si, 0.7%st
Cpu1 : 0.7%us, 0.3%sy, 0.0%ni, 98.7%id, 0.0%wa, 0.0%hi, 0.0%si, 0.3%st
Cpu2 : 0.3%us, 0.7%sy, 0.0%ni, 78.1%id, 0.0%wa, 0.0%hi, 0.0%si, 20.9%st
Cpu3 : 0.0%us, 0.3%sy, 0.0%ni, 79.2%id, 0.0%wa, 0.0%hi, 0.0%si, 20.5%st
/proc/cpu_info下也是4个核心:
cat /proc/cpuinfo
processor : 0
physical id : 0
core id : 0
cpu cores : 4
processor : 1
physical id : 0
core id : 1
cpu cores : 4
processor : 2
physical id : 0
core id : 2
cpu cores : 4
processor : 3
physical id : 0
core id : 3
cpu cores : 4
但实际机器有24个核心:
cat /sys/devices/**/cpu/online
0-23
在这台机器上编译erlang虚拟机或安装已经打包的虚拟机,全部会报出segment **t的错误,对于这个问题,进行了跟踪。
首先可以确认,erlang虚拟机本身是可以正确编译好的,这给我们提供了gdb跟踪的条件,跟踪发现:
main
|-erts_cpu_info_create
|-erts_cpu_info_update
|-configured = (int) sysconf(_SC_NPROCESSORS_CONF);
| 使用sysconf得到cpu个数,此处得到的是伪造的4
|-cpuinfo->configured = configured;
|-read_topology
|-cpuinfo->topology = malloc(sizeof(erts_cpu_topology_t) * cpuinfo->configured);
| 此处为拓扑信息分配空间,数量为从sysconf处获得的cpu个数
|-cdir = opendir("/sys/devices/**/cpu");
|-do {
struct dirent *cde = readdir(cdir);
if (sscanf(cde->d_name, "cpu%d", &cpu_id) == 1) {
sprintf(fpath, "%s/cpu%d/topology/physical_package_id", cpath, cpu_id);
if (read_file(fpath, buf, sizeof(buf)) <= 0) continue;
读取/sys/devices/**/cpu/cpu#/topology/physical_package_id,注意这将取出配置的4个cpu之外的cpu的物理封包id
sprintf(fpath, "%s/cpu%d/topology/physical_package_id", cpath, cpu_id);
if (read_file(fpath, buf, sizeof(buf)) <= 0) continue;
读取/sys/devices/**/cpu/cpu#/topology/core_id,注意这将取出配置的4个cpu之外的cpu的核心id
ix++;
cpuinfo->topology.node= node_id;
在ix超过4时,该处动作将越界访问cpuinfo->topology分配的内存,引发segment fault
}
} while (got_nodes);
自此,已经得到了问题的原因,t4机器伪造的cpu拓扑信息并不完全,erlang虚拟机在启动的时候会额外检查/sys/devices/**/cpu下
具体的cpu信息,这些信息与通过sysconf得到的信息不符,进而引发了越界的访存。
这个问题的fix方案有几种,举例如下:
1.修改erlang代码,将configured赋予一个足够大的值,避免访存越界,然后通过启动时加入参数或设置环境变量sct强制控制cpu拓扑,
如:export ERL_FLAGS="+sct L0-3c0-3";
2.修改erlang代码,在循环读取真实拓扑信息时,忽略超过configured数量的cpu的信息,同样,启动时加入参数或设置环境变量sct;
3.令额外的cpu信息对erlang虚拟机不可见。
这个坑比较容易误导,今后应避免。
没有找到相关结果
已邀请:
0 个回复