Solarflare 低延迟万兆网卡配置和性能调优实践

前言

因为交易系统部的同事在测试研究 Intel DPDK 和 Solarflare 的低延迟性能，硬件是 Dell R730，OS 为 RHEL7.2，之前也对 DPDK 有所了解借这个机会再多接触一些，前者是开源方案但需要强大的技术团队支撑，而后者却是小众但几乎垄断全球交易所的商业方案，随着 PCIe SSD，分布式存储，万兆交换机的崛起，这个市场也变得越来越活跃了。

Solarflare make servers faster and more secure.

更新记录

2016 年 11 月 25 日 - 初稿

阅读原文 - https://liaojiaxin158.github.io/post/solarflare/

扩展阅读

Solarflare - https://support.solarflare.com/index.php/component/cognidox/?view=categories&id=1945
OpenOnload - http://www.openonload.org/download.html

参考文档

Solarflare 网卡安装与测试
http://wenku.baidu.com/view/31652e7204a1b0717ed5dd13

Solarflare Quick SetupGuide_cn_1.3
http://wenku.baidu.com/view/3d2f7c7a30b765ce0508763231126edb6f1a7610

测试过程

install sfc

#yum install packages
yum install gcc make kernel-devel perl autoconf automake libtool pciutils net-tools -y
# 解压执行安装 
cd openonload-201606/scripts
./onload_install
#reload onload
onload_tool reload

remove sfc

#unload onload
onload_tool unload
#remove sfc
modprobe –r sfc
#if found any sfc rpm, then remove them
rpm -qa | grep sfc
rpm -e *sfc*.rpm
#unintall onload
onload_uninstall

tuning

测试低延迟有条件建议先 host 直连再选择交换机，简单的 ping 无法验证具体数据，可以采用 sfnettest 来评估

UDP - 1700ns
TCP - 1900ns

#collect sfreport
./sfreport.pl

#update firmware
sfupdate --write
dracut -f
#if reboot not work, you need cut power and startup after one minute
init 6

#tuned-adm
tuned-adm list
tuned-adm profile latency-performance

#sfnettest
onload -p latency ./sfnt-pingpong udp 10.0.21.10
onload -p latency ./sfnt-pingpong tcp 10.0.21.10