python+C、C++混合编程的应用

TIOBE每个月都会新鲜出炉一份流行编程语言排行榜,这里会列出最流行的20种语言 。排序说明不了语言的好坏,反应的不过是某个软件开发领域的热门程度 。语言的发展不是越来越common,而是越来越专注领域 。有的语言专注于简单高效,比如Python,内建的list,dict结构比c/c++易用太多,但同样为了安全、易用,语言也牺牲了部分性能 。在有些领域,比如通信,性能很关键,但并不意味这个领域的coder只能苦苦挣扎于c/c++的陷阱中,比如可以使用多种语言混合编程 。
我看到的一个很好的Python与c/c++混合编程的应用是NS3(Network Simulator3)一款网络模拟软件,它的内部计算引擎需要用高性能,但在用户建模部分需要灵活易用 。NS3的选择是使用C/C++来模拟核心部件和协议,用python来建模和扩展 。
这篇文章介绍python和c/c++三种混合编程的方法,并对性能加以分析 。
混合编程的原理首先要说一下python只是一个语言规范,实际上python有很多实现:CPython是标准Python,是由C编写的,python脚本被编译成CPython字节码,然后由虚拟机解释执行,垃圾回收使用引用计数,我们谈与C/C++混合编程实际指的是基于CPython解释上的 。除此之外,还有Jython、IronPython、PyPy、Pyston,Jython是JAVA编写的,使用JVM的垃圾回收,可以与Java混合编程,IronPython面向.NET平台 。python与C/C++混合编程的本质是python调用C/C++编译的动态链接库,关键就是把python中的数据类型转换成c/c++中的数据类型,给编译函数处理,然后返回参数再转换成python中的数据类型 。
python中使用ctypes moduel,将python类型转成c/c++类型首先,编写一段累加数值的c代码:
extern "C" {int addBuf(char* data, int num, char* outData);}int addBuf(char* data, int num, char* outData){for (int i = 0; i < num; ++i){outData[i] = data[i] + 3;}return num;}然后,将上面的代码编译成so库,使用下面的编译指令
>gcc -pthread -fno-strict-aliasing -g -O2 -DNDEBUG -g -fwrapv -O3 -Wall -Wstrict-prototypes -fPIC addbuf.c -o addbuf.o最后编写python代码,使用ctypes库,将python类型转换成C语言需要的类型,然后传参调用so库函数:
from ctypes import * # cdll, c_intlib = cdll.LoadLibrary('libmathBuf.so')callAddBuf = lib.addBufnum = 4numbytes = c_int(num)data_in = (c_byte * num)()for i in range(num):data_in[i] = idata_out = (c_byte * num)()ret = lib.addBuf(data_in, numbytes, data_out)#调用so库中的函数在C/C++程序中使用Python.h,写wrap包装接口这种方法需要修改c/c++代码,在外部函数中处理入/出参,适配python的参数 。写一段c代码将外部入参作为shell命令执行:
#include <Python.h>static PyObject* SpamError;static PyObject* spam_system(PyObject* self, PyObject* args){const char* command;int sts;if (!PyArg_ParseTuple(args, "s", &command))//将args参数按照string类型处理,给command赋值return NULL;sts = system(command); //调用系统命令if (sts < 0) {PyErr_SetString(SpamError, "System command failed");return NULL;}return PyLong_FromLong(sts);//将返回结果转换为PyObject类型}//方法表static PyMethodDef SpamMethods[] = {{"system", spam_system, METH_VARARGS,"Execute a shell command."},{NULL, NULL, 0, NULL}};//模块初始化函数PyMODINIT_FUNC initspam(void){PyObject* m;//m = PyModule_Create(&spammodule); // v3.4m = Py_InitModule("spam", SpamMethods);if (m == NULL)return;SpamError = PyErr_NewException("spam.error",NULL,NULL);Py_INCREF(SpamError);PyModule_AddObject(m,"error",SpamError);}处理上所有的入参、出参都作为PyObject对象来处理,然后使用转换函数把python的数据类型转换成c/c++中的类型,返回参数按相同方式处理 。比第一种方法多了初始化函数,这部分是把编译的so库当做python module所必需要做的 。python这样使用:
imoprt spamspam.system("ls")使用c/c++编写python扩展可以参见:http://docs.python.org/2.7/extending/extending.html
使用SWIG,来生成独立的wrap文件这种方式并不能算是一种新方式,实际上是基于第二中方式的一种包装 。SWIG是个帮助使用C或者C++编写的软件能与其它各种高级编程语言进行嵌入联接的开发工具 。SWIG能应用于各种不同类型的语言包括常用脚本编译语言例如Perl, php, Python, Tcl, Ruby, PHP,C#,Java,R等 。
操作上,是针对c/c++程序编写独立的接口声明文件(通常很简单),swig会分析c/c++源程序自动分析接口要如何包装 。在指定目标语言后,swig会生成额外的包装源码文件 。编译so库时,把包装文件一起编译、连接即可 。看个c代码例子:


推荐阅读