搜索
简帛阁>技术文章>艺龙邮件系统结构设计

艺龙邮件系统结构设计

作者:艺龙公司技术研发经理 高鹏

  近日,艺龙公司推出了“艺龙五星级企业邮箱系统”和“艺龙个人5秒邮”的收费邮件系统,这两套系统都采用的是艺龙公司与全世界最大的邮件运营商mail.com合作设计和开发的千万级邮件系统:“ComConnect”。笔者是该系统的主要设计人员,本文将介绍这套系统的技术特色,以及数据库中间件部分实现。

  艺龙公司的“ComConnect”系统可以运行在大部分的unix系统平台,包括solaris、linux等,采用模块化的设计,整个系统分为下面八大模块:

  1.数据库中间件模块+缓存模块

    这是整套系统的主线,贯穿于系统的其他所有模块。

  在大规模邮件系统中,为了管理的方便和系统的分布式部署,都需要采用SQL数据库保存一些信息,例如帐号信息等。例如,当用户通过POP3登陆时,服务器端会启动一个程序,与SQL数据库连接,并查询该用户身份的合法性,当用户退出时,该程序会断开与SQL数据库的连接。这样,大量用户的登陆、退出,都会对应于SQL数据库的连接、断开操作,降低了系统的效率,也增加了SQL数据库的负载。

  在ComConnect系统中,所有数据库的操作,都是通过“数据库中间件”模块完成的。该模块会保持与SQL数据库的连接,永不断开。当有程序需要查询数据库时,会通过unix domain socket与本地的数据库中间件服务器相连接,中间件会取得查询需求,并进行实际的SQL查询,并将结果通过unix domain socket返回给应用程序。同时,对于所得的查询,中间件服务器会进行本地缓存,保存到内存数据库BerkeleyDB3(http://www.sleepycat.com)中,这样下次同样的查询请求,就不必SQL查询了,因为结果已经被保存在本地缓存了。这种设计,一方面,避免了频繁的SQL数据库的连接、断开的操作,另一方面,由于本地缓存的存在,也大大降低了SQL数据库的负载,提高了系统的响应效率。

   2.收信模块

  该模块对应于DNS中的MX记录。

  传统的收信模块运行方式是,在得到一封邮件后,保存到本地,或通过SMTP协议进行转发。而在ComConnect系统中,采用LMTP(local mail transport protocol)协议连接“收信模块”和“邮件存储模块”,在这两个模块之间,永久保持若干个通道,当收信模块得到新的邮件时,就会利用这些已经存在的通道将邮件内容传输给后台的邮件存储模块。这种设计,大大减少了SMTP服务器频繁的fork、exit过程,从而提高了效率。

   3.发信模块

   该模块是整个系统中最独立的模块。为了提高安全性,ComConnect系统通过cyrus-sasl实现了发信服务器的用户身份认证功能。认证部分通过“认证模块”完成。

   4.中央数据库模块

  与其他大规模邮件系统一样,ComConnect系统也需要中央数据库(支持SQL标准)模块。但与其他系统不同的是,ComConnect系统的中央数据库保存的内容非常少,仅仅保存用户帐号信息。而且,由于“数据库中间件”和“缓存”模块的存在,在理想状态下,中央数据库根本不需要存在。

  这种设计,极大地提高了系统性能,更提高了系统的可扩展性。与此相对应,其他的邮件系统将尽可能多的信息都保存在中央数据库中,随着用户数目的增大,效率会越来越低,最终成为系统的瓶颈。

   5.HTTP session模块

  由于HTTP协议的无状态性质,所以当用户登陆后需要保存用户的session(会话)信息。传统的session模块都是通过数据库完成的,这样,如果用户量非常大,会对数据库造成很大的负载,最终形成整套系统的瓶颈。ComConnect系统对session的处理,采用了自行开发的专门的session server处理,系统拿出一台单独的服务器充当session server,内部定义了一套session协议来维护每个session的状态,并在一定时间客户端没有访问时自动删除session记录以实现session垃圾回收机制。该模块的数据库采用了高效的内存数据库:BerkeleyDB3。在这种设计下,web服务器作为session模块的客户端,session server作为session模块的服务器端。当用户登陆时,Web服务器会通过session协议访问后台的session server,以记录该次session的信息。

  与传统的session管理机制相比,这种方式减少了中央数据库的负载,又由于内存数据库的高效性,以及session协议的简单性,大大提高系统的响应速度。

   6.认证模块

  系统需要认证的部分有:Web登陆、发信时的用户身份认证、POP3登陆。这些认证都通过本地的认证模块实现,该模块工作机制与“数据库中间件”类似,通过unix domain socket进行进程间通讯,并与数据库持续连接,以及维护本地的缓存。

   7.Web模块

  这是用户使用的Web界面部分。该模块通过IMAP协议,与后台的“邮件存储模块”进行通讯。其中的session,是通过“HTTP session模块”完成的。

   8.邮件存储模块

  该部分是整个系统最为核心的模块,所有用户的邮件最终都保存在该模块上。每个用户的邮箱就是一个目录,每封邮件就是一个文件。

  有些大规模邮件系统将邮件的信头(header)保存到数据库中,而邮件的正文(body)保存到文件中。这种设计,可以提高用户在访问邮箱时的速度,尤其是邮箱中有很多封邮件的时候,另外,在实际实现的时候也有代码简单的优点。但它的缺点也是突出的,首先,“收信模块”要对进入的每封邮件进行处理,以提取出信头和正文,这会降低收信的效率;另一方面,由于每封邮件都会引发对数据库的INSERT操作,因此会加大数据库的负担;还有,随着系统接收邮件数目的增大,数据库中的记录数也会相应地增大,最终可能出现瓶颈。

  与上面的解决办法不同,ComConnect系统在文件系统中建立了索引机制,而不采用数据库的索引。每个用户的邮箱(对应一个目录)下,都有该用户所有邮件的索引。这样,当用户操作邮箱时,速度可以非常快;另外,对每封进入的邮件,“收信模块”不需要做任何处理,可以直接通过LMTP通道传输给“邮件存储模块”,而“邮件存储模块”直接将内容写入对应用户的邮箱目录下。

  这八大模块构成了ComConnect整个系统,其中每个模块都具有很好的扩展机制,可以通过增加计算机数目来提高性能。更详细的信息,请访问: http://bms.elong.com/ads/

下面是数据库中间件的部分代码,读者可以从中了解其运行机制:

dbServer dbserver = db_unknown;

int midInited = 0;

/*

 *--------------------------------------------------------------

 *

 * mid_init

 *

 *--------------------------------------------------------------

 */

void

mid_init(const char *conf)

{

  const char fname[] = "mid_init";

  const char *server ;

  if ( !conf || !*conf ) {

    myconfig_read(MIDWARE_CONFIG_FIENAME);

  } else {

    myconfig_read(conf);

  }

  server = myconfig_getstring("backend_server",NULL);

  if ( !server || !*server ) {

    syslog(LOG_ERR,"[%s]invalid 'backend_server' in conf file",fname);

exit(1); /* yes, we exit directly */

  }

  /* judge what backend server is */

  if ( !strcasecmp(server,BACKEND_MYSQL) ) {

    syslog(LOG_DEBUG3,"[%s]backend server is %s",fname,BACKEND_MYSQL);

    dbserver = db_mysql;

  } else if ( !strcasecmp(server,BACKEND_ORACLE) ) {

    syslog(LOG_DEBUG3,"[%s]backend server is %s",fname,BACKEND_ORACLE);

    dbserver = db_oracle;

  } else if ( !strcasecmp(server,BACKEND_BERKELEYDB) ) {

    syslog(LOG_DEBUG3,"[%s]backend server is %s",fname,BACKEND_BERKELEYDB);

    dbserver = db_berkeleydb;

  } else {

    dbserver = db_unknown;

    syslog(LOG_CRIT,"[%s]unknown backend server: %s",fname,server);

exit(1);

  }

  midInited = 1;

} /* mid_init */

/*

 *------------------------------------------------------------------------

 *

 * sendCmd

 *

 * -- midware protocol implementation on midwared client side

 *

 * ask midware server something via unix domain socket

 *

 * RET:

 * CMD_ERR_SYS: system error

 * CMD_INVALID: null cmd sent to midwared server

 * CMD_OK : ok

 *

 *------------------------------------------------------------------------

 */

static cmdResult

sendCmd(char *cmd,char *sqlcmd,const char *param2,const char *param3,

      const char *param4,char **reply)

{

  const char fname[]="sendCmd";

  int s; int r,iovcount=0;

  struct sockaddr_un srvaddr;

  st

作者:公司技术研发经理高鹏近日,公司推出了“五星级企业邮箱系统”和“个人5秒邮”的收费邮件系统,这两套系统都采用的是艺龙公司与全世界最大的邮件运营商mailcom合作设计和开发的千万级
个企业在选择邮箱时,首先要考虑的就是邮件系统服务器,邮件服务器的安全稳定决定着企业邮件的安全收发,并且企业邮箱从另一方面也衬托出公司品牌形象,往往都需要注重细节。那么什么邮件系统才是最好的呢?以TO
什么是电子邮件u人们利用计算机网络来进行信息传递的一种现代化通信方式u低廉的价格u快速的方式u全世界范围u多媒体文档u电子邮件是Internet最基本的服务u企业信息系统重要的核心组成部分什么是邮件系
中国科学院邮件系统发邮件怎么发时间:20210220阅读:()邮件审核使用手册服务邮箱:support@cstnetcnCopyright19942020中国科学院计算机网络信息中心科技云运行与技术发
服装这类商品不仅设计商品自身,还可能涉及属性,各属性笛卡尔积则是实际可选的商品类型,不仅如此,各最终可选的商品可能还涉及库存等信息。不仅在关系型上,NoSQL解决这类问题也是比较乏力的。比较经典的例子
fromdjangodbimportmodelsCreateyourmodelshereclassMeetingRoom(modelsModel):'''会议室'''namemodelsCharFie
一、概念拉链表是针对数据仓库设计中表存储数据的方式而定义的,顾名思义,所谓拉链,就是记录历史。记录一个事物从开始,一直到当前状态的所有变化的信息。在历史表中对客户的一生的记录可能就这样几条记录,避免了
django邮件系统Django发送邮件官方中文文档总结如下:1、首先这份文档看三两遍是不行的,很多东西再看一遍就通顺了。2、send_mail()、send_mass_mail()都是对EmailM
目录1jenkins默认邮件插件使用11系统设置中配置jenkins邮件系统12在项目配置的构建后操作选择发送邮件2EmailExtensionPlugin21安装生成HTML报告格式不好看总体配置步
目录前言:一电子邮件系统采用客户/服务器体系结构。二电子邮件系统的协议三发送电子邮件的具体过程四SMTP和POP3工作过程SMTPPOP3五基于万维网的电子邮件前言:电子邮件系统可以说是因特网上最早