用python的tornado框架结合memcached页面改善博客性能

原因

blog是一个更新并不很频繁的一套系统,但是每次刷新页面都要更新数据库反而很浪费资源,添加静态页面生成是一个解决办法,同时缓存是一个更好的主意,可以结合memcached添加少量的代码进行缓存,而且免去去了每次更新文章都要重新生成静态页面,特别当页面特别多时.
实现

主要通过页面的uri进行缓存,结合tornado.web.requesthandler的prepare和on_finish方法函数, prepare 主要是请求前执行,on_finish()是请求结束之前执行.在渲染模板时缓存页面内容,然后在请求前检测是否有缓存,如果有直接输出缓存,结束请求,在post提交之后清空所有缓存,重新生成缓存,从而保证内容实时性.由于登录用户和普通用户的页面不相同,所以不缓存登录用户页面(代码中没有体现,请自行实现).主要python代码(省略了模板渲染的代码):

#!/usr/bin/env python
# -*- coding:utf-8 -*-
#
# author : cold
# e-mail : wh_linux@126.com
# date : 13/01/14 09:57:31
# desc :
#
import config
import pylibmc
from tornado.web import requesthandler
#### 省略cache类定义 #####
class memcached(object):
_mc = pylibmc.client.client(config.cache_host, binary = true)
def __enter__(self):
if config.cached:
return memcached
else:
return cache()
def __exit__(self, exc_type, exc_val, exc_tb):
pass
@classmethod
def get_cache(cls):
return cls._mc
@classmethod
def get(cls, key, default = none):
r = cls._mc.get(key)
if not r:
r = default
return r
@classmethod
def set(cls, key, value, timeout = 0):
timeout = timeout if timeout else config.cache_timeout
return cls._mc.set(key, value, timeout)
@classmethod
def delete(cls, key):
return cls._mc.delete(key)
@classmethod
def flush(cls):
return cls._mc.flush_all()
def __getattr__(self, key):
return memcached.get(key)
def __setattr__(self, key, value):
return memcached.set(key, value)
class basehandler(requesthandler):
“”” 继承tornado请求基类,重写 prepare和on_finish方法 “””
cache = memcached
def render(self, template_path, *args, **kwargs):
“”” 渲染模板 “””
# 省略渲染模板代码
content = ” # 渲染模板后的内容
if self.request.method == “get” and cached and \
not self.request.path.startswith(“/admin”):
self.cache.set(self.request.uri, content) # 将渲染后的内容缓存起来
self.write(content)
def prepare(self):
super(basehandler, self).prepare()
# 如果请求是get方法,而且不是请求后台
if self.request.method == “get” and cached and \
not self.request.path.startswith(“/admin”):
# 尝试获取当前页面的缓存
cache = self.cache.get(self.request.uri)
# 获取缓存则输出页面,结束请求
if cache:
return self.finish(cache)
def on_finish(self):
“”” 重写结束请求前的方法函数 “””
if self.request.method == “post”:
# 如果遇到post提交则清空缓存
self.cache.flush()

缓存系统在redis和memcached选择了很久,因为只是单纯的缓存页面所以最后选择了memcached,使用pylibmc python库.
测试

使用webbench 网站压力测试对比了缓存前后的结果: 使用缓存前

$ webbench -c 500 -t 30 http://www.linuxzen.com/
webbench – simple web benchmark 1.5
copyright (c) radim kolar 1997-2004, gpl open source software.
benchmarking: get http://www.linuxzen.com/
500 clients, running 30 sec.
speed=54 pages/min, 38160 bytes/sec.
requests: 27 susceed, 0 failed.

使用缓存后:

$ webbench -c 500 -t 30 http://www.linuxzen.com/
webbench – simple web benchmark 1.5
copyright (c) radim kolar 1997-2004, gpl open source software.
benchmarking: get http://www.linuxzen.com/
500 clients, running 30 sec.
speed=256 pages/min, 238544 bytes/sec.
requests: 128 susceed, 0 failed.

明显快了很多…

Posted in 未分类