0

0

Twemproxy代理Key-Value数据库SSDB实现数据分布式存储

php中文网

php中文网

发布时间:2016-06-07 14:55:59

|

2091人浏览过

|

来源于php中文网

原创

SSDB是一个高性能的支持丰富数据结构的 NoSQL 数据库, 用于替代 Redis或者与 Redis 配合存储十亿级别列表的数据,现在已被许多知名企业所应用。我们使用SSDB是想将现有的redis中的key迁移到SSDB以破除现有的redis 120G存储极限(当然可以扩展,但是计算了下

    ssdb是一个高性能的支持丰富数据结构的 nosql 数据库, 用于替代 redis或者与 redis 配合存储十亿级别列表的数据,现在已被许多知名企业所应用。我们使用ssdb是想将现有的redis中的key迁移到ssdb以破除现有的redis 120g存储极限(当然可以扩展,但是计算了下成本就打算放弃了)。

    Twemproxy是twtter开源的一个redis和memcache代理服务器,这里我们使用Twemproxy代理来代理SSDB集群来实现数据的分布式存储,即shared。

    

    1、节点规划:

        Twemproxy        192.168.0.100    

        ssdb1 master     192.168.0.101

        ssdb1 slave      192.168.0.102

        ssdb2 master     192.168.0.103

        ssdb2 slave      192.168.0.104

    2、安装SSDB

## 解压下载好的ssdb软件包
$ unzip  ssdb-master.zip
## 安装gcc、gcc-c++ 、make等工具
##编译、安装ssdb,会安装在/usr/local/ssdb/下面
$ cd ssdb-master
$ make &&make install

## 进入安装目录
$ cd/usr/local/ssdb/
## 启动ssdb-server
$ ./ssdb-server -dssdb.conf
ssdb 1.8.2
Copyright (c)2012-2014 ssdb.io
## 验证是否启动成功,若8888端口被监听,则表示成功
$ netstat-alnut|grep 8888
tcp       0      0 127.0.0.1:8888              0.0.0.0:*                   LISTEN

## 客户端连接
$ ./ssdb-cli -p8888
 ssdb (cli) - ssdb command line tool.
Copyright (c)2012-2014 ssdb.io
'h' or 'help' forhelp, 'q' to quit.
server version:1.8.2
ssdb 127.0.0.1:8888>

    3、主从配置,以ssdb1为例

## 修改ssdb1 master的配置文件,如下
# ssdb-server config
# MUST indent by TAB!
 
# relative to path of this file, directorymust exists
work_dir = ./var
pidfile = ./var/ssdb.pid
 
server:
       ip:192.168.0.101
       port:8888
       # bind to public ip
       #ip: 0.0.0.0
       # format: allow|deny: all|ip_prefix
       # multiple allows or denys is supported
       #deny: all
       #allow: 127.0.0.1
       #allow: 192.168
       # auth password must be at least 32 characters
       #auth: very-strong-password
 
replication:
       binlog: yes
       # Limit sync speed to *MB/s, -1: no limit
       sync_speed: -1
       slaveof:
                # to identify a master even ifit moved(ip, port changed)
                # if set to empty or notdefined, ip:port will be used.
                #id: svc_2
                # sync|mirror, default is sync
                #type: sync
                #ip: 127.0.0.1
                #port: 8889
 
logger:
       level: debug
       output: log.txt
       rotate:
                size: 1000000000
 
leveldb:
       # in MB
       cache_size: 500
       # in KB
       block_size: 32
       # in MB
       write_buffer_size: 64
       # in MB
       compaction_speed: 1000
       # yes|no
       compression: yes

## 修改ssdb1 slave的配置文件,如下
# ssdb-server config
# MUST indent by TAB!
 
# relative to path of this file, directorymust exists
work_dir = ./var
pidfile = ./var/ssdb.pid
 
server:
        ip: 192.168.0.102
        port: 8888
       # bind to public ip
       #ip: 0.0.0.0
       # format: allow|deny: all|ip_prefix
       # multiple allows or denys is supported
       #deny: all
       #allow: 127.0.0.1
       #allow: 192.168
       # auth password must be at least 32 characters
       #auth: very-strong-password
 
replication:
       binlog:yes
       # Limit sync speed to *MB/s, -1: no limit
       sync_speed: -1
       slaveof:
                # to identify a master even if itmoved(ip, port changed)
                # if set to empty or notdefined, ip:port will be used.
                id: svc_1
                # sync|mirror, default is sync
                type:sync
                ip: 192.168.0.101
                port:8888
 
logger:
       level: debug
       output: log.txt
       rotate:
                size: 1000000000
 
leveldb:
       # in MB
       cache_size: 500
       # in KB
       block_size: 32
        # in MB
       write_buffer_size: 64
       # in MB
       compaction_speed: 1000
       # yes|no
       compression: yes

   

    这样就完成了ssdb1 masterssdb1 slavessdb2 masterssdb2 slave的配置与此相同。需要注意的是,如果要为已经有数据的ssdb节点配置slave的话,与mysql不同的是无需拷贝基础数据到slave上,只需要在slave的配置文件中指定master的信息即可,ssdb会自动进行基础数据的拷贝和同步的。


    SSDB 数据库中的所有数据都是排好序的, 所以你可以把整个数据库理解为一个链表, SSDB 从表头开始 Copy, 一次一个节点, 游标一直往后. 这时, 如果有新的 Binlog, SSDB 会先判断这条 Binlog 对应的节点在链表中的什么位置, 是在游标的前面还是后面?如果在游标的前面, 那么会把这条 Binlog 发给 Slave 执行. 如果在游标的后面, 就会直接忽略掉, 因为游标最终会移动到更新的位置. 从这个描述也可以知道, 处于 Copy 阶段的 Slave, 有可能无法立即知道 Master 上的更新.当游标移动到了链表的末端之后, Copy 过程就结束了, 主从同步流程进入到 Sync 阶段, 也就是即时(毫秒级)更新阶段。更多ssdb的learnning可以访问ssdb的项目地址:http://ssdb.io/zh_cn/.


    4、安装Twemproxy

## 安装automake、libtool 、xz工具
$  yum install automake libtool xz -y
## 安装autoconf
$  wget  http://down1.chinaunix.net/distfiles/autoconf-2.69.tar.xz
$  xz -d autoconf-2.69.tar.xz
$  tar xf autoconf-2.69.tar -C /opt
$  cd /opt/autoconf-2.69
$  ./configure
$  make && make install
## 安装Twemproxy
$  git clone https://github.com/twitter/twemproxy.git
$  cd  twemproxy/
$  autoreconf -fvi 
$  ./configure
$  make && make install
## 将Twemproxy的配置文件放置在/etc/下、
$  mkdir /etc/nutcracker
$  cp  conf/nutcracker.yml/etc/nutcracker/nutcracker.yml

    5、配置Twemproxy

成新网络商城购物系统
成新网络商城购物系统

使用模板与程序分离的方式构建,依靠专门设计的数据库操作类实现数据库存取,具有专有错误处理模块,通过 Email 实时报告数据库错误,除具有满足购物需要的全部功能外,成新商城购物系统还对购物系统体系做了丰富的扩展,全新设计的搜索功能,自定义成新商城购物系统代码功能代码已经全面优化,杜绝SQL注入漏洞前台测试用户名:admin密码:admin888后台管理员名:admin密码:admin888

下载
## 修改配置文件
$ vim   /etc/nutcracker/nutcracker.yml  
beta:
  listen: 127.0.0.1:22122
  hash: fnv1a_64
  hash_tag: "{}"
  distribution: ketama
  auto_eject_hosts: false
  timeout: 400
  redis: true
  servers:
   - 192.168.0.101:8888:1 server1
   - 192.168.0.103:8888:1 server2

    配置项:

        listen: 127.0.0.1:22122      ## 监听地址和端口

        hash: fnv1a_64               ## 散列算法

        redis: true                  ## 后端代理的是否为redis

        servers:                     ## 分片服务器列表

        distribution: ketama         ## 分片的算法,有ketama(一致性hash)、module(取模)、random(随机)三种算法

        auto_eject_hosts: false      ## 是否在节点无法响应时自动从服务器列表中剔除,重新响应时自动加入服务器列表中

        hash_tag: "{}"               ## 假设ssdb中一个对象有多个key属性,如kora这个人的姓名name:kora:,kora的年龄age:kora:,kora的住址 loc:kora:,为了保证这kora这三个属性能被路由到后端的同一个分片上,我们就需要指定hash_tag: "{::}",这样就避免读取数据的时候跨分片检索


    6、启动Twemproxy

## 启动
$  nutcracker -d -c/etc/nutcracker/nutcracker.yml -p /var/run/redisproxy.pid -o /var/log/redisproxy.log& 
## 验证22122端口是否被监听
 $  netstat -alnut |grep 22122
tcp       0      0 127.0.0.1:22122             0.0.0.0:*                   LISTEN

    7、测试分片功能

## 需要注意:Twemproxy代理是不支持ssdb-cli连接的,但是ssdb的协议和redis的协议一致,我们可以使用redis客户端来连接代理,这个问题我咨询过ssdb的作者,是需要使用redis-cli的
$   ./redis-cli -p 22122
127.0.0.1:22122>

    ## 代理中插入如下数据

wKiom1UzckKBDtqHAAFqK4wp_4c881.jpg

    ## 后端ssdb server1 上查看数据,3个key

wKioL1Uzc5uBG0TxAAJYOp_awRA061.jpg

    ## 后端ssdb server1 上查看数据,5个key

wKiom1UzckLy_pgTAAJALRpADoU610.jpg

    Twemproxy代理能够实现SSDB的分布式存储,但是对于SSDB分布式体系的在线扩展还是无能为力,如果说需要扩展现有的分布式集群,那么最简单的方法就是新建一个期望的集群,然后应用双写数据到新旧两个集群里面,接着将旧集群中的数据通过代理迁移到新集群上,这里要注意,只有新集群中不存在key的时候才set,防止旧数据覆盖新数据,数据迁移完成后,选择一个合适的时机将应用切换到新的集群上来,由于使用了Twemproxy代理,切换的过程对前端应用来说是透明的。


相关专题

更多
php源码安装教程大全
php源码安装教程大全

本专题整合了php源码安装教程,阅读专题下面的文章了解更多详细内容。

150

2025.12.31

php网站源码教程大全
php网站源码教程大全

本专题整合了php网站源码相关教程,阅读专题下面的文章了解更多详细内容。

88

2025.12.31

视频文件格式
视频文件格式

本专题整合了视频文件格式相关内容,阅读专题下面的文章了解更多详细内容。

90

2025.12.31

不受国内限制的浏览器大全
不受国内限制的浏览器大全

想找真正自由、无限制的上网体验?本合集精选2025年最开放、隐私强、访问无阻的浏览器App,涵盖Tor、Brave、Via、X浏览器、Mullvad等高自由度工具。支持自定义搜索引擎、广告拦截、隐身模式及全球网站无障碍访问,部分更具备防追踪、去谷歌化、双内核切换等高级功能。无论日常浏览、隐私保护还是突破地域限制,总有一款适合你!

61

2025.12.31

出现404解决方法大全
出现404解决方法大全

本专题整合了404错误解决方法大全,阅读专题下面的文章了解更多详细内容。

493

2025.12.31

html5怎么播放视频
html5怎么播放视频

想让网页流畅播放视频?本合集详解HTML5视频播放核心方法!涵盖<video>标签基础用法、多格式兼容(MP4/WebM/OGV)、自定义播放控件、响应式适配及常见浏览器兼容问题解决方案。无需插件,纯前端实现高清视频嵌入,助你快速打造现代化网页视频体验。

16

2025.12.31

关闭win10系统自动更新教程大全
关闭win10系统自动更新教程大全

本专题整合了关闭win10系统自动更新教程大全,阅读专题下面的文章了解更多详细内容。

12

2025.12.31

阻止电脑自动安装软件教程
阻止电脑自动安装软件教程

本专题整合了阻止电脑自动安装软件教程,阅读专题下面的文章了解更多详细教程。

5

2025.12.31

html5怎么使用
html5怎么使用

想快速上手HTML5开发?本合集为你整理最实用的HTML5使用指南!涵盖HTML5基础语法、主流框架(如Bootstrap、Vue、React)集成方法,以及无需安装、直接在线编辑运行的平台推荐(如CodePen、JSFiddle)。无论你是新手还是进阶开发者,都能轻松掌握HTML5网页制作、响应式布局与交互功能开发,零配置开启高效前端编程之旅!

2

2025.12.31

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Git 教程
Git 教程

共21课时 | 2.4万人学习

Django 教程
Django 教程

共28课时 | 2.7万人学习

MySQL 教程
MySQL 教程

共48课时 | 1.6万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号