解析linux下安裝memcacheq(mcq)全過程筆記

memcacheQ是一個單純的分布式消息隊列服務。
一，MEMCACHEQ的應用背景
Web應用中為什
麼 會需要消息隊列？主要原因是由於在高並發環境下，由於來不及同步處理，請求往往會發生堵塞，比如說，大量的insert，update之類的請求同時到達 mysql，直接導致無數的行鎖表鎖，甚至最後請求會堆積過多，從而觸發too manyconnections錯誤。通過使用消息隊列，我們可以異步處理請求，從而緩解系統的壓力。在Web2.0的時代，高並發的情況越來越常見，從 而使消息隊列有成為居家必備的趨勢，相應的也湧現出了很多實現方案，像Twitter以前就使用RabbitMQ實現消息隊列服務，現在又轉而使用 Kestrel來實現消息隊列服務，此外還有很多其他的選擇，比如說：ActiveMQ，ZeroMQ等。

上述消息隊列的軟件中，大多為了實現AMQP，STOMP，XMPP之類的協議，變得極其重量級，但在很多Web應用中的實際情況是：我們只是想找到一個緩解高並發請求的解決方案，不需要雜七雜八的功能，一個輕量級的消息隊列實現方式才是我們真正需要的。

二，MEMCACHEQ的特性
1 簡單易用
2 處理速度快
3 多條隊列
4 並發性能好
5 與memcache的協議兼容。這就意味著只要裝了memcache的extension就可以了，不需要額外的插件。

三，安裝
MEMCACHEQ依賴於libevent和BerkleyDB。
BerkleyDB用於持久化存儲隊列的數據。 這樣在MEMCACHEQ崩潰或者服務器掛掉的時候，
不至於造成數據的丟失。這一點很重要，很重要。
它的安裝依賴於BerkeleyDB 和 libevent，所以要先安裝這BerkeleyDB和libevent：
其中libevent如果你安裝過memcached就已經安裝了，如果不確定，就檢查一下吧

1. 先檢查libevent, libevent-devel是否已經安裝： rpm -qa|grep libevent 輸出中必須包含libevent, libevent-deve, 如果缺失，使用以下命令安裝：
yum install libevent yum
install libevent-devel
注意事項：libevent, libevent-devel優先使用yum安裝源，光盤鏡像中的rpm包安裝，這樣穩定性和兼容性可得到保證，網上流傳的使用源碼安裝libevent 的方法會有問題，因為很可能系統已經安裝libevent, 再使用源碼安裝， 必然導致沖突，造成意外問題，所以一定要使用上述命令檢查系統是否已經安裝相應的庫

2. 安裝BerkleyDB
1.tar zxvf bdb-5.3.3.tar.gz
2.cd db-5.3.3/
#需要進入特定操作系統編譯環境，更常規軟件的編譯有些區別
3.cd build_unix/
4. ../dist/configure --prefix=/usr/local/berkeleydb
#如果沒有指定特殊安裝路徑，編譯完成，需要將Berkeley Db運行庫的路徑添加到系統配置裡面
echo "/usr/local/BerkeleyDB.5.3/lib/" >> /etc/ld.so.conf
#重載系統Ld運行庫
ldconfig
5. make & make install
記得改/etc/ld.so.conf文件，添加/usr/local/BerkeleyDB.5.3/lib啊，不然後面的mcq會安裝錯誤。
而BerkeleyDB就要去下載了
點擊下載Berkeley DB 5.3.21.rar
下面安裝memcacheq，
先下載一個memcacheq-0.2.0.rar
解壓，進目錄
./configure –with-bdb=/usr/local/BerkeleyDB.5.1 –with-libevent=/usr/local/lib –enable-threads
make
make install
關鍵是紅色字體那一步，一定輸入正確，不然make不通過，無法安裝

下面是啟動
memcacheq -d -r -u root -p21201 -H /data/memcacheq -N -v -L 1024 -B 1024 > /data/mq_error.log 2>&1
這裡不推薦使用root用戶，有些帖子裡說不可以，我這裡測試是可以的，不過可能會不安全。
1 下面是啟動時候的參數
使用memcacheq -h 的命令來查看命令行選項
2 這個是正確的啟動memcacheq：memcacheq -d -uroot -r -p11212 -H /home/wwwroot/mcq -N -R -v -L 1024 -B 1024 > /home/wwwlogs/mq_error.log 2 > &1
3 這個不知道為什麼就不行/usr/local/memcacheq/bin/memcacheq -d -l 127.0.0.1 -A 8192 -H /data/memcacheq -B 65535 -N -R -u root
-p <num> TCP監聽端口(default: 22201)
-U <num> UDP監聽端口(default: 0, off)
-s <file> unix socket路徑(不支持網絡)
-a <mask> unix socket訪問掩碼(default 0700)
-l <ip_addr> 監聽網卡
-d 守護進程
-r 最大化核心文件限制
-u <username> 以用戶身份運行(only when run as root)
-c <num> 最大並發連接數(default is 1024)
-v 詳細輸出 (print errors/warnings while in event loop)
-vv 更詳細的輸出 (also print client commands/reponses)
-i 打印許可證信息
-P <file> PID文件
-t <num> 線程數(default 4)
--------------------BerkeleyDB Options-------------------------------
-m <num> BerkeleyDB內存緩存大小, default is 64MB
-A <num> 底層頁面大小, default is 4096, (512B ~ 64KB, power-of-two)
-H <dir> 數據庫家目錄, default is '/data1/memcacheq'
-L <num> 日志緩沖區大小, default is 32KB
-C <num> 多少秒checkpoint一次, 0 for disable, default is 5 minutes
-T <num> 多少秒memp_trickle一次, 0 for disable, default is 30 seconds
-S <num> 多少秒queue stats dump一次, 0 for disable, default is 30 seconds
-e <num> 達到緩存百分之多少需要刷新, default is 60%
-E <num> 一個單一的DB文件有多少頁, default is 16*1024, 0 for disable
-B <num> 指定消息體的長度,單位字節, default is 1024
-D <num> 多少毫秒做一次死鎖檢測(deadlock detecting), 0 for disable, default is 100ms
-N 開啟DB_TXN_NOSYNC獲得巨大的性能改善, default is off
-R 自動刪除不再需要的日志文件, default is off
測試

三、測試
1.telnet 10.218.31.121 22201
2.stats
2.stats queue
3.set q4 0 0 5
4 hello
5 get q4
6 stats queue
7 delete q4
如果set的時候補成功not_STORED的話，檢查一下你的啟動命令吧，參數沒設置好，如果你是新手，干翠多看幾個帖子，多嘗試啟動命令，換換參數，就行了

四，使用
使用以上命令啟動mq後，（注意上面的-B參數表示messag的body長度不能超過1024 bytes），使用mq時只需要用到兩個命令：set和get：
set <queue name> <flags> 0 <message_len>rn
<put your message body here>rn
STOREDrn
get <queue name>rn
VALUE <queue name> <flags> <message_len>rn
<your message body will come here>rn
ENDrn
可以看到，和memcache協議基本一致，只是把key name換成queue name，而且在set的命令中，忽略了expire_time的參數。畢竟mq的數據存儲是存在berkeleyDB中，做了持久化存儲，沒有內存的過期時間。
當 使用set命令時，就向指定的消息隊列中寫入了一條新消息，也就是向BerkeleyDB中新insert了一條數據，當使用get命令時，就從 指定隊列中取出一條新消息，也就是向BerkeleyDB中delete了一條數據。當使用stats查看一個指定隊列時，可以看到這個隊列一共接收了多 少消息，其中被取出了多少條。
示例：

復制代碼 代碼如下:
fengbo@onlinegame-10-121:~$ telnet 127.0.0.1 22202
Trying 127.0.0.1…
Connected to 127.0.0.1.
Escape character is ‘^]'.
set q4 0 0 5
hello
STORED
set q4 0 0 5
world
STORED
stats queue
STAT q4 2/0
END
get q4
VALUE q4 0 5
hello
END
stats queue
STAT q4 2/1
END

上面執行了兩次set的命令，使用stats queue查看時，可以看到q4的隊列中共有消息2條，已取出0條；當使用get取出第一條後，再此使用stats queue查看，q4中消息有2條，其中已取出1條。
PHP測試：

復制代碼 代碼如下:
session_start();
$memcache_obj = new Memcache;
$memcache_obj->connect(‘127.0.0.1′, 11212) or die (“error”);
memcache_set($memcache_obj, ‘k',10, 0, 0);
echo “queue”.memcache_get($memcache_obj, ‘k');
memcache_close($memcache_obj);

注釋：
這個時候會出現這樣的問題
memcacheq: error while loading shared libraries: libdb-5.0.so: cannot open shared object file: No such file or directory
解決辦法：在/usr/lib 下建個