建站
咨詢
售后
建站咨詢
新聞中心
MongoDB提供了auto-sharding 功能。因?yàn)槠涫莂uto-sharding，即mongodb通過(guò)mongos(一個(gè)自動(dòng)分片模塊，用于構(gòu)建一個(gè)大規(guī)模的可擴(kuò)展的數(shù)據(jù)庫(kù)集群,這個(gè)集群可以并入動(dòng)態(tài)增加的機(jī)器)自動(dòng)建立一個(gè)水平擴(kuò)展的數(shù)據(jù)庫(kù)集群系統(tǒng)，將數(shù)據(jù)庫(kù)分表存儲(chǔ)在sharding的各個(gè)節(jié)點(diǎn)上。
我們提供的服務(wù)有：網(wǎng)站建設(shè)、網(wǎng)站設(shè)計(jì)、微信公眾號(hào)開(kāi)發(fā)、網(wǎng)站優(yōu)化、網(wǎng)站認(rèn)證、青白江ssl等。為1000多家企事業(yè)單位解決了網(wǎng)站和推廣的問(wèn)題。提供周到的售前咨詢和貼心的售后服務(wù)，是有科學(xué)管理、有技術(shù)的青白江網(wǎng)站制作公司
一個(gè)mongodb集群包括一些shards(包括一些mongod進(jìn)程)，mongos路由進(jìn)程，一個(gè)或多個(gè)config服務(wù)器
下面是一些相關(guān)詞匯說(shuō)明:
Shards :每一個(gè)shard包括一個(gè)或多個(gè)服務(wù)和存儲(chǔ)數(shù)據(jù)的mongod進(jìn)程(mongod是MongoDB數(shù)據(jù)的核心進(jìn)程)典型的每個(gè)shard開(kāi)啟多個(gè)服務(wù)來(lái)提高服務(wù)的可用性。這些服務(wù)/mongod進(jìn)程在shard中組成一個(gè)復(fù)制集
Chunks:Chunk是一個(gè)來(lái)自特殊集合中的一個(gè)數(shù)據(jù)范圍，(collection，minKey，maxKey)描敘一個(gè)chunk，它介于minKey和maxKey范圍之間。例如chunks 的maxsize大小是100M，如果一個(gè)文件達(dá)到或超過(guò)這個(gè)范圍時(shí)，會(huì)被切分到2個(gè)新的chunks中。當(dāng)一個(gè)shard的數(shù)據(jù)過(guò)量時(shí)，chunks將會(huì)被遷移到其他的shards上。同樣，chunks也可以遷移到其他的shards上
Config Servers : Config服務(wù)器存儲(chǔ)著集群的metadata信息，包括每個(gè)服務(wù)器，每個(gè)shard的基本信息和chunk信息Config服務(wù)器主要存儲(chǔ)的是chunk信息。每一個(gè)config服務(wù)器都復(fù)制了完整的chunk信息。
今天要介紹的源碼主要是Mongos的主入口函數(shù)的執(zhí)行流程，首先我們打開(kāi)Mongos的項(xiàng)目(可通過(guò)打開(kāi)源碼db\db_10.sln加載所有項(xiàng)目)，如下圖：
注：如果要調(diào)試mongos，需要設(shè)置一個(gè)mongod進(jìn)程和一個(gè)Config Server,形如：
d:\mongodb>bin>mongod --dbpath d:\mongodb\db\ --port 27012
d:\mongodb>bin>mongod --configsvr --dbpath d:\mongodb\db\ --port 27022
然后在vs2010中配置相應(yīng)的boost路徑信息及啟動(dòng)參數(shù)信息，如下圖：
#p#
下面開(kāi)始正文。首先打開(kāi)mongos項(xiàng)目中的server.cpp文件，找到下面方法：
- int main(int argc, char* argv[]) {
- try {
- return _main(argc, argv);
- }
- catch(DBException& e) {
- cout << "uncaught exception in mongos main:" << endl;
- cout << e.toString() << endl;
- }
- catch(std::exception& e) {
- cout << "uncaught exception in mongos main:" << endl;
- cout << e.what() << endl;
- }
- catch(...) {
- cout << "uncaught exception in mongos main" << endl;
- }
- return 20;
- }
該方法是mongos的主函數(shù)，代碼很簡(jiǎn)，它主要是try方式執(zhí)行_main方法，下面是_main的執(zhí)行流程：
- int _main(int argc, char* argv[]) {
- static StaticObserver staticObserver;
- mongosCommand = argv[0];
- //聲明options信息描述對(duì)象
- po::options_description options("General options");
- po::options_description sharding_options("Sharding options");
- po::options_description hidden("Hidden options");
- po::positional_options_description positional;
- CmdLine::addGlobalOptions( options , hidden );
- //添加sharding選項(xiàng)描述信息
- sharding_options.add_options()
- ( "configdb" , po::value() , "1 or 3 comma separated config servers" )
- ( "test" , "just run unit tests" )
- ( "upgrade" , "upgrade meta data version" )
- ( "chunkSize" , po::value(), "maximum amount of data per chunk" )
- ( "ipv6", "enable IPv6 support (disabled by default)" )
- ( "jsonp","allow JSONP access via http (has security implications)" )
- ;
- options.add(sharding_options);
- .....
在完成option描述信息的初始化操作之后，下面就開(kāi)始對(duì)啟動(dòng)命令行參數(shù)進(jìn)行分析和執(zhí)行了，如下：
- .....
- // parse options
- po::variables_map params;
- //對(duì)argc，argv進(jìn)行分析并轉(zhuǎn)換成params，以便下面使用
- if ( ! CmdLine::store( argc , argv , options , hidden , positional , params ) )
- return 0;
- // The default value may vary depending on compile options, but for mongos
- // we want durability to be disabled.
- cmdLine.dur = false;
- //如果是help
- if ( params.count( "help" ) ) {
- cout << options << endl;
- return 0;
- }
- //如果是版本信息
- if ( params.count( "version" ) ) {
- printShardingVersionInfo();
- return 0;
- }
- //如要設(shè)置chunkSize
- if ( params.count( "chunkSize" ) ) {
- Chunk::MaxChunkSize = params["chunkSize"].as() * 1024 * 1024;
- }
- ......
- //必選項(xiàng)，設(shè)置configdb信息
- if ( ! params.count( "configdb" ) ) {
- out() << "error: no args for --configdb" << endl;
- return 4;
- }
- vector configdbs;
- //對(duì)參數(shù)configdb進(jìn)行分割 (以','分割 )
- splitStringDelim( params["configdb"].as() , &configdbs , ',' );
- //mongodb強(qiáng)制為1或3，具體原因不明
- if ( configdbs.size() != 1 && configdbs.size() != 3 ) {
- out() << "need either 1 or 3 configdbs" << endl;
- return 5;
- }
- // we either have a seeting were all process are in localhost or none is
- for ( vector::const_iterator it = configdbs.begin() ; it != configdbs.end() ; ++it ) {
- try {
- // 根據(jù)地址參數(shù)實(shí)例化HostAndPort對(duì)象，如地址不合法則拋出異常
- HostAndPort configAddr( *it );
- if ( it == configdbs.begin() ) {
- grid.setAllowLocalHost( configAddr.isLocalHost() );
- }
- //不允許在configdbs出現(xiàn)本地地址，注：如果configdb中全部為本地地址
- //(實(shí)際用處不大)時(shí)不會(huì)執(zhí)行下面if邏輯
- if ( configAddr.isLocalHost() != grid.allowLocalHost() ) {
- out() << "cannot mix localhost and ip addresses in configdbs" << endl;
- return 10;
- }
- }
- catch ( DBException& e) {
- out() << "configdb: " << e.what() << endl;
- return 9;
- }
- }
上面完成了對(duì)命令行參數(shù)分析之后，接下來(lái)mongos要加載綁定幾個(gè)hook：
- // set some global state
- //添加對(duì)鏈接池hook的綁定(shardingConnectionHook對(duì)象引用)，以最終調(diào)用其onHandedOut方法
- pool.addHook( &shardingConnectionHook );
- //設(shè)置鏈接池名稱
- pool.setName( "mongos connectionpool" );
- //不設(shè)置“延遲kill游標(biāo)”
- DBClientConnection::setLazyKillCursor( false );
- //設(shè)置當(dāng)replicaSet配置修改時(shí)的hook對(duì)象(replicaSetChangey方法會(huì)更新鏈接對(duì)象信息
- ReplicaSetMonitor::setConfigChangeHook( boost::bind( &ConfigServer::replicaSetChange , &configServer , _1 ) );
上面的hook主要是在mongos主程序啟動(dòng)完成后，在運(yùn)行期間執(zhí)行一些數(shù)據(jù)操作時(shí)執(zhí)行某些額外操作。從代碼可以看出，mongos使用了鏈接池功能以提升獲取鏈接的效率，具體實(shí)現(xiàn)機(jī)制我會(huì)在后緒章節(jié)中加以闡述。代碼中的ReplicaSetMonitor類為一個(gè)維護(hù)和獲取有效復(fù)制集的監(jiān)視類，它提供了獲取有效master,slave 的方法。完成這一步綁定后，接著mongos就會(huì)對(duì)config server信息進(jìn)行初始化和升級(jí)操作了，如下:
- //顯示sharding版本信息
- printShardingVersionInfo();
- //實(shí)始化configServer
- if ( ! configServer.init( configdbs ) ) {
- cout << "couldn't resolve config db address" << endl;
- return 7;
- }
- if ( ! configServer.ok( true ) ) {
- cout << "configServer startup check failed" << endl;
- return 8;
- }
- //檢查Config版本信息(必要時(shí)進(jìn)行升級(jí)操作)
- int configError = configServer.checkConfigVersion( params.count( "upgrade" ) );
- if ( configError ) {
- if ( configError > 0 ) {
- cout << "upgrade success!" << endl;
- }
- else {
- cout << "config server error: " << configError << endl;
- }
- return configError;
- }
- //重新設(shè)置config db信息(包括shard中chunk的min，lastmod信息)
- configServer.reloadSettings();
***就是啟動(dòng)偵聽(tīng)服務(wù)，這里mongos啟動(dòng)了兩個(gè)偵聽(tīng)服務(wù)器，一個(gè)是以線程方式啟動(dòng)，用于接收授權(quán)的用戶操作信息，另一個(gè)則是普遍的循環(huán)偵聽(tīng)服務(wù)，用于偵聽(tīng)客戶端message如下：
- //初始化一些Signals信息，用于處理程序退出，中斷等情況
- init();
- //以線程方式啟動(dòng)webserver，循環(huán)偵聽(tīng)授權(quán)訪問(wèn)的 message信息，詳見(jiàn)dbwebserver.cpp文件中allowed方法
- boost::thread web( boost::bind(&webServerThread, new NoAdminAccess() /* takes ownership */) );
- MessageServer::Options opts;
- opts.port = cmdLine.port;
- opts.ipList = cmdLine.bind_ip;
- start(opts);//啟動(dòng)message服務(wù)器，偵聽(tīng)客戶端message
- dbexit( EXIT_CLEAN );
- return 0;
到這里，main代碼就介紹完了，但上面代碼段中的start才是啟動(dòng)balancer來(lái)均衡各個(gè)shard間chunk的操作，所以我們接著再看一下該方法的實(shí)現(xiàn)：
- void start( const MessageServer::Options& opts ) {
- setThreadName( "mongosMain" );//設(shè)置線程名稱
- installChunkShardVersioning();//綁定chunk shard版本控制信息
- balancer.go();//均衡shard 中chunk(節(jié)點(diǎn))信息，詳情參見(jiàn) balance.cpp的run()方法
- cursorCache.startTimeoutThread();//對(duì)空閑(過(guò)期)游標(biāo)進(jìn)行清除操作
- log() << "waiting for connections on port " << cmdLine.port << endl;
- ShardedMessageHandler handler;
- MessageServer * server = createServer( opts , &handler );//構(gòu)造server對(duì)象
- server->setAsTimeTracker();
- server->run();//啟動(dòng)message服務(wù)
- }
好了，今天的內(nèi)容到這里就告一段落了，在接下來(lái)的文章中，將會(huì)介紹balancer的實(shí)現(xiàn)方式和操作流程。
原文鏈接:http://www.cnblogs.com/daizhj/archive/2011/05/16/2022041.html
【編輯推薦】
- Mongodb源碼分析--內(nèi)存文件映射(MMAP)
- 走進(jìn)MongoDB的世界 展開(kāi)MongoDB的學(xué)習(xí)之旅
- 淺析Mongodb源碼之游標(biāo)Cursor
- 野心勃勃的NoSQL新貴 MongoDB應(yīng)用實(shí)戰(zhàn)
- MongoDB與CouchDB全方位對(duì)比
名稱欄目：Mongodb源碼分析之Mongos分析
標(biāo)題來(lái)源：http://m.5511xx.com/article/ccdogic.html
