东汉末年，孙策开发江东时，一些老百姓和地方土豪为其威名所震慑，在其未到时，就逃入深山。这些汉人为了自保与山越人融合，建立了自己的军事组织和社会，不服徭役，不纳租税，自给自足。他们入则为民，出则为兵，常常利用险峻的地势，“领人攻没郡县，杀掠官吏豪强”。孙策曾与山越人有过交手，建安三年（198年）底，袁术暗中鼓动山越宗帅祖郎对付孙策。孙权随孙策讨伐泾县以西六县山越人时，在宣城时遭山越人偷袭，刀已架到脖子上，若不是大将周泰拚死相救，孙权性命不保。

建安五年，孙策打算偷袭曹魏都城许都时，山越人借机叛乱。孙策只好以平定叛乱为要，孙权即位后继续派兵平叛。不过，203年，孙权第一次西征江夏太守黄祖，仅剩攻城时，后方扬州的山越人却又乘机作乱，孙权功败垂成，不得不回兵讨伐。

此后，山越经常在孙权与曹魏等作战时叛乱，孙权多次派兵征讨，迫使大批山越人出山，并将精壮青年编入军队，其余人编入国家户籍，成为向国家纳税、服役的百姓。据《三国吴兵考》记载，“孙权嗣立，先后得山越兵不下十三万人。”山越人的出山，不仅扩充了东吴的兵源、税源，扩大了土地范围，使东吴后方稳定，而且他们与汉族的融合，也促进了江南的开发。

除了平定山越，孙权还从203年至208年三伐江夏太守黄祖，并收得大将甘宁。孙权对甘宁十分器重，对待他如原来那些老臣一般。孙权还因为听从甘宁建议，在第三次西征时擒获黄祖。他还因甘宁替被俘的江夏都督苏飞求情，而赦免了苏飞。这再次体现了孙权的用人之道。

联刘抗曹赤壁大胜

曹操在统一北方后，为了实现全国统一大业，于建安十三年（208年）率大军南下，意图夺取刘表占据的荆州，进而挥师江东，消灭孙权。在曹操大军尚未到达荆州时，刘表病死，形势变得复杂起来。孙权遂派鲁肃以吊孝为名前往荆州，探听局势。鲁肃未到荆州，刘表之子刘琮就投降了曹操，依附于刘表的刘备也被曹军在当阳长坂（今湖北当阳）击败。江东危在旦夕。

鲁肃转而去当阳见刘备，提出孙刘联合抗曹，这一建议与刘备的军师诸葛亮不谋而合。刘备于是派诸葛亮前往江东商讨联合事宜。诸葛亮见到孙权后，向他分析了当前形势及孙刘联合的可能性和必要性。之后，孙权召集众大臣商讨和战事宜。这时曹操派使者给孙权送来一封信，信中说：“近者奉辞伐罪，旄麾南指，刘琮束手，今治水八十万军，方与将军会猎于吴。”暗示曹操将亲自率领八十万大军进攻东吴。曹操的气势让东吴大臣惊恐不已，纷纷劝说孙权投降曹操，唯有鲁肃和武将等主战。孙权犹豫不决。