1982年12月至1983年1月间，伙同他人盗窃晾晒衣物、凤凰牌自行车、夹克、蚊帐、自动伞、鞋和女式手表等，1986年3月8日遭到逮捕，判刑4年入狱服刑。在狱中被狱友揭发他曾盗窃玉米被发现后使用木棍敲击受害人头颅致重伤、偷盗自行车胎、电视机、仓库零件等案件，宣武区人民法院将诸罪合并宣判11年有期徒刑与之前判决合并执行15年有期徒刑。
1991年，被遣送到新疆石河子新安监狱服刑，因是偷盗罪服刑，狱中表现良好成为“零星犯”[a]。凭借这一点，向狱友和警卫学习武器知识。有时候，牧民们的羊不小心跑到监狱的管辖地，发现后扣押这些羊并和牧民提出用弹药交换羊。无奈之下，牧民们只好同意这个要求，在牢狱生活中，搜集到了75发步枪子弹和50发手枪子弹并藏匿他处。服刑期间在狱中涉嫌将狱友李宝玉和傅克军用巧妙手法杀害，警方虽然多有怀疑但碍于没有证据，于是白宝山按照之前的规定提前一年于1996年3月7日刑满释放。
1996年3月12日，39岁的白宝山带著“释放证”和一百多发子弹回到了北京。入狱前，原本在北京有两间平房本来是他和妻子及双胞胎儿女共同生活的家。他被判刑后，妻子跟他离婚，带著两个孩子改嫁他人。现在大弟、弟媳和他们的女儿住在这里。最初几日，他住在母亲位于北京模式口居民区的单元房。去派出所办理户口被民警刁难，直到连续犯案被捕时，户口还是问题没解决[3][5]。
1996年3月31日晚，他用砖头袭击位于石景山区高井发电厂的执勤哨兵，致哨兵昏迷倒地，将其所持五六式半自动步枪抢走。
1996年4月7日晚，他潜伏至北京军区装甲兵司令部大院东门附近，向正在执勤的解放军哨兵开枪射击，但未能如愿抢得手枪。逃跑途中与巡警相遇，击伤四名巡警后逃离。
1996年4月22日凌晨，在解放军军事体育工作大队营门近距离向正在执勤的解放军哨兵赵某连开三枪，致其当场死亡，不知哨兵未配带手枪仅获五四式手枪枪套1个。
1996年7月27日，在河北省徐水县解放军51050部队哨位附近向正在执勤的解放军哨兵射击，导致一人死亡，抢得八一式自动步枪一支。
1996年12月16日中午，在北京德胜门香烟批发市场持枪打死烟贩许某并抢走其身上装有6.517万元现金的挎包，逃跑途中击伤三人。
1997年8月7日傍晚，与同伙吴子明一同闯入新疆石河子某派出所值班室，打死两名民警，抢得五四式手枪一支。
1997年8月18日中午，白宝山与吴子明持八一式自动步枪、五四式手枪在乌鲁木齐边疆宾馆门前枪杀二个做黑市换汇商人，抢劫所带的现金123万元，逃跑途中杀死7人，重伤5人[6]。
1997年8月26日，在天池景区持五四式手枪打死吴子明[7][8]。
1997年9月5日，新疆石河子刑警大队向北京市公安局发送明传电报内容：“通报白宝山与模拟画像中的犯罪嫌疑人之一相像，请协查”。
1997年9月5日19点，4名北京市公安来至白宝山所在处即其位于模式口的母亲家，一名公安对开门的白宝山说户口批下来了[b]，要求其跟随去派出所办手续。白宝山的第一反应是被谢宗芬出卖，于是冷静地说要进屋拿件衣服，实际上拿枪准备摊牌。当时母亲从房间正走出来，问其发生什么事，白宝山不想在母亲面前杀人因此放弃抵抗，跟随警察离开。主犯白宝山落网当夜，警方连夜提审当即交代所有罪行。6日，谢在四川被公安局带走审讯，在与白宝山分手的4天内花费赃款近3万元人民币。9日，谢宗芬被押解到北京。12月3日，白与谢被押往乌鲁木齐。
1998年3月3日，上午10时，白、谢持枪抢劫杀人案由新疆维吾尔自治区乌鲁木齐市中级人民法院受理，正式开庭。白、谢在庭上对于所犯罪行供认不讳。法庭对白宝山在北京、河北、新疆所犯15案逐一进行法庭审理。乌鲁木齐市中级人民法院（1998）乌中刑初字第17号刑事判决书：“白宝山犯有杀人罪，抢劫枪支罪，抢劫公民财产罪，情节特别严重，影响特别恶劣，危害特别巨大，依法判处白宝山死刑，剥夺政治权利终身。同案犯谢宗芬犯有抢劫罪、包庇罪，判处有期徒刑12年。白宝山的大弟免于刑事起诉，无罪释放。”白宝山于1998年4月在新疆被处以枪决。