胡雪岩小时，家中贫穷，无力送他去私塾读书，他便在家自学，慢慢地粗通文墨。后经亲戚推荐，到杭州阜康钱庄当学徒。三年满师后，胡雪岩被升为钱庄跑街。所谓跑街，即为钱庄招揽生意和讨要债款者。当时的杭州，有很多候补、捐班的官吏，他们花钱捐了官，就等着有空缺时外放做知县、知府一类的实职官员。由于花了很多钱捐官，在候补期间，他们中许多人两手空空，只能向钱庄借贷度日；即使补了缺，上行时打点也需要钱，还得向钱庄借。
胡雪岩充当钱计跑街，主要就是招揽这批人的生意以及督催他们到期还钱。这是一个不好干的苦差事，想做得圆满，即需处处小心，笑脸相陪，软的不行时还得来点硬的，软硬兼施。胡雪岩以他坚强的毅力挺了下来，并逐渐锻炼得机敏、泼辣、善于投机，留给他人的印象则是慷慨好义，能济人急难，所以赢得了人们的信任。这一切都为他后来的发迹打下了基础。
关于胡雪岩的发迹致富，有种种传说，比较流行的是说他曾借钱助人，受助者后来为报恩又支持他开钱庄，以至发迹。至于他所助之人，一说为王有龄，一说为湘军的一个营官。王有龄是当时的浙江巡抚，年轻时因父亲去世，曾贫困潦倒，流落杭州。一天他遇到正跑街的胡雪岩，胡见他气度不凡，不像没出息的人，便询问他为何这般落魄。王将自己的处境对胡讲了，胡表示愿助一臂之力，可送他进京谋官，遂将刚为钱庄收上来的一笔500两银子借给他，他不愿接受，怕胡回去后会受老板责罚。胡表示没关系，有什么风险自己一人承担。