侍奉織田信長 回到尾張之後,秀吉想盡種種辦法接近織田信長。在織田家中,他的第一份工作仍是替信長拿拖鞋。雖然同樣是拿拖鞋的工作,但秀吉比從前更加用心。譬如說在寒冬的清晨,他將信長的拖鞋放進懷裡溫暖,信長對於這種用心當然會有所回報。在六年後,也就是永祿二(1560)年,織田信長在桶狹間發動奇襲,打倒今川義元,一躍而成為天下出名的武將。此時,秀吉擔任雜物採購官,發揮了開源節流的長才,他將支出減少了三分之二,當清洲城城牆破損而沒錢修理時,他又毛遂自薦擔任營繕官,將城牆修補完畢。就在桶狹間之戰的那一年,秀吉與織田家的淺野又左衛門長勝的養女Nene(後來尊稱為北政所Kita no Mandokoro)結婚。由於他是從步兵之子入贅於武士之家,所以改名為藤吉郎(Toukichirou),另一名字為秀吉。此時秀吉二十五歲。後來約在秀吉三十八歲時,他又從織田家的大老丹羽長秀與柴田勝家兩人的姓中各取一字,改姓為羽柴(Hashiba)。永祿九(1566)年九月,當織田信長攻打美濃的齋藤氏時,織田軍最重要的戰術工作就是於墨俁(Sunomata,現岐阜縣安八郡)建築堡壘。織田信長派遣三分之二的軍隊去建築堡壘,剩下的三分之一用來防衛敵人的攻擊。這建築堡壘的工作就由秀吉來負責。秀吉先將建築堡壘的木材運往木曾川的上游,然後用木筏沿著河流運送下來。建材運到之後,才二、三天,堡壘就建好了。之後,秀吉又建議借用當地土豪的野武士力量,夜襲敵陣,結果獲得大勝。這次大捷,秀吉成為信長麾下的一名大將。
山崎之戰後,秀吉的聲望扶搖直上。6月24日織田君的主要將領聚集在尾張的清洲,討論信長的後繼人選,以及分配領地的會議,這就是所謂的清洲會議。在會議中,大老柴田勝家推出信長的三男信孝當後繼者,但是秀吉卻決定由信長的年僅三歲的孫子三法師來繼承。柴田勝家的不滿可想而知,織田軍的內戰已不可避免,翌年(1583)終於發生賤嶽(Shizu ga Take,位於滋賀縣北部)之戰。在賤嶽之戰中,秀吉的陣營中傳來前線已經敗北而撤退的消息,但是秀吉卻對部下高喊:「我們打勝了!」秀吉判斷敵軍雖然戰勝,但一定已經精疲力竭,當天晚上將會在大岩山附近過夜。於是秀吉指揮軍隊,連趕十三里的道路,來到退守的前線陣營。到了晚上,當柴田軍的佐久間勢站在大岩山,看到山下一大群火把在移動時,他嚇了一大跳,他作夢也沒想到秀吉那麼快就趕回來。賤嶽之戰,就在秀吉迅速果敢的行動中獲得大勝。
大阪築城,在山崎之戰與賤嶽之戰獲得大勝之後,秀吉於1584年與德川家康(Tokugawa Ieyasu)、織田信雄(Oda Nobukatsu)的聯軍大戰於小牧(Komaki)、長久手(Nagakute)。遇到驍勇善戰的德川家康,士氣如虹的秀吉首次碰到釘子,但是他非常聰明,立刻與家康和談,並收家康的次子於義丸為養子。其餘的戰爭,如1585年攻打紀州與四國,1587年征討九州,1590年出征小田原,秀吉的軍隊都勢如破竹,邁向統一日本之大道。 1583年,秀吉在大阪著手建築一座超越安土城的城堡。其天守閣外觀五層,內部八至十層,於1585年完成,其動員的人數,據史料記載,「超過六萬人」,「如同螞蟻進入蟻穴般」。秀吉為了向大家炫耀大阪城的豪華壯麗,經常招待訪客去參觀,其中還包括外國的傳教士。秀吉向傳教士說:「現在你們看到的房間,到處都是金、銀、生絲、綢緞、高級茶器,另一間房間則都是長短刀,以及其他的武器。」換言之,大阪城比安土城更像一座寶山。此外更令參觀者驚訝的是,秀吉還製造了一間活動式的黃金茶室,牆壁、天花板、地板都是由黃金製造的,甚至連紙門的骨架也是黃金打造。他的寢室也是極為華麗,棉被是鮮紅色的高級布料,床頭以黃金雕刻裝飾。這大阪城在1615年被德川軍燒毀,現在我們所看到的大阪城天守閣是在1931年11月以鋼筋混凝土重建而成的。傳教士佛洛伊斯於1593年的報告書中介紹秀吉的夜生活如下:「關白(秀吉)極為好色而不知廉恥,經常沈迷於動物性的肉慾中,在他的宮廷內,擁有二百名以上的女人。這不幸的暴君年齡已經超過六十歲(外表看起來比實際年齡還老),但是他還派人出外搜尋美女,不管是商人或是工人的女兒,也不管是未婚或是寡婦,只要是容貌美麗,都被他召進城內。而且他都只留一二天,就讓那些婦女回家,只有讓他滿意的,才長久留在城內。」他的側室為數眾多,比較有名的有:淀殿(Yododono,也就是淺井長政的長女茶茶)、加賀局(Kaga no Tsubone,她是前田利家的三女摩阿)、松丸殿(Matsunomarudono,京極高吉長女龍子)、三條局(Sanjou no Tsubone,蒲生氏鄉的妹妹阿虎)、三丸殿(Sannomarudono,織田信長的五女)、姬路殿(Himejidono,信長的弟弟信包的女兒)等。有人說,秀吉出身低微,所以喜歡蒐集名門閨秀當側室。