漁師の長男に生まれ、小学校の低学年の時は野球少年だったが、高学年より相撲に転向する。野球部で球拾いばかりだった彼は、相撲のコーチから「大きい体をしているなぁ。相撲ならすぐに試合に出られるぞ。」と言われ、その翌日には
廻しをつけていたと言う。中学、高校と徐々に頭角をあらわし、
同志社大学相撲部時代は1年生からレギュラーとなり、1992年から、西日本体重別115キロ以上級、全日本体重別115キロ以上級で2年連続で優勝。同年、大学実業団対抗でも優勝。大学では歴代6位の通算15個のタイトルを獲得し、「東の尾曽(元
大関・
武双山、現
藤島)、西の山本(土佐ノ海)」と並び称され、高校時代、大学時代を通じて良きライバルであった。本来は真面目で温厚な人柄だが、学生時代には行司の判定への不服から、タオルを投げるパフォーマンスを演じたこともある。また、現在は押し相撲であるが、学生時代は、格下相手には、とりこぼしを防ぐため、安全策で四つ相撲で勝負することもあった。
学生時代には数々のタイトルを獲得し、鳴り物入りで、角界一の名門部屋である
伊勢ノ海部屋に入門し、
1994年3月場所、
幕下付出で
初土俵。
四股名は当初から「土佐ノ海」で、これは「土佐の
太平洋のように、大きな存在となれ。」という願いをこめて、師匠の伊勢ノ海親方が命名したものである。プロ入り当時から「将来の
横綱」と注目され、期待に違わず、トントン拍子に出世。負け越し知らずで
1995年7月場所にいきなり西前頭7枚目で新入幕(5月場所に西
十両筆頭で14勝1敗で優勝)。新入幕での前頭7枚目という地位は、戦後2番目の大躍進である。
日本相撲協会の期待の表れから、新入幕の初日にいきなり
大関若乃花、2日目は、
横綱貴乃花と対戦(結果は2番とも土佐ノ海の負け)した。新入幕の場所で横綱と対戦した力士は、戦後では土佐ノ海を含め、過去4人だけである。この場所では7勝8敗に終わり、初土俵以来、初の負け越しとなった。しかし、翌9月場所では、大関
貴ノ浪を破るなどの活躍で11勝4敗の成績を修め、入幕2場所目にして、
敢闘賞を受賞した。その後は、入幕4場所目の
1996年1月場所に新
小結、翌
1997年5月場所に新関脇となり、一躍、大関候補に名乗りを上げる。さらに、
1998年11月場所から翌
1999年5月場所にかけては4場所連続、合計6個の
金星を獲得した。これは史上初のことであり、現在も記録保持者である。この間の1998年11月場所は休場明けの場所で、幕内中位に低迷していたとはいえ、12勝3敗の成績で、この場所を制した
琴錦(現
浅香山)と共に平幕同士のデッドヒートを繰り広げた。そして、翌年の1999年7月場所には三役に復帰し、以後、
2000年7月場所まで7場所連続で三役に在位し、二度、二桁勝利をあげ、更に上を期待されたが、1999年11月場所から2000年5月場所にかけて、三役での連続勝ち越しを続けるも、その間一度も関脇に復帰できず、この番付運の悪さゆえに、5場所連続での小結在位を記録(
麒麟児…後の大麒麟、
琴光喜と共に歴代1位)した。