大阪市立桑津小学校、同立東住吉中学校、大阪府立大和川高等学校卒業。桃山学院大学中退後、堀内孝雄らとともにアリスを創設したメンバーの一人。
父・新蔵は奈良県生まれ。少年時代は肥満体型で、「ブタ」と渾名され傷つく。特に音楽に興味があった訳ではないが、『渡り鳥シリーズ』でギターを弾く（本当は弾く真似だった）小林旭の姿を見て一念発起。「女にモテたい一心で」（本人談）ギターを練習し始め、やがてバンド活動も開始した。
高校時代の1965年に、山本峯幸、島津ちず子とピーター・ポール&マリースタイルのフォーク・グループロック・キャンディーズを結成。グループ名は「氷砂糖」の意。大阪、神戸で絶大な人気を誇り、神戸のアマチュア・バンド・サークル「ポート・ジュビリー」の看板グループであった。アマチュアながら、1971年には唯一のアルバム『讃美歌』を発表している。
1970年大阪万博の会場で、後にアリスの所属事務所「ヤング・ジャパン」社長となる細川建と知り合う。細川の音頭取りで実行したアメリカ・コンサート・ツアーで、ロック・キャンディーズやザ・フォーク・クルセダーズらと共に参加していたソウル・バンド、ブラウン・ライスのドラマー矢沢透と知り合い意気投合。帰国したら一緒にグループを組もうと約束する。このとき谷村の頭の中には、新グループ「アリス」の構想ができつつあった。このアメリカ・ツアー中にレッド・ツェッペリンのステージを観る機会があり、ジミー・ペイジの独特のギター・プレイに圧倒されたという。同じく訪米中にジャニス・ジョプリンのライブを観る機会にも恵まれ、「当時彼女の生演奏に触れることのできた数少ない日本人として幸運」と谷村本人が語っている。
帰国した谷村は、アマチュア・ロック・バンドフーリッシュ・ブラザーズ・フットのボーカル 堀内孝雄をアリスに勧誘。堀内は ポート・ジュビリーで、既に谷村とは知り合いだった。
1971年12月25日、谷村新司、堀内孝雄の2名でアリス結成。翌1972年3月5日、シングル『走っておいで恋人よ』でデビュー。同年5月3日、矢沢透が合流し、現在のアリスとなった。2ギター＆ボーカル、1パーカッションという特異な編成とブルース色の強い演奏については、リッチー・ヘブンスの影響を少なからず受けているとのことである。
デビュー当初はヒット曲もなく、鳴かず飛ばずであった。なんとか打開策を見出そうと、ソウルミュージックの帝王ジェームス・ブラウンを初来日させるが、当時の日本ではマイナーなアーティストだったこともあって、来日公演は不入り。逆の意味で“伝説のライブ”となり、所属事務所「ヤング・ジャパン」は、莫大な借金を背負ってしまった。
借金返済のためグアムへのクルージング・ツアーを企画するが、これもまた成功には至らず借金をこじらせる結果となる。挙句は帰国途中に谷村が当事者となったコレラ騒動までもが起こった。（後にコレラでないと判明するまで船底に一時隔離されていた）
しかしアリスは、地道なライブ活動（1974年には年間303ステージという記録が残っている）と『今はもうだれも』のヒットを契機に、『冬の稲妻』『涙の誓い』『ジョニーの子守唄』『チャンピオン』『狂った果実』等のヒット曲を連発。1978年には日本人アーティストとして初めて日本武道館3日間公演を成功させるなど、一時代を築いた。
アリスの活動と並行して、ソロ活動も開始。コンサート活動はなかった（シャンソン歌手アダモとのジョイント・コンサートを除く）ものの、1975年のアルバム『蜩（ひぐらし）』を皮切りに、ソロ名義でのアルバムやシングル製作、他の歌手への楽曲提供（山口百恵の『いい日旅立ち』など）を精力的に行う。アリスとは異なる音楽世界は、1979年の『陽はまた昇る』を経て、1980年の『昴』で一定の完成をみる。1981年にはシングル『群青』が東宝映画『連合艦隊』の主題歌となる。戦死した息子を想う親の悲しみを歌ったこの歌に対し、田川律など一部の音楽評論家から「好戦的右翼」との非難を受けたが、この批判は的外れであるというのが一般的な認識である。
1981年8月23日、北京・工育館にて日同コンサート「ハンド・イン・ハンド北京」開催。中国におけるロック・ポップス系コンサートとしては、前年10月に工人文化宮で開催された「第一回中日友好音楽祭」に出演したゴダイゴに次ぐものだが、単独公演としてはアリスが初めてであった。この公演が李力や王勇ら多くの若手ミュージシャンに影響を与え、中国にポップスが根付く礎となった。またソロになった谷村が、本格的にアジアに目を向けた活動を始めるきっかけにもなった。
1981年11月にアリス活動停止。
翌1982年にシングル『スーパースター-MY SUPERSTAR-』、アルバム『JADE-翡翠-』をリリースして、本格的にソロ活動をスタート。1983年の『EMBLEM』、1984年の『抱擁』『刺-とげ-』など、1980年代は年に1～2枚のハイペースでアルバムを発表。いずれもアルバム毎に明確なコンセプトをもった意欲作である。またその間『22歳』や、小川知子とのデュエット曲『忘れていいの-愛の幕切れ-』のシングル曲もヒットさせている。
毎年のコンサート・ツアーとは別に、さだまさし、北島三郎、郷ひろみらとジョイント・コンサートを実施。1983年からはニュー・ミュージック系アーティストでは初めてのディナーショーもスタート。また親友である チョー・ヨンピル、アラン・タムと共に、アジアのミュージシャンを集めたイベントPAX MUSICAをスタート。1984年の後楽園球場での公演を皮切りに、年に1回アジア各地で開催され、現在も続いている。ちなみに1985年、映画『サンダーアーム／龍兄虎弟』撮影中に瀕死の重傷を負ったジャッキー・チェンが、復活した姿を初めて聴衆の前に現したのも、香港コロシアムでのPAX MUSICA公演のステージ上であった。
1986年、完成したばかりの東京・青山劇場で1ヶ月のロングラン・リサイタル『CORAZON』を開催。この青山劇場公演は年末の恒例行事となり、2002年の『LA STRADA VI -宝石心-』まで続いた。
1989年12月、父・新蔵が死去。その年の『紅白（第40回）』で『陽はまた昇る』を追悼曲として歌った。
1988年にはロンドン交響楽団と共演した大作アルバム『獅子と薔薇』を発表。1989年の『輪舞-ロンド-』（国立パリ・オペラ・オーケストラと共演）、1990年の『Price of Love』（ウィーン交響楽団プロジェクトと共演）と合わせ、「ヨーロッパ三部作」を完成させる。1995年のアルバム『I・T・A・N』ではプロデューサーにフィル・ラモーンとジャック・エリオットを起用するなど、この時期は欧米のミュージシャン、プロデューサーとの仕事が多い。
1996年には世界初のDVDソフト『シンジ ラ ムニタ』を発表。ちなみに世界初のCDソフトはフィル・ラモーンがプロデュースしたビリー・ジョエル のアルバム『ニューヨーク52番街』である。谷村とフィルの縁の深さは、こんなところにも現われている……というのは穿ちすぎか。なお谷村が世界で初めてDVDを発表した人物であることは2008年9月3日に、森田一義アワー 笑っていいとも!の水曜コーナー『クイズ!メイクダウト』で紹介された。
アリスとしての活動も1987年に再開。シングル『BURAI』、アルバム『ALICEX』をリリースし健在をアピール。ただし、この時はコンサート・ツアーは行わず、数本のテレビ番組出演をするにとどまった。その後アリスは再び長い活動休止期間に入るが、2000年末の『NHK紅白歌合戦』から活動を再開。翌2001年は、1月17日の神戸国際会館でのコンサートを皮切りに、14年ぶりのニュー・アルバム『ALICE 0001』のリリース、全国ツアーと活躍。年齢を感じさせないパワフルなステージは、ファンを喜ばせた。2005年末の『NHK紅白歌合戦』に、アリスとして2度目の出場。
南ベトナムのグエン・カオ・キ元副大統領に顔が似ているとしても知られている。顔の2大特徴のうち、後退気味の額は初期アリス時代からで当時はキャップを被ることが多かった。さだまさしは、自身と谷村および松山千春を「フォーク界御三毛（ごさんけ）」と呼んだことがある。
口髭は1980年代に入ってから蓄えている。
『セイ!ヤング』などのタレント活動も行っていて、「家に2000本近くのアダルトビデオがある」ことはあまりにも有名。「ファッションヘルス」などと書かれたTシャツを着てテレビに出演することもある。また、ビニ本専用倉庫もあり、そこにチョー・ヨンピルを呼んだこともあるらしい。またアリスの武道館コンサート終演後すぐさまいきつけのビニ本屋に向かい、飯を食べていない店長の代わりに店番を務めていたところ、店に立ち寄ったコンサート帰りのファンが谷村がレジに座っているのを見て驚愕したという逸話もある。更に「何でこんな所にいるんですか！　僕たちの感動を返してください！」と激高したファンに対して「これも一つのハンド・イン・ハンドや」と切り返したというエピソードを後年本人が語っている。深夜のラジオ番組にて洋物スカトロ系ビニ本のモデルについて解説をしたり、「ベッドの上にはタブーはありません」と主張を繰り返すなど、男女のありかたについて一家言を持つ。
『セイ!ヤング』は最初ピンで、のちにばんばひろふみの共演で火曜日を担当していたがピン時代からの名物コーナー『天才・秀才・バカ』は現在のテレビでは放送できない下ネタのオンパレードでこれが元で今でも谷村＝スケベというイメージで見られている。
175RやGackt、TRICERATOPSら若手ミュージシャンとの交流も積極的。デーモン小暮閣下が谷村のコンサートにゲスト出演したこともある。また、1993年のコンサート『THE MAN』のバック・メンバーの中には、元爆風スランプのベーシスト江川ほーじんがいた。2002年のアルバム『半空』には、坂崎幸之助や鈴木康博といった旧友に混じって、元MR.BIGのギタリストポール・ギルバートが参加している。
『昴』や『群青』『三都物語』といったシングル曲のイメージからか、CDが演歌のコーナーに置かれることも多いが、過激なまでに新たな試みに挑戦し続ける姿勢はロックそのものであり、そのスピリットはアルバムの収録曲にも十分に現われている。アジアでのコンサート活動や、ディナーショーを始めた時も理解者は少なく、嘲笑や批判の声が多かった。しかし現在では、日本のロック、ポップス系アーティストのアジアでの活動や、ディナーショーも、普通の事としてすっかり定着してしまっている。こういった活動のパイオニアとしても、谷村新司はもっと評価されるべきだろう。
『いい日旅立ち』『三都物語』『いい日旅立ち・西へ』『風の暦』などJR西日本等の鉄道のCMで谷村の歌が頻繁に使われているため、鉄道ファンからの人気も高い。中には谷村の声を聞くだけでJR西日本の車両を連想する鉄道ファンもいる。
コンサートのクオリティの高さには定評があるが、2003年を最後にコンサート・ツアーを一旦休止。
2004年からは中国・上海音楽学院で教授を務めている。同年、中国の歌手毛寧のアルバム『我』をプロデュース。
2000年、インディーズ・レーベル「mama's & papa's」を立ち上げたものの、リリースしたシングルは『ハーヴェスト』1曲のみで、ファンをやきもきさせた。2006年には業界大手エイベックスに移籍、6年ぶりのシングル『風の暦』をリリース。
2007年4月18日に『半空』以来5年ぶりのオリジナル・アルバム『オリオン13』を発売。