日本的寬頻網路自2001年開始快速成熟普及，在這樣的背景下帶給日本VoIP產業急遽發展的機會，多數的ISP及電信業者競相推出IP電話應用服務與相關產品。同時，IP電話的電話號碼050亦開始提供，目前IP電話與傳統電話網絡已可相互連接，VoIP的時代宣告正式展開。
日本的寬頻網路自2001年開始快速成熟普及，在這樣的背景下帶給日本VoIP產業急遽發展的機會，多數的ISP及電信業者競相推出IP電話應用服務與相關產品。同時，IP電話的電話號碼050亦開始提供，目前IP電話與傳統電話網絡已可相互連接，VoIP的時代宣告正式展開。
所謂IP電話，是使用VoIP (Voice over IP)的技術，將語音訊號壓縮成數據資料封包後在IP網路基礎上傳送的語音服務。利用Internet，使用者可以不需再透過傳統的公眾電話網路 (PSTN)進行遠距離電話交談，進而達到節省費用的好處。IP電話服務的發展型態由最早的PC-to-PC型態逐漸轉變為Phone-to-Phone 型的IP電話服務，詳細說明如下。
PC-to-PC型的IP電話服務
IP電話起於1994年左右，由一些電腦愛好者開始使用。雙方經由電話撥接方式連上Internet，兩者並在電腦上安裝同一套軟體，則可進行即時的語音通話。其缺點是2個人都必須使用電腦並連上Internet才有辦法通話。
到了1996年左右，開始可以從電腦打電話到一般傳統電話，即所謂的PC-to-Phone型之IP電話。之後這種型態之IP電話，發話端除了是電腦使用者之外，還擴展到一般電話使用者，如此一來，以往PC-to-PC型態下2者必須約定好才能通話的不便終於獲得解決。這種型態的IP電話，發話端會自動連接到最近的Gateway，因此可以降低通話費用，成為IP電話服務的主流型態。
1997年左右，一般傳統電話的兩端都設置Gateway來作連接，即所謂Phone-to-Phone型的IP電話服務。這種型態的IP電話與PC- to-Phone型態一樣是利用網際網路，打長途電話、國際電話時通話費用低廉，再加上不需使用電腦，因此十分受到一般民眾歡迎。
1998年左右，電話網與IP網路間的Gateway走向大規模化，一些大型通訊業者也開始使用IP網路作為連接網。一般傳統電話的任何使用者，不需要經過特別的連接手續就可以使用IP電話服務，如同撥打一般傳統電話一樣，因此IP電話變得更方便也吸引很多人開始使用。電話網走向IP網路化，以往的通訊服務也產生了以下的變化。
網路服務由以往的電話撥接服務走向DSL、Cable網路等寬頻服務，收費機制也由以往的從量計費制轉變為時常連接的定額費用制，費用也不斷在下降當中。
以往的電話網，不需考慮是何種型態的連接，使用者皆可獲得一定品質保證的語音電話服務。然而網路電話有DSL、Cable Internet等多樣的連接網，因此使用者想得到品質較好的網路電話服務，則需要去選擇連接網、IP Network以及提供服務的業者。再者，傳統電話之電信業者提供的迴路設備包括所有通話功能，但是在IP網路則不是這樣，要使用IP電話必須在電腦上安裝適當的軟體，使用相容的設備，因此IP電話的功能與品質可說是分散在使用者端與業者端。
由於IP相關技術的發展以及連接網的寬頻化，網路電話的品質也變得與傳統電話品質相當。因此IP電話服務更進一步走向「即時視訊電話」，不但可以傳送語音，還可傳送即時影像，開始提供多媒體的服務。
日本國內的電話服務市場長久以來一直處於被NTT獨占、電信設備由少數幾家廠商所寡占的局面。但自2000年初開始，不需要電話專用線與專用騭備也可以進行通話，這就是所謂的「網路電話/IP電話」。IP電話的優點是會員間免費，而且撥往日本各地的傳統電話價格統一，且十分便宜。隨著免費通話的通話服務數量增加，IP電話的魅力也將越來越大。
但「網路電話/IP電話」除了企業使用的PBX之外，只有撥打的功能，而沒有接收電話的功能。雖然有一部份的網路電話服務可以使用傳統的電話機，但是要撥打專用的電話號碼，或是進行登錄的手續，十分麻煩。隨著ADSL、FTTH 與CATV等寬頻服務的加速進展，奠定了IP電話的發展基礎，但是不能接收電話卻成為IP電話的致命傷。2002年秋季開始，日本政府制定IP電話專用號碼「050」，開始向KDDI、軟銀集團等通信運營商進行分配，如此一來，IP電話將可能成為傳統電話、甚至是行動電話的「替代服務」。
日本是世界上最先引進IP電話專用電話號碼的國家，使用的是以050開頭的11位電話號碼。使用這種電話號碼之後，就可以從一般傳統電話撥打至IP電話。在此之前，只能在IP電話用戶之間互撥、或是從IP電話撥打到一般電話。啟用050號碼後，可以實現IP電話與一般傳統電話之間的雙向通話，進而擴大了 IP電話的市場。
IP電話專用電話號碼的啟用，吸引許多業者(ISP、通訊服務、CATV等業者)相繼加入IP電話服務市場。其中，擁有ADSL龐大市佔率的Yahoo! BB提供之IP電話服務「BB Phone」最為成功。2003年11月底，Yahoo!BB ADSL用戶數為355.3萬，其中BB Phone的加入數達到330.8萬，可知約有85%的寬頻用戶申請使用IP電話。繼Yahoo!BB之後，Nifty、NEC等日本著名ISP業者也開始提供IP電話試驗服務。
日本IP電話的型態大致可以分為fusion型、messenger型、BB Phone型與IP-VPN付加服務型等4種。詳細的內容如表1所示。
IP電話的最大魅力在於它的免費通話。只要是使用同樣的ISP或是有合作的ISP則可以免費通話，這是由於使用共通的IP電話業者可以相互連接。IP電話業者是指提供VoIP基礎設備的Fusion Communications與NTT Communications等。各個ISP對應之IP電話業者，如所示。
例如「＠nifty Phone」與「OCN.Phone」等，由於同樣使用NTT Communications的VoIP基礎設備，因此相互間的通話免費。然而BIGLOBE的加入者之間並不能享受免費通話的服務，原因在於 BIGLOBE使用之ADSL回線來自三家不同的公司，有Fusion Communications、NTT Commu-nications與PURARA&NTT-ME。因此消費者在使用IP電話時，想要得到免費的通話服務時則就需要慎選IP電話公司。
為了抗衡在會員方面獲得領先的Yahoo!BB所推出之「BB Phone」，最近誕生了2個ISP聯盟。一個是由NTT Communications、Sony Communication Network、Nifty所組成的「三社聯盟」，旗下有OCN、So-net、@nifty等大型ISP業者，使用NTT Communications的IP網路。另一個是由KDDI、日本電信、NEC、松下電器產業組成的「四社聯盟」，旗下有DION、ODN、BIGLOBE、hi-ho等ISP業者。加盟的業者數量在不斷增加，四社聯盟於2002年11月正式決定相互連接IP電話服務，此後，東京通信網絡（TTNet）、ASAHI網絡等公司相繼加盟，已擴大到了12家公司。另外，松下電器和NEC不但加入了三社聯盟，還同時加入了四社聯盟。
隨著電信服務業者間的加盟擴大，免費通話的範圍也越來越廣。目前日本的IP電話服務大致有以下業者提供，其費用以及說明如表2。
根據日本矢野經濟研究所在2003年6月所做的IP電話市場調查，有以下的發現。
個人的IP電話用戶數的算法是將「寬頻用戶數」x「IP電話登錄比率」。2002年的個人IP電話用戶數比2001年成長約2倍，達到約308萬戶。其中，Yahoo!BB的影響最大，由於Yahoo! BB不斷在街頭促銷，以及啟動低價策略的結果，2002年VoIP爆出大量成長。
此外，IP電話成為ISP業者必備的服務，如同寬頻網路附加電子郵件信箱一樣的普及。通話費3分鐘8日圓成為業界標準。同時，合作的ISP業者之間的相互連接持續進行，隨著寬頻用戶不斷增加，2003年底VoIP用戶達532萬戶，估計2007年底可達2,788萬戶。
總和來說，個人的VoIP市場方面，以Yahoo為開端的ISP業者開始提供服務，使得免費通話服務增加﹔2003年起，IP電話專用號碼「050」開始啟動（IP電話開始可以接電話）﹔IP電話與一般傳統電話間的連接網也建立起來，2003年可以說是VoIP飛躍的一年。此外，隨著ADSL、FTTH與 CATV等寬頻服務的加速進展，IP電話的發展方向由「傳統電話的互補性服務走向替代性服務」。這個潮流的快速演進，使得傳統電話業者營收減少，對既存的電話業者造成很大的衝擊。
IP電話的企業用戶推算方式，是以5大廠商符(沖電氣工業、日本電器、富士通、日立Communication Technology、Cisco Systems)的公開發表數據作為依據。2002年底導入IP電話系統之企業有10,100家(包括IP-PBX、VoIP Gateway、Centrex等各種類以及實施實驗階段等)。至2003年底，估計有11,980家企業導入IP電話系統，預測到了2007年底會有 21,550家企業加入。
然而已經使用VoIP的企業，有實際績效的並不多，原因在於企業對於VoIP的信賴度不夠，提供服務廠商的營運以及SE的技術成熟度不足，再加上日本獨特的電話文化，企業都希望有代表號，但是在無法提供的情況下，VoIP要普及至少還要2年的時間。
企業的VoIP市場方面，以前的主流是以VoIP Gateway連接企業內部的電話交換機(PBX)，2002年開始，IP-PBX成為主流。最近備受矚目的「IP Centrex」(網際網路交換中心)於2002年底開始有業者提供服務，此外IP-VPN與廣域網路等以企業為對象的網路服務持續增加。未來IP Centrex的動向很值得注目，因為以後將會對IP電話市場帶來影響。
IP電話相關設備包括IP-PBX、VoIP Gateway設備、IP電話機等。2002年底的IP電話相關設備的市場規模與去年相比成長133.6％，約為388億日圓。2003年與2002年相比成長131.2％，約為509億日圓、預測2007年底最大可達1,280億日圓的市場規模。
直至2002年，VoIP Gateway設備是牽引市場的主力，今後IP-PBX取代傳統的PBX，IP電話機將可能成為牽動市場的主力。當企業的IP電話系統主流以IP-PBX為基礎時，則可望帶出更高的市場規模。
由目前日本VoIP的發展看來，IP電話成為傳統電話的替代品已成定局。隨著寬頻網路及無線網路技術日趨成熟，未來VoIP的趨勢將會走向VoWLAN (VoIP over WLAN)，也就是所謂的「無線區域網路語音資料整合」。使用者可以攜帶著具有VoIP功能的電話機，隨時隨地撥打IP電話，如同在使用行動電話一般，然而通話費用卻比行動電話低廉許多。可以預見當VoWLAN這樣的產品逐漸普及到一般大眾時，將會對電信服務產業帶來重整的作用。
在台灣方面，台灣網路資訊中心和台北市電腦公會成立了IP Phone互通聯盟(IPOX) ，邀集包括So-net、亞太線上、和信超媒體、台灣電訊、曜正科技等11家ISP與網路電話相關業者，共同支持070 IP電話專用號碼。如果中華電信的強大獨占壓力可以日漸解消，則以目前的寬頻環境而言，VoIP的低價通話費將產生強烈的市場需求，進而帶動IP電話未來的成長。