diff --git a/README.ja-JP.md b/README.ja-JP.md
new file mode 100644
index 00000000000..3b64fd837f6
--- /dev/null
+++ b/README.ja-JP.md
@@ -0,0 +1,243 @@
+# 💫 Intel® LLM Library for PyTorch*
+
+ < English | 中文 | 日本語 >
+
+
+**`IPEX-LLM`**は、Intel ***CPU***、***GPU***（例：iGPUを搭載したローカルPC、Arc、Flex、MaxなどのディスクリートGPU）および***NPU***[^1]用のLLM加速ライブラリです。
+> [!NOTE]
+> - *これは、**`llama.cpp`**、**`transformers`**、**`bitsandbytes`**、**`vLLM`**、**`qlora`**、**`AutoGPTQ`**、**`AutoAWQ`**などの優れた作業に基づいて構築されています。*
+> - *これは、[llama.cpp](docs/mddocs/Quickstart/llama_cpp_quickstart.md)、[Ollama](docs/mddocs/Quickstart/ollama_quickstart.md)、[HuggingFace transformers](python/llm/example/GPU/HuggingFace)、[LangChain](python/llm/example/GPU/LangChain)、[LlamaIndex](python/llm/example/GPU/LlamaIndex)、[vLLM](docs/mddocs/Quickstart/vLLM_quickstart.md)、[Text-Generation-WebUI](docs/mddocs/Quickstart/webui_quickstart.md)、[DeepSpeed-AutoTP](python/llm/example/GPU/Deepspeed-AutoTP)、[FastChat](docs/mddocs/Quickstart/fastchat_quickstart.md)、[Axolotl](docs/mddocs/Quickstart/axolotl_quickstart.md)、[HuggingFace PEFT](python/llm/example/GPU/LLM-Finetuning)、[HuggingFace TRL](python/llm/example/GPU/LLM-Finetuning/DPO)、[AutoGen](python/llm/example/CPU/Applications/autogen)、[ModeScope](python/llm/example/GPU/ModelScope-Models)とシームレスに統合されています。*
+> - ***70以上のモデル**が`ipex-llm`で最適化/検証されており（例：Llama、Phi、Mistral、Mixtral、Whisper、Qwen、MiniCPM、Qwen-VL、MiniCPM-Vなど）、最先端の**LLM最適化**、**XPU加速**、および**低ビット（FP8/FP6/FP4/INT4）サポート**を提供しています。完全なリストは[こちら](#verified-models)をご覧ください。*
+
+## 最新の更新 🔥
+- [2024/07] Microsoftの**GraphRAG**をIntel GPUで実行するサポートを追加しました。クイックスタートガイドは[こちら](docs/mddocs/Quickstart/graphrag_quickstart.md)をご覧ください。
+- [2024/07] 大規模マルチモーダルモデルのサポートを大幅に強化しました。詳細は[こちら](python/llm/example/GPU/HuggingFace/Multimodal)をご覧ください。
+- [2024/07] Intel [GPU](python/llm/example/GPU/HuggingFace/More-Data-Types)で**FP6**のサポートを追加しました。
+- [2024/06] Intel Core Ultraプロセッサの**NPU**サポートを実験的に追加しました。詳細は[こちら](python/llm/example/NPU/HF-Transformers-AutoModels)をご覧ください。
+- [2024/06] **パイプライン並列**[推論](python/llm/example/GPU/Pipeline-Parallel-Inference)のサポートを大幅に強化しました。これにより、2つ以上のIntel GPU（例：Arc）を使用して大規模なLLMを実行することが容易になります。
+- [2024/06] Intel [GPU](docs/mddocs/Quickstart/ragflow_quickstart.md)で**RAGFlow**を実行するサポートを追加しました。
+- [2024/05] **Axolotl**を使用してIntel GPUでLLMの微調整を行うサポートを追加しました。クイックスタートガイドは[こちら](docs/mddocs/Quickstart/axolotl_quickstart.md)をご覧ください。
+
+さらに多くの更新
+
+
+- [2024/05] **Docker** [images](#docker)を使用して、`ipex-llm`の推論、サービス、微調整を簡単に実行できます。
+- [2024/05] Windowsで`ipex-llm`をインストールするための"*[one command](docs/mddocs/Quickstart/install_windows_gpu.md#install-ipex-llm)*"を追加しました。
+- [2024/04] `ipex-llm`を使用してIntel GPUで**Open WebUI**を実行するサポートを追加しました。クイックスタートガイドは[こちら](docs/mddocs/Quickstart/open_webui_with_ollama_quickstart.md)をご覧ください。
+- [2024/04] `ipex-llm`を使用してIntel GPUで**Llama 3**を実行するサポートを追加しました。クイックスタートガイドは[こちら](docs/mddocs/Quickstart/llama3_llamacpp_ollama_quickstart.md)をご覧ください。
+- [2024/04] `ipex-llm`はIntel [GPU](python/llm/example/GPU/HuggingFace/LLM/llama3)および[CPU](python/llm/example/CPU/HF-Transformers-AutoModels/Model/llama3)で**Llama 3**をサポートしています。
+- [2024/04] `ipex-llm`はC++インターフェースを提供しており、Intel GPUで[llama.cpp](docs/mddocs/Quickstart/llama_cpp_quickstart.md)および[ollama](docs/mddocs/Quickstart/ollama_quickstart.md)を実行するための加速バックエンドとして使用できます。
+- [2024/03] `bigdl-llm`は`ipex-llm`に改名されました（移行ガイドは[こちら](docs/mddocs/Quickstart/bigdl_llm_migration.md)をご覧ください）。元の`BigDL`プロジェクトは[こちら](https://github.com/intel-analytics/bigdl-2.x)で見つけることができます。
+- [2024/02] `ipex-llm`は[ModelScope](python/llm/example/GPU/ModelScope-Models)（[魔搭](python/llm/example/CPU/ModelScope-Models)）から直接モデルをロードするサポートを追加しました。
+- [2024/02] `ipex-llm`は初期の**INT2**サポートを追加しました（llama.cpp [IQ2](python/llm/example/GPU/HuggingFace/Advanced-Quantizations/GGUF-IQ2)メカニズムに基づく）。これにより、16GBのVRAMを持つIntel GPUで大規模なLLM（例：Mixtral-8x7B）を実行することが可能になります。
+- [2024/02] ユーザーは[Text-Generation-WebUI](https://github.com/intel-analytics/text-generation-webui) GUIを通じて`ipex-llm`を使用できます。
+- [2024/02] `ipex-llm`は*[Self-Speculative Decoding](docs/mddocs/Inference/Self_Speculative_Decoding.md)*をサポートしており、Intel [GPU](python/llm/example/GPU/Speculative-Decoding)および[CPU](python/llm/example/CPU/Speculative-Decoding)でのFP16およびBF16推論のレイテンシを**約30％**短縮します。
+- [2024/02] `ipex-llm`はIntel GPUでの包括的なLLM微調整をサポートしています（[LoRA](python/llm/example/GPU/LLM-Finetuning/LoRA)、[QLoRA](python/llm/example/GPU/LLM-Finetuning/QLoRA)、[DPO](python/llm/example/GPU/LLM-Finetuning/DPO)、[QA-LoRA](python/llm/example/GPU/LLM-Finetuning/QA-LoRA)、[ReLoRA](python/llm/example/GPU/LLM-Finetuning/ReLora)を含む）。
+- [2024/01] `ipex-llm` [QLoRA](python/llm/example/GPU/LLM-Finetuning/QLoRA)を使用して、8つのIntel Max 1550 GPUで[Standford-Alpaca](python/llm/example/GPU/LLM-Finetuning/QLoRA/alpaca-qlora)を使用してLLaMA2-7Bを**21分**、LLaMA2-70Bを**3.14時間**で微調整しました（ブログは[こちら](https://www.intel.com/content/www/us/en/developer/articles/technical/finetuning-llms-on-intel-gpus-using-bigdl-llm.html)をご覧ください）。
+- [2023/12] `ipex-llm`は[ReLoRA](python/llm/example/GPU/LLM-Finetuning/ReLora)をサポートしています（詳細は*["ReLoRA: High-Rank Training Through Low-Rank Updates"](https://arxiv.org/abs/2307.05695)*をご覧ください）。
+- [2023/12] `ipex-llm`はIntel [GPU](python/llm/example/GPU/HuggingFace/LLM/mixtral)および[CPU](python/llm/example/CPU/HF-Transformers-AutoModels/Model/mixtral)で[Mixtral-8x7B](python/llm/example/GPU/HuggingFace/LLM/mixtral)をサポートしています。
+- [2023/12] `ipex-llm`は[QA-LoRA](python/llm/example/GPU/LLM-Finetuning/QA-LoRA)をサポートしています（詳細は*["QA-LoRA: Quantization-Aware Low-Rank Adaptation of Large Language Models"](https://arxiv.org/abs/2309.14717)*をご覧ください）。
+- [2023/12] `ipex-llm`はIntel ***GPU***での[FP8およびFP4推論](python/llm/example/GPU/HuggingFace/More-Data-Types)をサポートしています。
+- [2023/11] 初期のサポートとして、[GGUF](python/llm/example/GPU/HuggingFace/Advanced-Quantizations/GGUF)、[AWQ](python/llm/example/GPU/HuggingFace/Advanced-Quantizations/AWQ)、および[GPTQ](python/llm/example/GPU/HuggingFace/Advanced-Quantizations/GPTQ)モデルを直接`ipex-llm`にロードすることができます。
+- [2023/11] `ipex-llm`はIntel [GPU](python/llm/example/GPU/vLLM-Serving)および[CPU](python/llm/example/CPU/vLLM-Serving)での[vLLM連続バッチ処理](python/llm/example/GPU/vLLM-Serving)をサポートしています。
+- [2023/10] `ipex-llm`はIntel [GPU](python/llm/example/GPU/LLM-Finetuning/QLoRA)および[CPU](python/llm/example/CPU/QLoRA-FineTuning)での[QLoRA微調整](python/llm/example/GPU/LLM-Finetuning/QLoRA)をサポートしています。
+- [2023/10] `ipex-llm`はIntel GPUおよびCPUでの[FastChatサービス](python/llm/src/ipex_llm/llm/serving)をサポートしています。
+- [2023/09] `ipex-llm`は[Intel GPU](python/llm/example/GPU)（iGPU、Arc、Flex、MAXを含む）をサポートしています。
+- [2023/09] `ipex-llm` [チュートリアル](https://github.com/intel-analytics/ipex-llm-tutorial)が公開されました。
+
+
- < English | 中文 >
+ < English | 中文 | 日本語 >
**`IPEX-LLM`** is an LLM acceleration library for Intel ***CPU***, ***GPU*** *(e.g., local PC with iGPU, discrete GPU such as Arc, Flex and Max)* and ***NPU*** [^1] .
diff --git a/README.zh-CN.md b/README.zh-CN.md
index 7ff535235d8..4976de74615 100644
--- a/README.zh-CN.md
+++ b/README.zh-CN.md
@@ -5,7 +5,7 @@
# Intel® LLM Library for PyTorch*
- < English | 中文 >
+ < English | 中文 | 日本語 >
**`ipex-llm`** 是一个将大语言模型高效地运行于 Intel CPU，GPU *(如搭载集成显卡的个人电脑，Arc 独立显卡等)* 和 NPU 上的大模型 XPU 加速库[^1]。
+
+ 
+
+ 
+
+ 
+
+ 
+
+ 
+
+