remaining changes for rls2.6 (#3502)

* remaining changes for rls2.6

* expression update to align with cpu-device branch

Author: ZailiWang

docs/_static/htmls/tbl_deepspeed.html

@@ -11,212 +11,218 @@
     <tr class="row-even">
       <td><p>LLAMA</p></td>
       <td><p>meta-llama/Llama-2-7b-hf</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
     </tr>
     <tr class="row-odd">
       <td><p>LLAMA</p></td>
       <td><p>meta-llama/Llama-2-13b-hf</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
     </tr>
     <tr class="row-even">
       <td><p>LLAMA</p></td>
       <td><p>meta-llama/Llama-2-70b-hf</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
     </tr>
     <tr class="row-odd">
       <td><p>LLAMA</p></td>
       <td><p>meta-llama/Meta-Llama-3-8B</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
     </tr>
     <tr class="row-even">
       <td><p>LLAMA</p></td>
       <td><p>meta-llama/Meta-Llama-3-70B</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
     </tr>
     <tr class="row-odd">
       <td><p>LLAMA</p></td>
       <td><p>meta-llama/Meta-Llama-3.1-8B-Instruct</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
     </tr>
     <tr class="row-even">
       <td><p>LLAMA</p></td>
       <td><p>meta-llama/Llama-3.2-3B-Instruct</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
     </tr>
     <tr class="row-odd">
       <td><p>LLAMA</p></td>
       <td><p>meta-llama/Llama-3.2-11B-Vision-Instruct</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
     </tr>
     <tr class="row-even">
       <td><p>GPT-J</p></td>
       <td><p>EleutherAI/gpt-j-6b</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
     </tr>
     <tr class="row-odd">
       <td><p>GPT-NEOX</p></td>
       <td><p>EleutherAI/gpt-neox-20b</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
     </tr>
     <tr class="row-even">
       <td><p>DOLLY</p></td>
       <td><p>databricks/dolly-v2-12b</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
     </tr>
     <tr class="row-odd">
       <td><p>FALCON</p></td>
       <td><p>tiiuae/falcon-11b</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
     </tr>
     <tr class="row-even">
       <td><p>FALCON</p></td>
       <td><p>tiiuae/falcon-40b</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
     </tr>
     <tr class="row-odd">
       <td><p>OPT</p></td>
       <td><p>facebook/opt-30b</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
     </tr>
     <tr class="row-even">
       <td><p>OPT</p></td>
       <td><p>facebook/opt-1.3b</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
     </tr>
     <tr class="row-odd">
       <td><p>Bloom</p></td>
       <td><p>bigscience/bloom-1b7</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
     </tr>
     <tr class="row-even">
       <td><p>CodeGen</p></td>
       <td><p>Salesforce/codegen-2B-multi</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
     </tr>
     <tr class="row-odd">
       <td><p>Baichuan</p></td>
       <td><p>baichuan-inc/Baichuan2-7B-Chat</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
     </tr>
     <tr class="row-even">
       <td><p>Baichuan</p></td>
       <td><p>baichuan-inc/Baichuan2-13B-Chat</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
     </tr>
     <tr class="row-odd">
       <td><p>Baichuan</p></td>
       <td><p>baichuan-inc/Baichuan-13B-Chat</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
     </tr>
     <tr class="row-even">
       <td><p>GPTBigCode</p></td>
       <td><p>bigcode/starcoder</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
     </tr>
     <tr class="row-odd">
       <td><p>T5</p></td>
       <td><p>google/flan-t5-xl</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
     </tr>
     <tr class="row-even">
       <td><p>Mistral</p></td>
       <td><p>mistralai/Mistral-7B-v0.1</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
     </tr>
     <tr class="row-odd">
       <td><p>Mistral</p></td>
       <td><p>mistralai/Mixtral-8x7B-v0.1</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
     </tr>
     <tr class="row-even">
       <td><p>MPT</p></td>
       <td><p>mosaicml/mpt-7b</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
     </tr>
     <tr class="row-odd">
       <td><p>Stablelm</p></td>
       <td><p>stabilityai/stablelm-2-1_6b</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
     </tr>
     <tr class="row-even">
       <td><p>Qwen</p></td>
       <td><p>Qwen/Qwen-7B-Chat</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
     </tr>
     <tr class="row-odd">
       <td><p>Qwen</p></td>
       <td><p>Qwen/Qwen2-7B</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
     </tr>
     <tr class="row-even">
       <td><p>GIT</p></td>
       <td><p>microsoft/git-base</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
     </tr>
     <tr class="row-odd">
       <td><p>Phi</p></td>
       <td><p>microsoft/phi-2</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
     </tr>
     <tr class="row-even">
       <td><p>Phi</p></td>
       <td><p>microsoft/Phi-3-mini-4k-instruct</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
     </tr>
     <tr class="row-odd">
       <td><p>Phi</p></td>
       <td><p>microsoft/Phi-3-mini-128k-instruct</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
     </tr>
     <tr class="row-even">
       <td><p>Phi</p></td>
       <td><p>microsoft/Phi-3-medium-4k-instruct</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
     </tr>
     <tr class="row-odd">
       <td><p>Phi</p></td>
       <td><p>microsoft/Phi-3-medium-128k-instruct</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
     </tr>
     <tr class="row-even">
       <td><p>Whisper</p></td>
       <td><p>openai/whisper-large-v2</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
-      <td><p style="text-align: center; vertical-align: middle;">🟩</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
+    </tr>
+    <tr class="row-odd">
+      <td><p>DeepSeek</p></td>
+      <td><p>deepseek-ai/DeepSeek-V2.5-1210</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
+      <td><p style="text-align: center; vertical-align: middle;">✅</p></td>
     </tr>
   </tbody>
 </table>