ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ (AI) ಸಮರದಲ್ಲಿ ಜಗತ್ತು ಎರಡು ವಿಭಿನ್ನ ದಾರಿಗಳನ್ನು ನೋಡುತ್ತಿದೆ. ಒಂದೆಡೆ ಅಮೆರಿಕದ ದೈತ್ಯ ಕಂಪನಿಗಳು (OpenAI, Google, Anthropic) ಕೋಟ್ಯಂತರ ಡಾಲರ್ ಹಣ, ಪರಮಾಣು ವಿದ್ಯುತ್ ಸ್ಥಾವರಗಳು ಮತ್ತು ಸಾವಿರಾರು ಜಿಪಿಯುಗಳನ್ನು ಬಳಸಿ ಎಐ ಮಾದರಿಗಳನ್ನು ನಿರ್ಮಿಸುತ್ತಿದ್ದರೆ, ಇನ್ನೊಂದೆಡೆ ಚೀನಾದ ಎಐ ಸಂಸ್ಥೆಗಳು ತೀವ್ರ ತಾಂತ್ರಿಕ ನಿರ್ಬಂಧಗಳ ನಡುವೆಯೂ ಕೇವಲ ಅಲ್ಗೊರಿಥಮ್ ದಕ್ಷತೆ (Algorithmic Efficiency) ಮೂಲಕ ಅತ್ಯಂತ ಅಗ್ಗದ ಹಾಗೂ ಪ್ರಭಾವಿ ಎಐ ಮಾದರಿಗಳನ್ನು ಜಗತ್ತಿಗೆ ನೀಡುತ್ತಿವೆ.

ಚೀನಾದ ಎಐ ಉತ್ಪನ್ನಗಳು ಕೇವಲ "ಅಗ್ಗದ ನಕಲು"ಗಳೇ? ಅಥವಾ ಅವು ಸಿಲಿಕಾನ್ ವ್ಯಾಲಿಯ ಏಕಸ್ವಾಮ್ಯವನ್ನು ಮುರಿಯುತ್ತಿರುವ ತಾಂತ್ರಿಕ ಕ್ರಾಂತಿಯೇ? ಈ ಪ್ರಶ್ನೆಗೆ ಉತ್ತರ ಕಂಡುಕೊಳ್ಳಲು ನಾವು ಎಐನ ಭೌತಿಕ ಮೂಲಸೌಕರ್ಯದಿಂದ ಹಿಡಿದು ಇತ್ತೀಚಿನ ಡೀಪ್‌ಸೀಕ್ (DeepSeek) ಮತ್ತು ಶಿಯೋಮಿ (Xiaomi) ಆವಿಷ್ಕಾರಗಳವರೆಗೆ ನೋಡಬೇಕಾಗುತ್ತದೆ.

೧. ಎಐ ಮಾದರಿಗಳ ಭೌತಿಕ ಮೂಲಸೌಕರ್ಯ: ಸಾಮಾನ್ಯ ಮನುಷ್ಯ ನಮೂನೆಗಳನ್ನು ತರಬೇತಿ ಮಾಡಲು ಏಕೆ ಸಾಧ್ಯವಿಲ್ಲ?

ಇಂದು ಸಾಮಾನ್ಯ ಡೆವಲಪರ್ ಅಥವಾ ಸಣ್ಣ ಸಂಸ್ಥೆಗಳು ಓಪನ್‌ಸೋರ್ಸ್ ಮಾದರಿಗಳನ್ನು ಬಳಸಿ ಅಪ್ಲಿಕೇಶನ್‌ಗಳನ್ನು ನಿರ್ಮಿಸಬಹುದು, ಆದರೆ ಜಿಪಿಟಿ-೪ ಅಥವಾ ಜೆಮಿನಿಯಂತಹ ಪ್ರಂಖರ ಎಐ ಮಾದರಿಗಳನ್ನು ಸ್ವಂತವಾಗಿ ತರಬೇತಿ (Train) ಮಾಡಲು ಸಾಧ್ಯವೇ ಇಲ್ಲ. ಇದಕ್ಕೆ ಕಾರಣ ಕೇವಲ ಕೋಡಿಂಗ್ ಅಲ್ಲ, ಅದರ ಹಿಂದೆ ಇರುವ ಬೃಹತ್ ಭೌತಿಕ ಮೂಲಸೌಕರ್ಯ (Physical Infrastructure):

ಅ) ಕಂಪ್ಯೂಟಿಂಗ್ ಸಾಮರ್ಥ್ಯ ಮತ್ತು ಜಿಪಿಯುಗಳ ಸಾಗರ

ಒಂದು ಉನ್ನತ ಎಐ ಮಾದರಿಯನ್ನು ತರಬೇತಿ ಮಾಡಲು ೧೦,೦೦೦ ದಿಂದ ೫೦,೦೦೦ ಅತ್ಯಾಧುನಿಕ Nvidia H100 ಅಥವಾ B200 GPUs ಬೇಕಾಗುತ್ತವೆ. ಇವುಗಳನ್ನು ಕೇವಲ ಸಾಲಾಗಿ ಜೋಡಿಸಿದರೆ ಸಾಲದು; ಅವುಗಳ ನಡುವೆ ಸೂಪರ್‌ಫಾಸ್ಟ್ ಡೇಟಾ ವಿನಿಮಯಕ್ಕಾಗಿ NVLink ಮತ್ತು InfiniBand ನಂತಹ ಅತ್ಯಂತ ದುಬಾರಿ ನೆಟ್‌ವರ್ಕ್ ಕೇಬಲ್‌ಗಳು ಬೇಕು.

ಆ) ವಿಆರ್‌ಎಎಮ್ (VRAM) ಮತ್ತು ಮೆಮೊರಿ ಬ್ಯಾಂಡ್‌ವಿಡ್ತ್

ಸಾಮಾನ್ಯ ಮನುಷ್ಯ ಬಳಸುವ ಗೇಮಿಂಗ್ ಕಂಪ್ಯೂಟರ್‌ನಲ್ಲಿ ೮ ಜಿಬಿ ಅಥವಾ ೨೪ ಜಿಬಿ ವಿಆರ್‌ಎಎಮ್ (RTX 4090) ಇರುತ್ತದೆ. ಆದರೆ ಕೋಟ್ಯಂತರ ಪ್ಯಾರಾಮೀಟರ್ ಹೊಂದಿರುವ ಮಾದರಿಯ ತರಬೇತಿಯ ಸಮಯದಲ್ಲಿ ಗಣಿತದ ಸಮೀಕರಣಗಳನ್ನು ಸಂಗ್ರಹಿಸಲು ಟೆರಾಬೈಟ್‌ಗಳಷ್ಟು HBM (High Bandwidth Memory) ಅಗತ್ಯವಿರುತ್ತದೆ. ಮೆಮೊರಿಯ ಅಭಾವವೇ ಸಾಮಾನ್ಯ ಮನುಷ್ಯನಿಗೆ ಅತಿ ದೊಡ್ಡ ತಡೆಗೋಡೆ.

ಇ) ವಿದ್ಯುತ್ ಸಂಪನ್ಮೂಲ ಮತ್ತು ಕೋಟಿಗಟ್ಟಲೆ ಹಣ

ಒಂದು ಪ್ರಂಖರ ಎಐ ಮಾದರಿಯನ್ನು ಒಮ್ಮೆ ತರಬೇತಿ ಮಾಡಲು ೧೦೦ ಮಿಲಿಯನ್‌ಗಿಂತಲೂ ಹೆಚ್ಚು ಡಾಲರ್‌ಗಳು (ಅಂದಾಜು ೮೦೦+ ಕೋಟಿ ರೂಪಾಯಿಗಳು) ಹಾಗೂ ಒಂದು ಸಣ್ಣ ನಗರಕ್ಕೆ ಬೇಕಾಗುವಷ್ಟು ಜಿಗಾವಾಟ್ ವಿದ್ಯುತ್ ಮತ್ತು ನೀರು (ಕೂಲಿಂಗ್ ಸಿಸ್ಟಮ್‌ಗಾಗಿ) ಖರ್ಚಾಗುತ್ತದೆ!

೨. KV ಕ್ಯಾಚಿಂಗ್ (KV Caching) ಎಂದರೇನು?

ಎಐ ಮಾದರಿಗಳು ಪಠ್ಯವನ್ನು ಸೃಷ್ಟಿಸುವಾಗ ಎದುರಿಸುವ ಅತಿ ದೊಡ್ಡ ತಾಂತ್ರಿಕ ಸವಾಲನ್ನು ಅರ್ಥಮಾಡಿಕೊಳ್ಳಲು KV Caching (Key-Value Caching) ನ ಅರಿವು ಅಗತ್ಯ.

ಟ್ರಾನ್ಸ್‌ಫಾರ್ಮರ್ (Transformer) ಆಧಾರಿತ ಎಐ ಮಾದರಿಗಳು ಪ್ರತಿಯೊಂದು ಹೊಸ ಪದವನ್ನು ಬರೆಯುವಾಗ, ಹಿಂದೆ ಬರೆದ ಎಲ್ಲಾ ಪದಗಳನ್ನು ಮರು-ವಿಶ್ಲೇಷಣೆ (Attention Mechanism) ಮಾಡಬೇಕಾಗುತ್ತದೆ.

  • ಉದಾಹರಣೆಗೆ, ನೀವು ೧೦,೦೦೦ ಪದಗಳ ಸುದೀರ್ಘ ಪ್ರಾಂಪ್ಟ್ ನೀಡಿದಾಗ, ಮಾದರಿಯು ಪ್ರತಿಯೊಂದು ಹೊಸ ಪದಕ್ಕೂ ಹಿಂದೆ ನೀಡಿದ ೧೦,೦೦೦ ಪದಗಳ ಗಣಿತದ ವೆಕ್ಟರ್‌ಗಳನ್ನು (K - Key, V - Value) ಮರಳಿ ಲೆಕ್ಕಹಾಕಬೇಕಾಗುತ್ತದೆ.

  • ವಿಧಾನ: ಈ ಸಮಯ ಮತ್ತು ಶಕ್ತಿಯನ್ನು ಉಳಿಸಲು, ಹಿಂದೆ ಲೆಕ್ಕಹಾಕಿದ K ಮತ್ತು V ಮೌಲ್ಯಗಳನ್ನು ಜಿಪಿಯುವಿನ ಮೆಮೊರಿಯಲ್ಲಿ (VRAM) ಕಾಯ್ದಿರಿಸಲಾಗುತ್ತದೆ. ಇದನ್ನೇ KV Caching ಎನ್ನಲಾಗುತ್ತದೆ.

  • ಸಮಸ್ಯೆ: ಸಂಭಾಷಣೆ ಬೆಳೆದಂತೆ ಅಥವಾ ಕಾ clearContext Length (ಉದಾಹರಣೆಗೆ ೧ ಲಕ್ಷ ಪದಗಳು) ಹೆಚ್ಚಾದಂತೆ, ಈ KV Cache ಗಾತ್ರ ಎಷ್ಟು ದೊಡ್ಡದಾಗುತ್ತದೆ ಎಂದರೆ ಅದು ಜಿಪಿಯುವಿನ ಇಡೀ ಮೆಮೊರಿಯನ್ನು ನುಂಗಿಹಾಕುತ್ತದೆ! ಇದರಿಂದ ಎಐ ಮಾದರಿಗಳ ಕಾರ್ಯಾಚರಣೆ (Inference) ಅತ್ಯಂತ ದುಬಾರಿಯಾಗುತ್ತದೆ.

೩. ಚೀನಾದ ಎಐ ಸಂಸ್ಥೆಗಳು ಮತ್ತು ಅವರ ತಾಂತ್ರಿಕ ಮಹಾ-ಆವಿಷ್ಕಾರಗಳು

ಅಮೆರಿಕವು ಚೀನಾದ ಮೇಲೆ ಅತ್ಯಾಧುನಿಕ ಎಐ ಚಿಪ್‌ಗಳ (Nvidia H100) ರಫ್ತು ನಿಷೇಧ ಹೇರಿದಾಗ, ಚೀನಾ ಸ ಸುಮ್ಮನೆ ಕುಳಿತುಕೊಳ್ಳಲಿಲ್ಲ. ಲಭ್ಯವಿದ್ದ ಹಳೆಯ ಜಿಪಿಯುಗಳಲ್ಲೇ ಅಸಾಧಾರಣ ದಕ್ಷತೆ ತರಲು ಅವರು ಅಲ್ಗೊರಿಥಮಿಕ್ ಕ್ರಾಂತಿ ಮಾಡಿದರು:

[ ಅಮೆರಿಕದ ದಾರಿ ] ──> ಧನಬಲ + ಹೆಚ್ಚು GPUs ──> ದುಬಾರಿ ಕ್ಲೋಸ್ಡ್ ಮಾಡೆಲ್ (Closed Models)

[ ಚೀನಾದ ದಾರಿ ]  ──> MLA + KV ಕಂಪ್ರೆಷನ್  ──> ಅಗ್ಗದ ಓಪನ್-ವೇಟ್ಸ್ ಮಾಡೆಲ್ (Open-Weights)

೧. ಡೀಪ್‌ಸೀಕ್ (DeepSeek) ನ 'MLA' ಕ್ರಾಂತಿ

ಚೀನಾದ DeepSeek ಸಂಸ್ಥೆಯು KV Caching ಸಮಸ್ಯೆಗೆ ಕಂಡುಹಿಡಿದ ಪರಿಹಾರ ಇಡೀ ಎಐ ಜಗತ್ತನ್ನು ಬೆರಗುಗೊಳಿಸಿದೆ. ಅವರು Multi-head Latent Attention (MLA) ಎಂಬ ನವೀನ ತಂತ್ರಜ್ಞಾನವನ್ನು ಪರಿಚಯಿಸಿದರು.

  • ಸಾಂಪ್ರದಾಯಿಕ ಮಾದರಿಗಳು KV Cache ಅನ್ನು ಬೃಹತ್ ಗಾತ್ರದಲ್ಲಿ ಸಂಗ್ರಹಿಸಿದರೆ, DeepSeek ಅದನ್ನು ಅತ್ಯಂತ ಸಣ್ಣ "ಲ್ಯಾಟೆಂಟ್ ವೆಕ್ಟರ್" ಆಗಿ ಸಂಕುಚಿತಗೊಳಿಸುತ್ತದೆ (Low-rank Compression).

  • ಫಲಿತಾಂಶ: KV Cache ಮೆಮೊರಿ ಬಳಕೆಯಲ್ಲಿ ಶೇಕಡಾ ೯೦% ಕ್ಕಿಂತ ಹೆಚ್ಚಿನ ಉಳಿತಾಯ! ಇದರಿಂದ ಅಮೆರಿಕದ ಮಾಡೆಲ್‌ಗಳಿಗೆ ಹೋಲಿಸಿದರೆ ಡೀಪ್‌ಸೀಕ್ ತೀರ ಕಡಿಮೆ ವೆಚ್ಚದಲ್ಲಿ ಅತಿ ಸುದೀರ್ಘ ಪ್ರಾಂಪ್ಟ್‌ಗಳನ್ನು ಪ್ರೊಸೆಸ್ ಮಾಡುತ್ತದೆ.

೨. ಶಿಯೋಮಿ (Xiaomi) ಮತ್ತು ಸ್ಲೈಡಿಂಗ್ ವಿಂಡೋ (Sliding Window Attention)

ಸ್ಮಾರ್ಟ್‌ಫೋನ್ ದೈತ್ಯ Xiaomi ಮತ್ತು ಚೀನಾದ ಸಂಶೋಧಕರು ಎಐ ಮಾದರಿಗಳನ್ನು ಕೇವಲ ಕ್ಲೌಡ್‌ನಲ್ಲಿ ಮಾತ್ರವಲ್ಲದೆ, ಮೊಬೈಲ್ ಮತ್ತು ಎಡ್ಜ್ ಡಿವೈಸ್‌ಗಳಲ್ಲಿ ಚಲಾಯಿಸಲು Sliding Window Attention (SWA) ತಂತ್ರಜ್ಞಾನವನ್ನು ಪರಿಣಾಮಕಾರಿಯಾಗಿ ಬಳಸುತ್ತಿದ್ದಾರೆ.

  • ಇಡೀ ೧ ಲಕ್ಷ ಪದಗಳ ಪ್ರಾಂಪ್ಟ್ ಅನ್ನು ಒಂದೇ ಬಾರಿಗೆ ಮೆಮೊರಿಯಲ್ಲಿ ಇಟ್ಟುಕೊಳ್ಳುವ ಬದಲು, ಎಐ ಕೇವಲ ಇತ್ತೀಚಿನ ನಿರ್ದಿಷ್ಟ ಪದಗಳ "ಕಿಟಕಿ"ಯನ್ನು (Window) ಮಾತ್ರ ಸಕ್ರಿಯವಾಗಿ ಗಮನಿಸುತ್ತದೆ.

೩. ಕ್ರಾಂತಿ ಮಾಡುತ್ತಿರುವ ಪ್ರಮುಖ ಚೀನೀ ಎಐ ಸಂಸ್ಥೆಗಳು:

  • DeepSeek: DeepSeek-V3 ಮತ್ತು R1 ಮಾದರಿಗಳ ಮೂಲಕ ಅಮೆರಿಕದ ಪ್ರಮುಖ ಮಾಡೆಲ್‌ಗಳಿಗೆ ಸಮನಾದ ಪ್ರದರ್ಶನವನ್ನು ೧/೧೦ ರಷ್ಟು ಕಡಿಮೆ ವೆಚ್ಚದಲ್ಲಿ ನೀಡುತ್ತಿದೆ.

  • Alibaba (Qwen): ಇಂದು ಜಗತ್ತಿನ ಅತ್ಯುತ್ತಮ Open-Weights ಮಾದರಿಗಳಲ್ಲಿ Qwen ಸರಣಿ ಮೊದಲ ಸಾಲಿನಲ್ಲಿ ನಿಲ್ಲುತ್ತದೆ.

  • Moonshot AI (Kimi): Kimi K3 ಮಾದರಿಯು ಸುದೀರ್ಘ ಕೋಡಿಂಗ್ ಮತ್ತು ಏಜೆಂಟಿಕ್ ಟಾಸ್ಕ್‌ಗಳಲ್ಲಿ ಹೊಸ ಮೈಲಿಗಲ್ಲು ಸ್ಥಾಪಿಸಿದೆ.

  • ByteDance & Zhipu AI: ದೈನಂದಿನ ಬಳಕೆ ಹಾಗೂ ವಿಡಿಯೋ ಎಐ ರಂಗದಲ್ಲಿ ಅತ್ಯಂತ ಅಗ್ಗದ API ಗಳನ್ನು ಒದಗಿಸುತ್ತಿವೆ.

೪. ಸಿಲಿಕಾನ್ ವ್ಯಾಲಿ vs ಚೀನಾ: ಎರಡು ವಿಭಿನ್ನ ಯುದ್ಧ ತಂತ್ರಗಳು

ತೌಲನಿಕ ಅಂಶಗಳುಅಮೆರಿಕದ ಕ್ಲೋಸ್ಡ್ ಕಂಪನಿಗಳು (OpenAI, Anthropic)ಚೀನಾದ ಓಪನ್-ಸೋರ್ಸ್ ಸಂಸ್ಥೆಗಳು (DeepSeek, Qwen) ತಂತ್ರಜ್ಞಾನದ ಶೈಲಿ ಬ್ರೂಟ್-ಫೋರ್ಸ್ ಸ್ಕೇಲಿಂಗ್ (ಹೆಚ್ಚು ಹಣ, ಹೆಚ್ಚು ಜಿಪಿಯು) ಭಾರಿ ಅಲ್ಗೊರಿಥಮಿಕ್ ಕಂಪ್ರೆಷನ್ (MLA, SWA, MoE) ಮಾಡೆಲ್ ಲಭ್ಯತೆಮುಚ್ಚಿದ ಕೋಡ್ (Closed API, ಸಬ್‌ಸ್ಕ್ರಿಪ್ಷನ್ ಪಾವತಿ) ತೆರೆದ ವೇಟ್‌ಗಳು (Open-Weights & Low Cost API) ಮೂಲ ಉದ್ದೇಶ ಜಾಗತಿಕ ಏಕಸ್ವಾಮ್ಯ ಮತ್ತು ವಾಣಿಜ್ಯ ಲಾಭಮೂಲಸೌಕರ್ಯದ ಮಿತಿಗಳನ್ನು ಮೀರಿ ಅಗ್ಗದ ದರದಲ್ಲಿ ಎಐ ನೀಡುವುದು

ಅಂತಿಮ ಸತ್ಯ

ಚೀನಾದ ಎಐ ಉತ್ಪನ್ನಗಳನ್ನು "ಅಗ್ಗದ ನಕಲು" ಎಂದು ತಳ್ಳಿಹಾಕುವ ದಿನಗಳು ಮುಗಿದುಹೋಗಿವೆ. ಅಮೆರಿಕದ ಕಂಪನಿಗಳು ಮೂಲಸೌಕರ್ಯಕ್ಕೆ ಕೋಟಿ ಕೋಟಿ ಹಣ ಸುರಿಯುತ್ತಿದ್ದರೆ, ಚೀನಾದ ಸಂಶೋಧಕರು ಗಣಿತ ಮತ್ತು ಅಲ್ಗೊರಿಥಮ್ ಮಟ್ಟದಲ್ಲಿ ದಕ್ಷತೆಯನ್ನು ಸಾಧಿಸಿ ಎಐ ಅನ್ನು ಅಗ್ಗವಾಗಿಸುತ್ತಿದ್ದಾರೆ.

ಡೀಪ್‌ಸೀಕ್‌ನಂತಹ ಸಂಸ್ಥೆಗಳು ಸಾಧಿಸಿದ KV Cache ಕ್ರಾಂತಿಯು ಎಐ ತಂತ್ರಜ್ಞಾನವು ಕೇವಲ ಕೆಲವೇ ಶ್ರೀಮಂತ ಕಂಪನಿಗಳ ಸ್ವತ್ತಾಗದಂತೆ ತಡೆಯುತ್ತಿದೆ. ಈ ಸ್ಪರ್ಧೆಯ ಅಂತಿಮ ಲಾಭಿ ಮಾತ್ರ ಜಾಗತಿಕ ಡೆವಲಪರ್‌ಗಳಿಗೆ ಮತ್ತು ಸಾಮಾನ್ಯ ಬಳಕೆದಾರರಿಗೆ ಎನ್ನುವುದರಲ್ಲಿ ಸಂಶಯವಿಲ್ಲ!