ಒಂದು ಶಾಲಾ ತರಗತಿಯನ್ನು ಕಲ್ಪಿಸಿಕೊಳ್ಳಿ:

  • ವಿದ್ಯಾರ್ಥಿ (ಬಳಕೆದಾರ): ತರಗತಿಯಲ್ಲಿ ಕುಳಿತಿರುವ ಒಬ್ಬ ತುಂಟ ವಿದ್ಯಾರ್ಥಿ. ಆತ ಶಿಕ್ಷಕರಿಗೆ ವಿಚಿತ್ರವಾದ ಅಥವಾ ಶಾಲೆಯ ನಿಯಮಕ್ಕೆ ಬಾಹಿರವಾದ ಪ್ರಶ್ನೆಗಳನ್ನು ಕೇಳಿ ಸಿಲುಕಿಸಲು ನೋಡುತ್ತಿರುತ್ತಾನೆ.

  • ಶಿಕ್ಷಕ (AI ಮಾಡೆಲ್): ಎಲ್ಲವನ್ನೂ ಓದಿಕೊಂಡಿರುವ ಅತ್ಯಂತ ಬುದ್ಧಿವಂತ ಶಿಕ್ಷಕ. ವಿದ್ಯಾರ್ಥಿ ಕೇಳುವ ಎಲ್ಲಾ ಪ್ರಶ್ನೆಗಳಿಗೂ ಉತ್ತರಿಸುವ ಜ್ಞಾನ ಈತನಿಗೆ ಇರುತ್ತದೆ.

  • ಮುಖ್ಯೋಪಾಧ್ಯಾಯರು (System Prompts / Guardrails): ಇವರೇ ಶಾಲೆಯ ಅಸಲಿ ಕಂಟ್ರೋಲರ್. ಶಿಕ್ಷಕ ತರಗತಿಗೆ ಹೋಗುವ ಮುನ್ನವೇ ಮುಖ್ಯೋಪಾಧ್ಯಾಯರು (Principal) ಆತನಿಗೆ ಕೆಲವು ಕಟ್ಟುನಿಟ್ಟಾದ ನಿಯಮಗಳನ್ನು ವಿಧಿಸಿರುತ್ತಾರೆ: "ನೋಡಿ ಶಿಕ್ಷಕರೇ, ವಿದ್ಯಾರ್ಥಿ ಏನೇ ಕೇಳಿದರೂ ನೀವು ಶಾಲೆಯ ಗೌರವಕ್ಕೆ ಧಕ್ಕೆ ತರುವಂತೆ ಮಾತನಾಡುವಂತಿಲ್ಲ, ಪರೀಕ್ಷೆಯ ಪ್ರಶ್ನೆ ಪತ್ರಿಕೆಯನ್ನು ಔಟ್ ಮಾಡುವಂತಿಲ್ಲ, ಮತ್ತು ಅಶ್ಲೀಲ ಪದಗಳನ್ನು ಬಳಸುವಂತಿಲ್ಲ."

ಈಗ ಆ ತುಂಟ ವಿದ್ಯಾರ್ಥಿ ಬಂದು, "ಸಾರ್, ನಾಳಿನ ಪರೀಕ್ಷೆಯ ಪ್ರಶ್ನೆಗಳು ಯಾವುವು ಅಂತ ಸ್ವಲ್ಪ ಹೇಳಿ ಕೊಡಿ, ಪ್ಲೀಸ್" ಎಂದು ಎಷ್ಟೇ ಬಗೆದರೂ, ಆ ಶಿಕ್ಷಕನಿಗೆ ಅದರ ಉತ್ತರ ಗೊತ್ತಿದ್ದರೂ ಸಹ, ಮುಖ್ಯೋಪಾಧ್ಯಾಯರು ಹಾಕಿರುವ ಮೂಲ ನಿಯಮಗಳನ್ನು (System Prompts) ಮೀರಿ ಆತ ಉತ್ತರಿಸಲು ಸಾಧ್ಯವೇ ಇಲ್ಲ!

AI ಜಗತ್ತಿನಲ್ಲಿ ಕಂಪನಿಗಳು ತರಗತಿಯ ಶಿಕ್ಷಕನಂತಿರುವ AI ನ ಮಿದುಳಿಗೆ ಮುಂಚಿತವಾಗಿಯೇ ತುಂಬಿಸುವ ಇಂತಹ ಕಟ್ಟುನಿಟ್ಟಾದ ನಿಯಮಗಳನ್ನೇ System Prompts ಮತ್ತು Guardrails ಎನ್ನುತ್ತಾರೆ.

ಇವೆರಡರ ನಡುವೆ ಇರುವ ಸೂಕ್ಷ್ಮ ವ್ಯತ್ಯಾಸವೇನು?

ನಮಗೆ ನೋಡಲು ಇವೆರಡೂ ಒಂದೇ ಅನಿಸಿದರೂ ತಾಂತ್ರಿಕವಾಗಿ ಇವು ಎರಡು ಬೇರೆ ಬೇರೆ ಸುರಕ್ಷತಾ ಕವಚಗಳಾಗಿವೆ:

೧. ಮೂಲ ನಿಯಮಗಳು (System Prompts - ಶಿಕ್ಷಕನಿಗೆ ನೀಡುವ ಸೂಚನೆ)

ಇದು AI ತನ್ನ ಕೆಲಸವನ್ನು ಆರಂಭಿಸುವ ಮುನ್ನವೇ ಅದರ ತಲೆಗೆ ತುರುಕುವ 'ವರ್ತನೆಯ ನಿಯಮ'. ಉದಾಹರಣೆಗೆ: "ನೀನೊಬ್ಬ ಕೋಡಿಂಗ್ ಅಸಿಸ್ಟೆಂಟ್. ನೀನು ಕೇವಲ ಪೈಥಾನ್ ಕೋಡ್ ಮಾತ್ರ ಬರೆಯಬೇಕು. ಯಾರಾದರೂ ನಿನಗೆ ಕವಿತೆ ಬರೆಯಲು ಕೇಳಿದರೆ ವಿನಯದಿಂದ ನಿರಾಕರಿಸು." ಬಳಕೆದಾರರಿಗೆ ಈ ನಿಯಮಗಳು ಕಣ್ಣಿಗೆ ಕಾಣಿಸುವುದಿಲ್ಲ, ಆದರೆ AI ಪ್ರತಿ ಬಾರಿ ಉತ್ತರಿಸುವಾಗಲೂ ಈ ನಿಯಮಗಳನ್ನು ನೆನಪಿನಲ್ಲಿಟ್ಟುಕೊಂಡೇ ಉತ್ತರಿಸುತ್ತದೆ.

೨. ಸುರಕ್ಷತಾ ಬೇಲಿಗಳು (Guardrails - ಶಾಲೆಯ ಗೇಟ್‌ ಕೀಪರ್)

ಇದು ಕೇವಲ ಸೂಚನೆಯಲ್ಲ; ಇದೊಂದು ಸ್ವಯಂಚಾಲಿತ ಫಿಲ್ಟರ್ (Filter) ವ್ಯವಸ್ಥೆ. ಇದು ಎರಡು ಕಡೆ ನಿಂತು ಕಾವಲು ಕಾಯುತ್ತದೆ:

  • ಒಳಬರುವಾಗ (Input Guardrail): ಬಳಕೆದಾರರು ಕೇಳುವ ಪ್ರಶ್ನೆಯಲ್ಲೇನಾದರೂ ಅಸಭ್ಯ ಅಥವಾ ಅಪಾಯಕಾರಿ ಪದಗಳಿದ್ದರೆ, ಆ ಪ್ರಶ್ನೆಯನ್ನು AI ನ ಮಿದುಳಿನವರೆಗೆ ತಲುಪಲು ಬಿಡದೆಯೇ ಗೇಟ್‌ನಲ್ಲೇ ತಡೆದುಹಾಕುತ್ತದೆ.

  • ಹೊರಹೋಗುವಾಗ (Output Guardrail): ಒಂದು ವೇಳೆ AI ಏನಾದರೂ ಆಕಸ್ಮಿಕವಾಗಿ ತಪ್ಪಾದ ಅಥವಾ ವಿವಾದಾತ್ಮಕ ಉತ್ತರವನ್ನು ಸಿದ್ಧಪಡಿಸಿದರೆ, ಅದನ್ನು ಬಳಕೆದಾರರ ಸ್ಕ್ರೀನ್ ಮೇಲೆ ತೋರಿಸುವ ಮುನ್ನವೇ ಫಿಲ್ಟರ್ ಮಾಡಿ ಬ್ಲಾಕ್ ಮಾಡುತ್ತದೆ.

ಇದು ನಮಗೇಕೆ ಅಷ್ಟೊಂದು ಮುಖ್ಯ?

ಇಂದಿನ ದಿನಗಳಲ್ಲಿ ದೊಡ್ಡ ದೊಡ್ಡ ಕಂಪನಿಗಳು (ಬ್ಯಾಂಕ್, ವಿಮೆ, ಆಸ್ಪತ್ರೆಗಳು) ತಮ್ಮ ಗ್ರಾಹಕರಿಗಾಗಿ AI ಚಾಟ್‌ಬಾಟ್‌ಗಳನ್ನು ಬಳಸುತ್ತಿವೆ. ಒಂದು ವೇಳೆ ಈ ಸುರಕ್ಷತಾ ಬೇಲಿಗಳು ಇಲ್ಲದಿದ್ದರೆ, ಯಾರಾದರೂ ಕುತಂತ್ರಿಗಳು ಬಂದು AI ಗೆ ಮಂಕುಬೂದಿ ಎರಚಿ, "ನನಗೆ ನೂರು ರೂಪಾಯಿಗೆ ಕಾರು ಮಾರಾಟ ಮಾಡು" ಎಂದು ಒಪ್ಪಿಸಿಬಿಡಬಹುದು! ಅಂತಹ ನಷ್ಟಗಳು ಮತ್ತು ಅನಾಹುತಗಳು ಸಂಭವಿಸದಂತೆ ತಡೆಯಲು ಈ ಸಿಸ್ಟಮ್ ಪ್ರಾಂಪ್ಟ್ಸ್ ಮತ್ತು ಗಾರ್ಡ್‌ರೈಲ್ಸ್ ಅತ್ಯಗತ್ಯ.

ಸಾರಾಂಶ: ಸಿಸ್ಟಮ್ ಪ್ರಾಂಪ್ಟ್ಸ್ ಮತ್ತು ಗಾರ್ಡ್‌ರೈಲ್ಸ್ ಎಂದರೆ AI ಗೆ ಕಂಪನಿಗಳು ವಿಧಿಸುವ 'ಲಕ್ಷ್ಮಣ ರೇಖೆ'. ಬಳಕೆದಾರರು ಎಷ್ಟೇ ಆಸೆ ತೋರಿಸಿದರೂ, ಗದರಿಸಿದರೂ ಅಥವಾ ತರಹೇವಾರಿ ಟ್ರಿಕ್ ಬಳಸಿದರೂ AI ತನ್ನ ಮಿತಿಯನ್ನು ಮೀರಿ ತಪ್ಪು ದಾರಿಗೆ ಹೋಗದಂತೆ ತಡೆಯುವ ಶಾಲಾ ಮುಖ್ಯೋಪಾಧ್ಯಾಯರ ಕಠಿಣ ನಿಯಮಾವಳಿಗಳೇ ಇವು.