ನೀವು AI (ಉದಾಹರಣೆಗೆ ChatGPT) ಜೊತೆ ಮಾತನಾಡುವಾಗ, ಅದು ಕೆಲವೊಮ್ಮೆ ಅತ್ಯಂತ ಆತ್ಮವಿಶ್ವಾಸದಿಂದ ಹಸಿ ಸುಳ್ಳುಗಳನ್ನು ಹೇಳುವುದನ್ನು ಗಮನಿಸಿದ್ದೀರಾ?

ಇಲ್ಲದ ಪುಸ್ತಕದ ಹೆಸರನ್ನು ಇರಲೇನೋ ಎಂಬಂತೆ ವಿವರಿಸುವುದು, ಬದುಕಿರುವ ವ್ಯಕ್ತಿಯನ್ನು ತೀರಿಕೊಂಡಿದ್ದಾರೆ ಎಂದು ವಾದಿಸುವುದು, ಅಥವಾ ಅಸ್ತಿತ್ವದಲ್ಲೇ ಇಲ್ಲದ ಸಾಫ್ಟ್‌ವೇರ್ ಕೋಡ್ ಅನ್ನು ಬರೆದುಕೊಡುವುದು! ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ ಈ ವಿಚಿತ್ರ ನಡವಳಿಕೆಯನ್ನು ತಾಂತ್ರಿಕ ಜಗತ್ತಿನಲ್ಲಿ 'ಭ್ರಮೆ' (Hallucination) ಎಂದು ಕರೆಯುತ್ತಾರೆ.

ಇಷ್ಟೊಂದು ಬುದ್ಧಿವಂತವಾಗಿರುವ ಕಂಪ್ಯೂಟರ್, ಹೀಗೆ ಕಣ್ಣಿಗೆ ಮಣ್ಣೆರಚುವಂತೆ ಸುಳ್ಳು ಹೇಳಲು ಹೇಗೆ ಸಾಧ್ಯ?

ಪರೀಕ್ಷೆಯಲ್ಲಿ ಕಥೆ ಕಟ್ಟುವ ವಿದ್ಯಾರ್ಥಿಯ ಉದಾಹರಣೆ!

ಇದನ್ನು ಅರ್ಥಮಾಡಿಕೊಳ್ಳಲು ವೈವಾ (Viva) ಪರೀಕ್ಷೆಯಲ್ಲಿ ಕುಳಿತಿರುವ ಒಬ್ಬ ವಿದ್ಯಾರ್ಥಿಯನ್ನು ಕಲ್ಪಿಸಿಕೊಳ್ಳಿ.

ಪರೀಕ್ಷಕರು ಒಂದು ಕಷ್ಟದ ಪ್ರಶ್ನೆ ಕೇಳುತ್ತಾರೆ. ಆ ವಿದ್ಯಾರ್ಥಿಗೆ ಅದರ ಸರಿಯಾದ ಉತ್ತರ ಗೊತ್ತಿಲ್ಲ. ಆದರೆ "ನನಗೆ ಗೊತ್ತಿಲ್ಲ" ಎಂದು ಹೇಳಿ ತನ್ನ ಮರ್ಯಾದೆ ಕಳೆದುಕೊಳ್ಳಲು ಅವನಿಗೆ ಇಷ್ಟವಿಲ್ಲ. ಬದಲಿಗೆ, ತನಗೆ ತಿಳಿದಿರುವ ಒಂದೆರಡು ತಾಂತ್ರಿಕ ಪದಗಳನ್ನು ಬಳಸಿಕೊಂಡು, ಅತ್ಯಂತ ಗಂಭೀರವಾಗಿ, ಮುಖದಲ್ಲಿ ಎಳ್ಳಷ್ಟೂ ಅಂಜಿಕೆ ಇಲ್ಲದೆ ಒಂದು ದೊಡ್ಡ ಕಥೆಯನ್ನೇ ಹೇಳಿಬಿಡುತ್ತಾನೆ. ಆತನ ಭಾಷೆ ಮತ್ತು ವ್ಯಾಕರಣ ಎಷ್ಟು ಅದ್ಭುತವಾಗಿರುತ್ತದೆ ಎಂದರೆ, ಪರೀಕ್ಷಕರು ಒಂದು ಕ್ಷಣ ಅದು ನಿಜವೇ ಇರಬಹುದೆಂದು ನಂಬಿಬಿಡುತ್ತಾರೆ!

AI ಮಾಡುವ ಕೆಲಸವೂ ಅಕ್ಷರಶಃ ಇದೇ. ತನಗೆ ಗೊತ್ತಿಲ್ಲದ ವಿಷಯ ಎದುರಾದಾಗ, ಅದು ಮೌನವಾಗಿರುವ ಬದಲು ಲಭ್ಯವಿರುವ ಅರೆಬರೆ ಮಾಹಿತಿಯನ್ನು ಜೋಡಿಸಿ ಅತ್ಯಂತ ವಿಶ್ವಾಸದಿಂದ ಸುಳ್ಳನ್ನು ಸೃಷ್ಟಿಸುತ್ತದೆ.

AI ಗಳಲ್ಲಿ ಈ 'ಭ್ರಮೆ' ಹುಟ್ಟಲು ಪ್ರಮುಖ ಕಾರಣಗಳೇನು?

1. ಅದಕ್ಕೆ 'ಸತ್ಯ' ಮತ್ತು 'ಸುಳ್ಳಿನ' ಅರಿವಿಲ್ಲ!

ನಾವು ಮನುಷ್ಯರು ಯೋಚಿಸುವಾಗ ಸತ್ಯಾಂಶಗಳನ್ನು (Facts) ಆಧರಿಸಿ ಯೋಚಿಸುತ್ತೇವೆ. ಆದರೆ AI ಹಾಗಲ್ಲ. ಹಿಂದಿನ ಲೇಖನಗಳಲ್ಲಿ ನೋಡಿದಂತೆ, AI ಕೇವಲ 'ಮುಂದಿನ ಪದವನ್ನು ಊಹಿಸುವ' (Next Word Prediction) ಒಂದು ಗಣಿತದ ಯಂತ್ರವಷ್ಟೇ. ವಾಕ್ಯವನ್ನು ವ್ಯಾಕರಣಬದ್ಧವಾಗಿ ಮತ್ತು ಸುಂದರವಾಗಿ ಪೂರ್ಣಗೊಳಿಸುವುದಷ್ಟೇ ಅದರ ಗುರಿ. ಆ ವಾಕ್ಯ ಸತ್ಯವೋ ಸುಳ್ಳೋ ಎಂಬ ಸಾಮಾನ್ಯ ಜ್ಞಾನ (Common Sense) ಅದಕ್ಕಿರುವುದಿಲ್ಲ.

2. ಮಾಹಿತಿಯ ಕೊರತೆ (Lack of Training Data)

AI ಅನ್ನು ಇಂಟರ್ನೆಟ್‌ನ ದತ್ತಾಂಶಗಳಿಂದ ತರಬೇತಿಗೊಳಿಸಿರಲಾಗುತ್ತದೆ. ನೀವು ಕೇಳುವ ಪ್ರಶ್ನೆಯ ಬಗ್ಗೆ ಅದರ ಬಳಿ ಸರಿಯಾದ ಮಾಹಿತಿ ಇಲ್ಲದಿದ್ದಾಗ, ಅದು ಖಾಲಿ ಬಿಡುವ ಬದಲು, ಬೇರೆ ಯಾವುದೋ ಸಂಬಂಧವಿಲ್ಲದ ಮಾಹಿತಿಯನ್ನು ಎಳೆತಂದು ತೇಪೆ ಹಾಕುತ್ತದೆ.

3. ಹೆಚ್ಚಿನ ಸೃಜನಶೀಲತೆಯ ಸೆಟ್ಟಿಂಗ್ (High Temperature)

(ಹಿಂದಿನ ಲೇಖನವನ್ನು ನೆನಪಿಸಿಕೊಳ್ಳಿ). ನೀವು AI ನ ಟೆಂಪರೇಚರ್ (ಸೃಜನಶೀಲತೆಯ ನಿಯಂತ್ರಕ) ಅನ್ನು ತುಂಬಾ ಹೆಚ್ಚಾಗಿ ಇಟ್ಟಾಗ, ಅದು ಕಟ್ಟುನಿಟ್ಟಾದ ವಾಸ್ತವವನ್ನು ಬಿಟ್ಟು, ಹೊಸ ಪದಗಳನ್ನು ಮತ್ತು ವಿಭಿನ್ನ ವಾಕ್ಯಗಳನ್ನು ಹುಡುಕಲು ಹೋಗಿ ಅತಿಯಾದ 'ಭ್ರಮೆ'ಗೊಳಗಾಗುತ್ತದೆ.

ಈ ತಪ್ಪು ಮಾಹಿತಿಯನ್ನು ತಡೆಗಟ್ಟುವುದು ಹೇಗೆ?

AI ನ ಈ ಗಜಿನಿ ಕಾಯಿಲೆಯನ್ನು ಸಂಪೂರ್ಣವಾಗಿ ಗುಣಪಡಿಸಲು ಸಾಧ್ಯವಿಲ್ಲ, ಆದರೆ ಇದನ್ನು ನಿಯಂತ್ರಿಸಲು ನಾವು ಕೆಲವು ತಂತ್ರಗಳನ್ನು ಬಳಸಬಹುದು:

  • ಸ್ಪಷ್ಟವಾದ ಸೂಚನೆ (Prompting): AI ಗೆ ಪ್ರಶ್ನೆ ಕೇಳುವಾಗ, "ನಿನಗೆ ನಿಖರವಾದ ಉತ್ತರ ಗೊತ್ತಿಲ್ಲದಿದ್ದರೆ ದಯವಿಟ್ಟು ಕಥೆ ಕಟ್ಟಬೇಡ, ನೇರವಾಗಿ 'ಗೊತ್ತಿಲ್ಲ' ಎಂದು ಹೇಳು" ಎಂದು ಕಟ್ಟುನಿಟ್ಟಿನ ಷರತ್ತು ವಿಧಿಸಬೇಕು.

  • ಹಿನ್ನೆಲೆ ಮಾಹಿತಿ ಒದಗಿಸುವುದು (Using Context Window): (ಮೊದಲ ಲೇಖನದ ಟೇಬಲ್ ಉದಾಹರಣೆ ನೆನಪಿಸಿಕೊಳ್ಳಿ). AI ಗೆ ಒಂದು ಮಾಹಿತಿಯನ್ನು (PDF ಅಥವಾ ಡಾಕ್ಯುಮೆಂಟ್) ನೀವೇ ಕೊಟ್ಟು, "ಕೇವಲ ಈ ಲೇಖನದಲ್ಲಿರುವ ಮಾಹಿತಿಯ ಆಧಾರದ ಮೇಲೆ ಮಾತ್ರ ಉತ್ತರಿಸು, ನಿನ್ನ ಸ್ವಂತಿಕೆ ಬೇಡ" ಎಂದು ನಿರ್ಬಂಧಿಸಿದರೆ ಭ್ರಮೆಯನ್ನು ಬಹುಪಾಲು ಕಡಿಮೆ ಮಾಡಬಹುದು.

  • ಹಂತ ಹಂತವಾಗಿ ಯೋಚಿಸಲು ಹೇಳುವುದು (Step-by-Step): ಯಾವುದೇ ಸಂಕೀರ್ಣ ಲೆಕ್ಕ ಅಥವಾ ತರ್ಕವನ್ನು ಬಿಡಿಸುವಾಗ, "ಇದನ್ನು ಹಂತ ಹಂತವಾಗಿ ಬಿಡಿಸು" (Think step by step) ಎಂದು ಸೂಚನೆ ನೀಡಿದರೆ, ಅದು ತಪ್ಪು ಮಾಡುವ ಸಾಧ್ಯತೆ ಗಣನೀಯವಾಗಿ ಕಡಿಮೆಯಾಗುತ್ತದೆ.

ಸಾರಾಂಶ: AI ಎನ್ನುವುದು ಎಲ್ಲವನ್ನೂ ತಿಳಿದಿರುವ 'ಸರ್ವಜ್ಞ' ಅಲ್ಲ; ಅದೊಂದು ಅತ್ಯಂತ ವೇಗವಾಗಿ ಪದಗಳನ್ನು ಜೋಡಿಸುವ 'ಮಹಾನ್ ಮಾತುಗಾರ'. ಅದರ ಮಾತುಗಳನ್ನು ಕುರುಡಾಗಿ ನಂಬುವ ಮುನ್ನ, ಅದರಲ್ಲಿರುವ ವಾಸ್ತವವನ್ನು ನಾವೇ ಒಮ್ಮೆ ಪರಿಶೀಲಿಸಿಕೊಳ್ಳುವುದು ಅತ್ಯಗತ್ಯ!